一.介绍

　　背景：目前在开发一个爬虫框架，使用了.net core webapi接口作为爬虫调用入口，在调用 webapi时发现爬虫耗时很短(1秒左右)，但客户端获取响应时间却在3~4秒。对于这个问题考虑使用响应压缩技术。

　　网络带宽是一种有限资源。 减小响应大小通常可显著提高应用的响应速度。 减小有效负载大小的一种方式是压缩应用的响应。

　　在 IIS、Apache 或 Nginx 中是使用基于服务器的响应压缩技术。考虑到动态压缩以及减少服务器的配置，这里介绍.net core中间件来实现响应压缩。

　　压缩的事项：

　　　　1)能够压缩的包括：CSS、JavaScript、HTML、XML 和 JSON。

　　　　2)对图片等资产不会压缩，因为压缩的字节只会小幅减少，而被处理压缩所花费的时间所掩盖。

       　　3)不要压缩小于约 150-1000 字节的文件。

　　　　4)客户端请求时通过Accept-Encoding来指定压缩类型，中间件支持二种常用的压缩类型如下：

　　　Accept-Encoding: br,gzip
  　　　　--br是指Brotli 压缩格式,默认的压缩方式。
  　　　　--gzip是指Gzip压缩格式。

　　　5)中间件为压缩指定一组默认的 MIME 类型：　　　　　

　　　　　　application/javascript
　　　　　　application/json
　　　　　　application/xml
　　　　　　text/css
　　　　　　text/html
　　　　　　text/json
　　　　　　text/plain
　　　　　　text/xml

　　具体介绍看官方文档：https://docs.microsoft.com/zh-cn/aspnet/core/performance/response-compression?view=aspnetcore-5.0

二. 配置压缩中间件

　　使用压缩中间件很简单，代码如下：

public class Startup
{
    public void ConfigureServices(IServiceCollection services)
    {
        services.AddResponseCompression();
    }

    public void Configure(IApplicationBuilder app, IHostingEnvironment env)
    {
        app.UseResponseCompression();
    }
}

三.演示

　　客户端请求可以是Postman,Fiddler, RestSharp等，下面使用RestSharp来请求爬虫接口获取数据，默认RestSharp请求头带了Accept-Encoding: gzip, deflate

　　3.1 未使用响应压缩技术，请求使用fiddler监听

 　　　　1）请求头statistics选项卡中，接口耗时4.822秒

　　　　 2)  响应Transformer选项卡中，响应字节572,839

　　　　 3)  响应TextView能直接看到明文

　　3.2 使用响应压缩技术，请求使用fiddler监听

 　　　　1）请求头statistics选项卡中，接口耗时1.182秒

 　　　　2)  响应Transformer选项卡中，响应字节98，930

　　　　 3)  响应TextView选项卡中，不能直接看到明文

　　　　 4）响应Headers选项卡中，Content-Encoding:gzip