性能提升一倍！云原生网关支持 TLS 硬件加速

云原生网关通过支持TLS硬件加速，实现了性能提升一倍的效果，具体表现为TLS握手时延降低一倍，极限QPS提升80%以上。

• 性能提升的背景与挑战

  HTTPS的普及与性能问题：随着网络环境复杂化，HTTPS的密文传输协议因安全性高被广泛应用，但认证及数据加解密过程导致网站访问速度变慢，服务器CPU消耗高，机器成本增加。

  软件优化的局限性：业界尝试了Session复用、OCSP Stapling、False Start、dynamic record size、TLS1.3、HSTS等软件优化方案，但无法满足流量增长速度，且CPU摩尔定律已入暮年，专用硬件卸载CPU密集型运算成为通用解决方案。

• 网关作为HTTPS优化的最佳路径

  运维降本：网关统一处理HTTPS相比各业务分散处理，运维成本更低。

  机器降本：网关采用集群化部署，统一HTTPS优化能显著降低机器成本。

  业务提效：网关处理HTTPS后，业务只需关注自身逻辑，提升开发效率。

• 阿里在硬件加速上的探索

  基于QAT卡的TLS硬件加速方案

  方案组成：由Tengine的ssl_async指令、OpenSSL + QAT Engine及QAT Driver三部分组成。Tengine通过适配OpenSSL-1.1.0的异步接口，将私钥操作卸载至硬件的QAT engine中，引擎通过QAT驱动调用硬件完成非对称算法取回结果。

  方案优点：HTTPS卸载由独立硬件QAT完成，不额外增加CPU消耗，性能非常好。

  方案缺点：运维成本高，需提前独立采购QAT卡，尤其对于电商大促的突发流量场景无法做到弹性；在容器化部署背景下，QAT使用存在稳定性问题。

  基于CPU Multi-Buffer特性的TLS卸载加速方案

  方案背景：阿里云推出基于开源Envoy构建的MSE云原生网关产品，利用搭载最新至强处理器Ice Lake的ECS产品提供的Crypto Acceleration特性，包括Vector AES，通过multi-buffer lib配合，加速AES、RSA、EC等密码学计算，摆脱专用硬件加速卡的限制，使用CPU内置指令结合SIMD机制提升HTTPS性能。

  方案适配：云原生网关率先完成对其适配，将硬件加速的性能优势带给用户，在不增加用户资源成本的同时大幅度提升HTTPS性能。

• 方案压测数据与结论

  压测基础环境：云原生网关规格为1C2G * 1，压测工具为Grafana k6，请求大小为1kb，证书为RSA2048，加密套件包括ECDHE-RSA-CHACHA20-POLY1305(TLS1.2)和TLS_AES_256_GCM_SHA384(TLS1.3)。

  压测结论：1C2G情况下，开启硬件加速后极限QPS提高80%以上，TLS握手时间降低一倍。

  测试数据：

  TLS1.2未开启硬件加速，并发度200时，QPS为1009，TLS握手平均时间为98.5ms，最长时间为177.37ms；并发度500时，QPS为1004，TLS握手平均时间为313.84ms，最长时间为457.56ms。

  TLS1.3未开启硬件加速，并发度200时，QPS为995，TLS握手平均时间为77.81ms，最长时间为177.24ms。

  TLS1.3开启硬件加速，并发度200时，QPS为1886，TLS握手平均时间为48.71ms，最长时间为104.04ms。

  TLS1.2开启硬件加速，并发度200时，QPS为1876，TLS握手平均时间为59.98ms，最长时间为113.55ms；并发度500时，QPS为1873，TLS握手平均时间为145.81ms，最长时间为262.91ms。

• 方案优点

  无需独立硬件支持，运维成本低且易于弹性扩缩容。

  适用场景更广泛。

• 硬件加速功能上线与用户收益

  硬件加速功能已正式上线，用户无需关心底层硬件加速机器的运维，就能在同规格下获取一倍的HTTPS性能提升。