快手 App 的背后是一个百万量级的微服务体系，日均支撑着十万亿级的调用。为了确保动态配置、服务发现、流量治理等基础服务治理能力能够满足业务春晚活动的高可用要求，快手微服务团队对服务治理平台从需求、架构、部署、流程等方面进行了系统的梳理和改进，并推动业务团队进行了必要的可用性改造。

本次分享将回顾当时面临的问题和挑战，给出我们的分析和解法，并总结整个实施落地过程中的一些经验和心得。

演讲大纲：

1. 快手服务治理平台的演进和现状
2. 春节活动流量对服务治理平台的压力和需求
3. 服务治理平台的高可用高可伸缩方案
   • 动态配置分发是各类紧急降级方案的基础，重中之重
   • 通过弹性扩容应对突增流量，服务发现不能掉链子
   • 服务故障不扩散，流量治理是关卡
4. 一些复盘和经验总结
5. 未来的挑战和计划

听众受益

1. 了解快手万亿级服务治理平台的设计理念
2. 在有限的人力和资源下，服务治理应对春晚级活动的技术实践

函数计算遵循服务函数化理念，支持一键创建和部署函数，屏蔽资源和运维细节，极大降低了开发者的开发运维成本。函数的轻量化和快速启动能力，允许平台针对函数自动扩缩容，极致优化资源成本。平台还提供了各种常用的触发器作为底层各个基础组件的粘合剂，开发者可以轻而易举完成相关领域的开发需求。

本次演讲将着重分享函数计算的核心架构和关键技术点，介绍函数平台在字节跳动处理千万级别 QPS 的落地经验，探讨字节跳动函数计算的特色创新以及未来的发展前景。

内容大纲

1. 字节跳动函数计算的架构高可用设计、冷启动优化、自动扩缩策略、轻量级虚拟化等
2. 字节跳动函数计算的特色和创新
3. 函数计算在字节跳动的核心落地场景
4. 函数计算的发展方向以及展望

听众受益

1. 了解 Serverless 的价值
2. 解析函数计算的核心架构和演进思路
3. 了解企业实施 Serverless 面临的问题以及落地的关键点

伴鱼最早只有一个简单的服务框架，支撑多个细分服务的开发。从2018年之后业务进入快速发展时期并且我们的服务形式主要是付费用户上课，对研发效能、系统稳定性、存储稳定性提出了更高的要求。同时，由于早期可选 RPC 框架不多，导致伴鱼目前 Thrift、gRPC、HTTP 共存，基础模块依赖层次混乱，基础系统使用不规范，有一定的历史债务。

为了解决这些技术债，伴鱼技术团队在业务优先的前提下做了一些技术上的优化改进：

框架层面：扩展了之前的框架，划分出服务注册、服务发现、RPC 封装、路由模块、动态配置、打点统计等，降低模块耦合，提升稳定性、可见性。

基础库方面：封装了 DB、Redis、MQ、配置库、日志库等，提供了监控埋点、服务治理、规范化等各种能力。其中一些基础库也会静默对接稳定性平台和APM平台，具备一定的熔断和服务分析能力。

基础服务方面：开发稳定性平台-Dolphin，提供限流、降级、熔断能力；开发TiDB中间件-Weir提升DB稳定性；提出了“代码生成即服务”这样一个概念，自研了 codegen 服务，其可以解析、重写历史代码，新项目也可以通过 codegen 生成整体结构、数据库各种操作等，对解决历史问题、提升研发效能非常有帮助。

本次演讲，我会重点介绍我们在研发过程中遇到的问题和解决思路。

演讲提纲：

1. 快速发展过程中服务治理如何负重前行
2. 稳定性是在线教育服务治理的重中之重
3. 微服务推广、落地实践
4. 未来的规划，需要做的基础设施准备

听众受益点：

1. 公司由小到大的快速发展时期，如何在服务治理过程中处理技术债务、业务诉求、技术建设？
2. 服务治理的点非常多，在特定情况下如何寻找切入点，先做什么、后做什么，如何权衡？
3. 伴鱼在服务治理过程中一些最佳实践的点，如泳道建设、代码生成即服务、稳定性建设、规范化建设等。

如何使线上业务具备足够弹性的同时，大幅降低企业的资源成本，是每个企业都应该关注的问题。对于这两个问题，猫眼同样还具有较大的提升空间，一是资源成本居高不下（尤其在疫情当下更为突出），二是在容量评估、系统弹性上还存在着一些短板。为了解决以上问题，猫眼基础架构团队在K8s的基础上自建了弹性伸缩平台。

解决方案介绍：弹性策略层面，提供指标跟踪、水位预测、分时段副本保障等通用策略；容量评估层面，结合自身的业务特点推出了自动化容量评估平台以便于业务方更高效的进行容量评估；流量管控层面，在单机限流、集群限流、熔断降级等流控能力的基础上，推出自适应限流方案。最终在弹性伸缩和多维度流量管控的双重保障下，实现了成本、效率、弹性上的三重创收。

现状介绍：弹性伸缩平台推出后，已覆盖了猫眼70%的核心服务，相同业务体量下资源成本下降60%，并顺利支撑业务稳定度过七夕等热门档期。

演讲提纲：

1. 弹性策略
   • 架构剖析
   • 通用数据处理和伸缩决策引擎
   • 通用指标跟踪策略
   • 水位预测
   • 分时段副本保障
2. 容量评估
   • 自动化容量评估平台
3. 流量管控
   • 自适应限流
4. 具体业务案例
   • 周期平缓型业务
   • 瞬时洪峰型业务
5. 技术难点解决经验总结

听众收益点：

1. 了解如何打造通用弹性策略并基于K8s实现弹性伸缩平台从0到1的建设；
2. 了解如何结合现有流量管控体系在成本、效率、弹性上取得三重创收。

许多客户正在将其应用程序从旧系统迁移到云中。网格扩展在其中扮演着重要的⻆色，它将 Kubernetes 服务和其他在虚拟机或物理机上运行的服务集成到服务网格中。

对于跨多种类型的计算基础设施（比如Kubernetes集群或虚拟机）运行的服务，服务网格可以提供一致的网络流量控制。通过 Envoy 代理为应用服务提供了全局负载均衡能力，可以在多个跨地域的集群中部署运行应用服务的实例。服务网格将这些应用服务的运行状况、路由和后端信息提供给 Envoy 代理，使其能够以最佳方式将流量路由至某个服务位于多个地域的应用实例。

在关于支持客户从传统环境迁移上云的案例研究中，我将讨论服务网格技术如何提供此类功能。听众会了解到如何轻松地将集群添加到网格中、以及如何将虚拟机上运行的服务注册到一个网格中，并了解到如何进行跨地域多集群的全局负载均衡。

演讲提纲：

1. 服务网格是什么
2. 非容器应用是怎样被网格化的
   • 网格扩展
   • 安全机制
   • 拦截机制
3. 服务网格对混部应用的统一管理
   • 流量管理
   • 链路追踪
   • 监控指标
4. 对服务网格在云原生架构下的思考

听众受益点：

1. 了解服务网格技术如何充当了云原生应用通信基础设施的角色
2. 服务网格托管形式的架构优势与用户价值
3. 服务网格下如何支持混合基础设施下应用服务的统一管理
4. 如何支持多云混合云、线下IDC的统一管理