实时数据分析

会议室:待定
出品人:王峰(莫问)

大数据技术经过最近 10 年来的快速发展,已经渗透到各行各业,数据的爆发式增长对... 展开 >

专题出品人:王峰(莫问)

阿里巴巴计算平台事业部资深技术专家

王峰,花名“莫问”,2006 年硕士毕业后加入阿里巴巴集团,前期从事搜索引擎技术研发,2009 年开始转向大数据技术方向,目前在计算平台事业部担任资深技术专家,负责实时计算团队。阿里巴巴实时计算团队围绕 Apache Flink 打造的实时计算平台:Blink,不仅服务于阿里巴巴集团(淘宝、天猫、聚划算、高德、优酷、飞猪和菜鸟等)所有数据业务,同时也在阿里云上为广大中小企业提供全球领先的实时计算云产品服务。

专题:实时数据分析

大数据技术经过最近 10 年来的快速发展,已经渗透到各行各业,数据的爆发式增长对海量数据处理能力带来了挑战,与此同时用户对海量数据的时效性需求也越来越强,用户已经不再满足 T+1 的数据报表,更希望能实时看到大数据带来的价值,从而能在第一时间对业务发展做出判断和决策,例如:电商大促和金融风控等场景,延迟的数据分析结果已经失去了价值和意义。

为了应对大数据高时效性的发展需求,很多实时计算和在线交互式数据分析技术应运而生,包括 Flink,Spark,Presto,Druid,Clickhouse,Delta,Hudi 和 Iceberg 等,甚至有些新技术已经开始走向在离线融合数据分析方向,利用一套技术完整的提供实时和离线数据分析方案,在本专题中我们将邀请国内外一线互联网企业的多位技术专家为大家分享新的实时计算和数据分析技术发展趋势,并通过大量真实生产实践案例给大家带来新的启发。

by 胡争

阿里巴巴
技术专家

数据湖已经成为各个公司的标配,为了更好地帮助 Flink 用户无缝对接数据湖场景,我们联合 Apache Iceberg 社区正积极地推动 Flink 实时数据湖技术方案的落地。

内容大纲

1. 为什么选择Apache Iceberg作为Apache Flink的开源数据湖技术方案

  • Databricks Delta、Apache Iceberg、Apache Hudi 三个产品的对比
  • 推导得出数据湖技术方案的共同特征
  • Flink 用户对数据湖方案的需求
  • 推导得出 Flink 数据湖的最终特点及最终选型

2. Flink+Iceberg 实时数据湖的核心场景及应用价值

  • 常用的场景
  • 应用价值

3. 为了落地 Flink+Iceberg 数据湖技术方案,我们在 Apache Iceberg 社区所做的一些工作

  • Iceberg 现状
  • Iceberg 对接 Flink,让 Iceberg 能作为 Flink 的 source 和 sink
  • 如何实现增量消费 Iceberg 数据
  • 如何解决低延迟的增量消费

听众受益

  1. 理解 Flink 数据湖场景背后的核心需求
  2. 了解 Flink 数据湖在 Delta、Iceberg、Hudi三个项目之间的选型以及背后的理由
  3. 理解 Flink+Iceberg 数据湖技术方案的核心设计

适合人群

对实时数仓和数据湖比较感兴趣的人群,最好有一些批处流处理的了解。 

by 罗齐

字节跳动
大数据平台高级工程师

全域数据集成是数据中台建设的基石,在数据源种类繁多、数据量庞大、实时性和稳定性要求高的场景下会带来很大挑战。本次演讲主要分享字节跳动全域数据集成服务在每日数万个任务和数十万亿级别数据量的场景下,如何基于统一的技术栈来解决这些问题。内容包括基于 Flink 批流一体的数据集成架构,离线/实时/增量各类数据传输场景下的混合技术模型,高性能和高可用要求带来的问题和解决方案等。 

内容大纲

  1. 字节跳动数据集成场景中的挑战
  2. 全域数据集成服务的演进历程
  3. 以 Flink 批流一体为核心的的混合技术架构
  4. 高性能和高可用场景下的解决方案


听众受益

  1. 了解数据集成在字节跳动面临的各种复杂业务场景
  2. 了解 Flink 批流一体的架构如何解决数据集成领域的各类问题
  3. 了解如何打造高性能和高可用的数据集成服务

适合人群

最好对大数据生态,数仓体系或数据中台有基本概念。 

by 郭君健

快手
音视频体验优化中心负责人

以快手为代表的短视频平台所延伸出的直播生态成为内容平台的新增量,它为更多用户提供了看见、分享多样生活的可能性,为公会、主播、普通人提供了新的变现渠道。作为 DAU 已超过 1 亿的直播生态服务平台,我们需要持续监测线上内容分发质量,解决故障和质差问题给用户带来的体验问题,这里给大家介绍的是我们如何基于 Flink 构建实时稳定的计算服务,通过专业的 QoS 和 QoE 实验和分析方法,实现线上 CDN 流量的实时调度,不断改善用户体验,为每个普通人提供专业稳定的直播开播和观看服务。

听众受益

  1. 如何构建稳定的实时计算服务
  2. 如何评价在线流量质量,实现高效的内容分发调度
  3. 如何做好基于多维分析的故障检测机制
  4. 如何评价调度效果,数据驱动和 QoS vs QoE 分析

by 覃永靖

奇安信
实时安全分析引擎团队架构师

网络安全态势越来越复杂,传统的基于单点的防护和攻击检测系统在应对现代网络攻击方面有着很大的局限性。基于大数据平台,通过流式实时分析技术可以对全局网络空间进行实时的分析和异常检测,解决单点很难发现和处理的安全问题。

相比与互联网公司常见的大数据实时分析场景,面向企业用户的网络安全分析场景存在很多特殊需求和挑战,本次分享将介绍网络安全领域对实时分析系统的需求,并从这些需求出发,讲解如何设计适合网络安全领域的实时分析引擎,希望为业界解决类似问题提供参考和借鉴。

内容大纲

1、网络安全领域对实时监测系统的需求

  • 网络安全领域的特点
  • 网络安全领域对实时监测系统的要求、面临的问题及挑战

2、如何选择一个适合网络安全场景的实时计算框架

  • 自研还是开源实时计算框架,如何选择?

3、如何设计网络安全领域的实时分析引擎

  • 为什么要定制适用于网络安全场景的 DSL
  • 如何选择并设计引擎架构
  • 如何设计大规模规则编译器并对运行图进行优化以适应网络安全场景(子图融合、数据流优化、字段裁剪、表达式优化)
  • 如何监控运行图状态及将图状态转换为用户规则状态
  • 如何定制安全分析时间窗口并对时间进行管理
  • 如何实现实时监测和告警并避免重复计算
  • 如何增强引擎稳定性(内存 & CPU 保护)

听众受益

1. 了解如何基于 Flink 构造网络安全领域的实时分析引擎;

2. 了解实时网络安全分析引擎的架构和设计;

3. 了解构建实时网络安全分析引擎遇到的问题和解决方案。

交通指南

北京富力万丽酒店

Renaissance Beijing Capital Hotel
地址: 北京朝阳区东三环中路61号
  • 微信咨询

  • 电话咨询

    联系电话:86+ 13167596032

微信联系我们