现代数据架构

会议室:待定
出品人:卢誉声

现如今,许多使用传统数据架构的组织,都在重新思考企业内数据架构是否仍能满足业务需... 展开 >

专题出品人:卢誉声

Autodesk资深工程师

卢誉声,Autodesk 核心数据平台和计算平台资深工程师,主攻平台架构研发。在此之前,曾任职于思科系统(Cisco Systems)。

工作内容涵盖大规模分布式系统的服务器后端、前端以及 SDK 的设计与研发,在数据处理、实时计算、分布式系统设计与实现、性能调优、高可用性和自动化等方面均有着丰富的实战经验。同时,也拥有着丰富的面试和面试官经验。

擅长 C/C++、JavaScript 开发,此外对 Scala、Java 以及移动平台等也有一定研究。著有《移动平台深度神经网络实战:原理、架构与优化》和《分布式实时处理系统:原理架构与实现》,并译有《高级C/C++编译技术》和《JavaScript编程精解(原书第2版)》等。

专题:现代数据架构

现如今,许多使用传统数据架构的组织,都在重新思考企业内数据架构是否仍能满足业务需求。显然,大多数现有的数据架构无法在海量数据面前实现快速开发、运行和分析,同时也难以支撑灵活的数据分析能力。

现代数据架构的引入,让数据重获新生,利用多种不同的数据存储方式和组合,实现灵活的数据处理和分析性能。正所谓数据即是正义,现代数据架构正是让企业数据发挥更大作用的催化剂。

本专场将特邀不同行业的一线数据架构专家,与我们共同探讨现代数据架构的实践,包括数据治理、性能优化、AI分析、自动化以及架构设计等令人激动的主题。

by 万鹏

数禾科技
大数据负责人

企业如何搭建高效、弹性、稳定的数据架构,来有效支撑大规模C端用户金融(信贷)业务的智能化运营?数禾科技在阿里云生态内率先实践数据湖以及湖仓一体解决方案,全面驱动业务信息化、自动化以及智能化发展。演讲中,我会高度提炼数据层面的需求和挑战,深度剖析数据湖在技术层面以及产品层面如何有效地支持业务的持续迭代。

演讲提纲:

1.金融科技之信贷业务三层数据需求

  • 数据反应业务
  • 数据支撑线上服务
  • 数据驱动业务迭代

2.数据架构面临的挑战

  • 数据种类多且含大量敏感数据
  • 对变化敏感
  • 离线和实时强一致性

3.数据湖架构解决方案

  • 如何解决数据种类复杂、结构混乱
  • 如何实现真正的弹性计算
  • 多计算引擎如何实现元数据共享

4.流批一体解决方案

  • 什么是流批一体以及问题域
  • 流批一体的主流解决方案
  • 我们的实践

你将获得:

  1. 了解金融信贷业务的数据需求及关键挑战
  2. 打通数据湖架构、湖仓一体、流批一体等概念
  3. 了解数据湖架构实践与解决方案
  4. 了解流批一体的问题域及解决方案

by 马阳阳

达达集团
大数据平台高级工程师

当下,随着业务的发展,对实时数据的要求开始大量涌现,原来单点实时数据应用的开发方法已不能满足我们的需求。因此,一系列关于实时数仓的探索成了很多企业的必经之路。

本次演讲将介绍达达集团实时数仓架构中基于 Apache Doris 的部分。因为使用 Apache Doris 进行实时数仓建设,需要一系列计算引擎及平台工具的支撑,所以此次演讲将会为你重点介绍实践中达达集团为实时数仓提供的平台工具。同时,实时数仓在达达集团已经得到了一系列应用,因此也会为你介绍实时数仓成果的应用。

演讲提纲:

  1. 实时数仓建设背景
  2. 实时数仓选型及架构
  3. 实时数仓的平台支撑
    • Doris
    • Flink
    • Spark
  4. 未来规划

你将获得:

  1. 了解建设实时数仓的必要性
  2. 了解一种基于 Apache Doris 的实时数仓架构
  3. 了解为建设实时数仓需要提供的平台工具支撑

by 张利兵

第四范式
AI数据平台架构师

随着近几年流式计算和数据湖的快速发展,越来越多的企业采用数据湖构建数据仓库,并形成湖仓一体化架构体系,极大地补充了面向 BI 的数仓体系建设。但数据湖和批流一体化并不是 BI 领域独享的技术栈,可以说数据湖更加适合于 AI 领域的应用构建,因此如何借助批流一体化和数据湖等能力来构建面向 AI 的数据平台逐步成为大多数公司必须面临的选择。

本次演讲将主要围绕第四范式批流一体化机器学习平台构建过程,介绍对 Flink、Iceberg 等主流技术的应用,结合机器学习场景数据架构体系特点,如何将批流一体和数据湖应用在 AI 场景中。同时,也会介绍如何利用云原生调度框架 Argo 整合 AI 场景中在线、离线以及流式等应用编排和调度问题,以及面向 AI 的统一元数据管理中心该如何建设等。

演讲提纲:

  1. 机器学习平台数据架构体系
  2. 批流一体化数据架构
  3. 数据湖探索与实践
  4. 云原生调度架构深度探索
  5. 统一元数据管理中心构建

你将获得:

  1. 了解现代数据架构批流一体前沿技术
  2. 了解面向机器学习的数据平台谈构建经验
  3. 了解数据湖探索与实践
  4. 学习基于 Flink 构建批流一体数据平台思路

by 金路

智慧芽
数据仓库团队负责人/架构师

数据驱动运营的背景下,任何业务的开展和有效运营,都离不开数据分析。如何为公司内部或者客户提供高效的数据探索和数据分析显得尤为重要。

本次演讲将介绍中小企业如何针对不同的业务场景,快速构建离线或实时分析系统。通过复用已有的数据组件或引入较少的新组件的组合获得分析洞察能力。

演讲提纲:

  1. 数据需求背景
    • 数据驱动企业内部和客户的运营和决策
    • 为什么分析的入口不在数据仓库
    • OLAP 的分类和常用引擎及其优势场景
  2. 如何搭建数据分析系统 
    • 对 OLAP 选型产生决定性影响的因素分析
    • 如何打通搜索引擎和业务库进行实时分析
    • 构建高效的在线实时报表引擎
    • 打造半结构化的数据湖分析系统
    • 分析的展示和图表的导出
  3. 性能优化和提升
    • 跨数据源、跨存储引擎的分析性能优化
    • 数据模式设计对性能优化的巨大影响
    • 来自数据更新的挑战
    • 缓存策略的设计
    • 大量图表导出的性能优化
  4. 总结复盘
    • 技术的选型跟随不同的场景和应用
    • 代理键 ID 的选型在分析系统中的重要性
    • 数据处理和数据更新的复杂度对分析引擎的影响分析

你将获得:

  1. 适合中小型企业的灵活、快速的分析平台构建思路
  2. 构建基于 Presto 引擎的离线分析
  3. 构建打通现有搜索引擎和现有业务库的实时分析方案
  4. 使用 Flink + TiDB 构建高效的在线实时报表引擎

交通指南

上海宝华万豪酒店

Shanghai Marriott Hotel Parkview
地址: 上海市静安区广中西路333号
  • 微信咨询

  • 电话咨询

    联系电话:86+ 13167596032

微信联系我们