导读随着大数据的不断发展，数据体量越来越大，为了更好地支持内部湖仓一体的使用场景，虎牙基于 Iceberg + Paimon 构建了实时湖仓架构。本文将对这一架构设计和实践过程中的痛点及优化进行介绍。

虎牙 iceberg ka watermark paimon 2025-04-02 09:00  2

导读腾讯云自 2019 年就开始接触 Apache Iceberg 项目，并开始基于 Iceberg 构建湖仓一体数据架构。经过多年深入使用和优化，沉淀出了一套基于 Iceberg 的完整的全场景批流一体解决方案。本次分享将简单介绍腾讯云湖仓一体的架构、方案简

iceberg cdc 腾讯云 ods format 2025-03-30 09:00  2

与 Flink 一起进行实时分析：Apache Paimon 在需要摄取和处理实时数据流的场景中表现出色。这使其非常适合像点击流分析、物联网数据处理和金融交易分析等场景。

iceberg apache paimon apacheic 2025-03-29 21:34  4

天翼云基于 Apache Doris 成功落地项目已超 20 个，整体集群规模超 50 套，部署节点超 3000 个，存储容量超 15PB。天翼云基于 Apache Doris 和 Apache Iceberg 构建的湖仓一体方案，兼具灵活性、高性能和低成本优

iceberg apache doris apachedor 2025-03-28 20:35  3

前面我们提到，数据仓库出现于1990年代，主要基于MPP（Massively Parallel Processing，大规模并行处理）或者关系型数据库实现，用于企业做数据存储、处理和分析，发展数据看板、BI（商业智能）等用途。

架构 iceberg 数据仓库 数据存储 redshift 2025-03-28 14:04  3

导读本次分享重点讲解了 Iceberg 的业务应用，涵盖特征调研、更新场景支持及性能兼顾等实际应用，包括在 branch 上支持独立 Schema 的实现，优化特征调研流程；通过 ColumnFile 实现灵活高效的更新场景；以及宽表治理与数据回刷方案，显著提

模型 iceberg d lceberg助力 lceberg 2025-03-21 09:00  5

大数据架构经过多年的演进，传统数据仓库和数据湖的局限性日益凸显。在此背景下，湖仓一体 Lakehouse 凭借其开放性和成本效益，迅速成为当今数据平台的主流架构。然而，随着进入 Data + AI 驱动的新时代，企业对实时数据分析的需求不断增加，对半结构化和非

企业 生态 iceberg hdfs lakehouse 2025-03-20 16:36  4

导读近年来，Iceberg 已成为数据湖格式的事实标准。在国外，随着 Databricks 的收购行为以及 Confluent 推出 Table Flow 和 AWS 推出 S3 Tables，这一趋势愈发明显。AWS 在发布 S3 Tables 时披露的数据

iceberg topic automq automqtab 2025-03-20 09:00  6

导读随着人工智能（AI）与多云架构时代的到来，企业和组织面临着前所未有的数据管理的挑战。为了应对这些挑战，Gravitino 项目应运而生，旨在提供一个强大的开源大数据组件，以支持现代环境中高效的数据资产管理。本文将详细介绍 Gravitino 项目的背景、目

iceberg 大数据 apache gravitino 管 2025-03-14 09:00  5

在数字化转型进程中，用户交互行为产生的多维度数据已成为企业的重要战略资产。以短视频平台为例，基于用户点赞事件的实时推荐算法能显著提升用户活跃度和平台粘性。这类实时数据主要通过 Apache Kafka 流处理平台进行传输，通过其扇出（Fanout）机制实现多业

iceberg s oss automq iceberg数据 2025-03-11 11:42  5

人工智能(AI)正逐步成为重塑企业运营方式的强大力量。IDC预测，由于数据平台在数据存储、标准化和访问方面的采用率的增加，超过 50% 的中国企业将准备好使用GenAI来处理数据 。根据Cloudera的一项研究预测，美国有超过三分之一(36%)的企业正处于探

架构 iceberg cloudera 2025-02-05 15:01  9

尽管业界对 Iceberg 的认可度在不断提升，但关于其竞争对手 Delta Lake (由 Databricks 创建并在 Linux 基金会管理下开源) 的未来仍存在疑问。目前，Delta Lake 是 Microsoft 和 SAP 等软件巨头的首选格式

aws iceberg redshift 2025-01-23 15:10  7

导读2024 年 12 月 6 日，由 Ray 中文社区、蚂蚁开源联合主办的 Ray Forward 2024 年度盛会在北京蚂蚁 T 空间成功举办。其中，Bilibili 基础架构部技术专家郑志升分享了《Ray 在 Bilibili 的场景探索与落地实践》。

iceberg bilibili ray 2025-01-18 09:00  8

数据湖仓一体自2020年起就备受瞩目，始终是数据分析领域的一个热门话题。虽然湖仓一体的需求不断增长，但由于标准不统一，行业巨头企业方案支持的标准互通性差，湖仓一体市场并未像人们期待的那样快速发展。

iceberg apache apacheiceberg 2025-01-16 21:34  8

去年底的2024 AWS re：Invent大会，新任CEO Matt Garman发布了一众与AI相关的新服务。在这些新服务中，新的Amazon S3 Tables服务看似不起眼，却对于未来数据存储有着深远影响。

iceberg 大数据 delta 2025-01-16 09:48  7

大约八年前，当企业在数据湖的随心所欲和数据仓库的繁琐之间寻找中间地带时，Lakehouse出现了，这种架构模式吸引了一些追随者，但增长并不显著。然而，随着 2025 年的到来，Lakehouse将在多种因素的共同作用下实现强劲增长。

iceberg hadoop lakehouse 2025-01-15 17:41  10

近年来，开放表格式（Open table formats）和对象存储（object storage）正在重新定义各个组织构建其数据系统的方式，并为可扩展、高效、且面向未来的数据湖仓（data lakehouse）奠定了基础。通过利用对象存储的成本效益等独特优势

架构师 iceberg delta 2025-01-11 13:19  10

GenAI 革命提高了人们对企业能够利用数据的期望，但它也暴露了企业在如何管理数据方面的一些严重缺陷。在此背景下，我们将深入探讨2025年的大数据管理预测。

预测 iceberg 大数据 2025-01-10 17:23  8

上周，AWS全力拥抱了Iceberg。对于开发人员来说近乎无处不在的存储容器S3 Buckets又多了一层。这家占主导地位的云平台提供商推出了 S3 Tables，用于将数据存储在开放表格式（OTF）的 Apache Iceberg 中，从而使开发人员和数据工

aws iceberg redshift 2025-01-03 13:40  9

开放式表格式和对象存储正在重新定义组织构建其数据系统的方式，为可扩展、高效且面向未来的数据湖仓奠定了基础。通过利用对象存储的独特优势——其可扩展性、灵活性和成本效益——以及Apache Iceberg、Delta Lake和Apache Hudi等开放式表格式

架构师 iceberg 表格格式 2025-01-02 17:19  14