据作者现场录音整理，按讲者脉络转述，不是逐字稿。讲者是 Zilliz 联合创始人、产品 VP，中文演讲，约 26 分钟，无问答环节。题目讲 agent 的记忆变成训练数据，正文大部分在讲 Lakebase 架构，和题目直接对上的只有论断 5；前约 4 分钟是公司介绍。

一句话

AI 数据量每年涨一个数量级，靠在单台服务器里做性能和成本优化的数据库撑不住，他认为必须改成以对象存储为底、热温冷三层缓存的 Lakebase（湖库）架构，让成本接近对象存储、服务质量接近数据库，并把线上服务和离线挖掘训练数据放在同一份数据上。

论断

1. Token 消耗和数据条目都在按数量级涨

他给了两张图。一张是任务形态从补全、对话、reasoning 到 agent、自演进，同一个任务每跳一级，token 消耗上升一个数量级。另一张是 Zilliz 观察到的单一业务最大数据条目数：前年 10 亿，去年百亿，今年千亿，他说这样持续了四五年。

“那也就是说未来的这些数据呢，它更多的是伴随着 token 消耗去积累”

  • 他认为增长有可能加速：23、24 年数据主要来自现有系统和人，现在自动驾驶、短剧等开始大量用生成或模拟的数据，27、28 年 AI 大规模落地时可能还会更快。
  • 千亿条是 Zilliz 客户里最大的单一业务，来自和用户交流的观察，不是行业统计；token 的数量级是相对值，没给具体任务和测量方法。

2. 涨 10 倍内靠单机优化，涨百倍千倍只能重构架构

“到百倍千倍之后呢，我们说在一个服务器内……基本上是找不到这样这么大的空间，所以只能是走到架构重构”

  • 23–24 年（1 到 10 倍）他们做的是服务器内设计：性能型、容量型、成本优化型实例，挖算法红利，在 DRAM、NVMe 上针对不同负载调优。
  • 25 年到明年（10 到 100、1000 倍）走到 Lakebase，核心是围绕对象存储重新设计整个 AI 数据基础设施，他也说成"重新定义这个数据库系统"。
  • 他提到在 YouTube 上看过一家编程应用公司 CEO 在斯坦福的讲座：流量突然爆发，几个月内换了 4 套数据库都没撑住，最后也是围绕对象存储重构基础平台才稳住。

3. 拿有限容量对抗指数数据

他用端扎啤杯打比方：服务生是开发、设计、运维工程师，杯子是部署数据库的服务器资源，酒是指数增长的数据，一边端一边往里灌；酒洒出来就是 OOM、扩缩容失败、数据不可用这类最高级别的故障。Lakebase 把假设换成无限容量的基础设施。

“我们如果是拿数据库架构尝试去承载指数级的我们的 AI 的数据增长的话，它是一个拿有限容量、有限资源去对抗一个指数增长数据这样一个问题”

  • 他说换了假设之后，团队精力从解决大规模系统的复杂度，转到聚焦规模和成本，“这是一个非常非常大的转变”。

4. 热温冷三层，每层成本差一个数量级

三层是服务器本地缓存（热）、服务器和对象存储之间的远端缓存（温）、对象存储（冷）。任何一层的数据都能直接查，业务侧决定哪些数据降成本放下面、哪些要服务质量放上面。旧架构只有最上面的本地热层能正常读写。

“其实甚至有可能做到说，我们的整体成本呢接近对象存储，但是所有的用户服务质量是接近最上面的数据库”

  • 成本（美元/GB/月）：对象存储约 0.025（他说"没记错的话"），中间层约 0.3，放在服务器上即数据库方式约 3。
  • AI 推荐应用：100–200 万注册用户，传统做法全放数据库那一档；现在全量放对象存储，只把日活约 3%–15% 放顶层，周活月活放中间层。
  • 分层是动态的：不活跃用户的数据已落到最底层，他打开 App 或登录时，业务侧通知把数据提到第一层，他说这个过程"是秒级的很快"，等用户发起查询时数据已经在上层。
  • 他说这套架构至少能撑到 26、27 年，乐观到 28 年。
  • 没给命中率、延迟分布或客户实测数据；秒级提层没给数据量。

5. 同一份数据既服务线上，也服务离线挖掘

这是全场和题目对得上的部分：从后台数据里挑出模型或 agent 做得不好的部分，补进训练。数据都统一放在最底层，往上计算，所以线上和离线能打通，形成数据飞轮。

  • 离线挖掘以前要全量跑 Spark 之类的批处理，或者成本能接受就全放数据库；现在每次只把这次查询涉及的部分加载到上层，任务结束再落回去。
  • 他接触的 AI 用户有三类负载：实时召回（memory、短剧版权侵权检测、多集内容一致性的动态召回、线上搜索推荐）；interactive discovery，看后台数据找能提升 agent 或模型能力的数据；批量分析，比如后训练数据的多样性采样、聚类、找离群点。

6. 下一步像 KV cache 一样不重复算

有客户问，27 年看到千亿、万亿级的业务，Lakebase 够不够。他给的方向是基础设施要多了解业务：多轮查询找了好几个地方，能不能直接给出最后一轮要找的位置；把大家查询的共性压到基础设施里，去掉重复查询。

“就有点像大模型的 cache 一样，就是我已经查过算过的东西，能不能不要再重新算了”

存疑

  • 斯坦福讲座那家公司，讲者没说清名字，需对照原讲座核实；它"围绕对象存储重构"这句原词也没听清。
  • 中间层（约 0.3 美元那档）的具体产品名没听清。
  • 讲离线挖掘时，他说挑出的数据要加到训练的哪个环节（疑为后训练），原词没听清。
  • 开场公司介绍里，他说中国区每 10 个用过向量数据库的企业用户约有 9 家在用 Zilliz 的开源或商业方案，覆盖全球 6 个主要公有云约 39 个可用区，都是讲者自述，没给来源。