Ali Ghodsi on AI Pacing · 核心结论

Ali 与 Martin 就 AI 竞速的节拍问题展开辩论。核心观点：

• 没有人会单方面停下：如果一家公司决定减速以等待安全评估，竞争对手会在它准备 IPO 时超越它。每个公司都有激励继续加速。
• 内部安全团队就是"节拍人"：Databricks 有法律和安全的团队，他们总是要求"慢下来、审查一切"——这其实就是 pacing，只不过是以控制的形式。
• PR 表述灾难："Pace the frontier"（Dario）vs "secure the frontier"（Zuck）——前者放在恐惧的"恐怖谷"中：不够 Pause 让民众满意，不够 Secure 让政策制定者放心。

Ali 认为真正的"pacing"不应该是一个语义学辩论，而是实质性的安全控制——监控每一个 token、在沙盒中运行 agent、安全团队审查数百万 GPU 小时的输出。

Ali 提出了判断 RSI 是否发生的四个标准，并用现实数据逐一检验：

• 标准 1 — 训练需要的 GPU/资源在减少：现实相反——前沿模型训练需要更多资源。
• 标准 2 — 训练时间在缩短：现实相反——训练时间更长。
• 标准 3 — 准确度/智能在提升：这一项成立，模型确实更好了。
• 标准 4 — 可重复的递归：现实相反——每个实验室每年只有 1-2 次训练运行，不具备可重复性。

结论：当前前沿训练在几乎所有维度上都与 RSI 预言相反——需要更多的人、更多的资源、更脆弱的流程。RSI 在可预见的未来不会发生。

Ali 明确区分了科幻式的超级智能叙事与现实威胁：

• 超级智能 = 科幻：能在 11 维空间推理、几秒钟写出博士论文的能力——这不是当前或近期的现实。
• 网络风险 = 真实：CVE 到武器化的时间线从 2-3 年（2018）缩短到 8-9 个月（2022），现在是分钟级。SOC 团队根本跟不上。
• 大数据/AI + 网络安全正在合并：Agent 以极大规模产生数据、日志、指纹，需要自动化 AI 分析。
• "存在性风险"叙事是失误：Ali 认为用 existential risk 恐吓公众是不好的做法，实际风险是"东西会被黑"。

Ali 指出企业采用 AI 的核心障碍不是模型能力，而是组织层面的问题：

• 上下文缺失 (Context Gap)：AI 模型不知道企业的专有数据、流程和组织结构，无法直接为企业创造价值。
• 组织本体论 (Organizational Ontology)：企业需要构建一个机器可理解的"组织模型"——谁做什么、数据在哪里、流程如何运行。
• Databricks 内部实践：90%+ 的软件由 AI 编写，通过 Lake Watch 产品实现网络安全检测的自动化。

Ali 对 AI 监管发表了尖锐看法：

• 实验室求监管 = 护城河策略：头部实验室要求联邦监管的真实动机是建立竞争壁垒，阻止新进入者。
• IETF/IEEE 模式：行业自律（类似互联网工程任务组或电气电子工程师学会）比联邦介入更合适。
• 第三方独立检查：比自我监管更好的方案是实验室之间交叉验证，由外部第三方检查。
• Elon 的 IPO 分配伪善：Ali 讽刺 Elon 一边要求监管一边利用 IPO 分配获利的行为。

在实践层面，Ali 分享了 Databricks 的 AI 基础设施策略：

• 不同模型做不同的事：不为所有任务使用同一个模型，而是根据场景选择合适的模型。
• 多 Harness（框架）：同一个模型可以配合不同的交互框架使用，灵活适配。
• Token 成本管理：大规模 AI 部署中 token 成本是需要积极管理的核心指标。