The A.I. Dilemma - March 9, 2023
Center for Humane Technology在 YouTube 播放 ↗
字幕解读
演讲以社交媒体的注意力竞赛为参照，警告生成式 AI 的多模态能力、规模扩张和涌现行为可能在缺少制度准备时迅速嵌入社会。讲者举例讨论合成语音与身份验证、模型能力难以预见、递归生成训练数据、个性化说服及面向儿童的聊天产品，并认为企业竞赛会推动仓促发布。他们呼吁跨机构协商、加强责任机制，并选择性放慢公众部署，同时承认 AI 也有医疗等正面用途。
自动字幕 · 引文按字幕原文展示，可点时间戳回看片段。
内容要点
- 讲者把多模态模型视为将语言、图像、声音等统一处理的路线，并据此强调能力可跨任务迁移。
- 演讲重点在部署治理和社会风险：合成内容会削弱依靠声音或影像的身份验证，亲密型聊天产品也可能伤害未成年人。
- 他们主张以协商、责任制度和有选择地减缓公众部署来回应竞赛压力，同时承认研究和应用仍可能带来公共收益。
视频章节 6
- 从社交媒体教训切入AI责任
- 统一模型与多模态能力
- 合成现实与身份验证风险
- 涌现能力、自我改进与加速
- 亲密关系、部署竞赛与儿童安全
- 公共讨论、部署治理与协调
具体观点与证据 4
赋予竞争优势的技术会诱发竞赛，单个厂商的善意不足以停止共同承受的风险。
2023年演讲中的制度判断，不是所有技术竞争必然有害的定理。
if that technology confers power it will start a race.逐项治理成瘾、虚假信息等症状，可能遗漏以参与度竞争为基础的激励结构。
以社交平台的参与度优化为例，强调治理产生问题的机制。
you're going to be playing whack-a-mole and you're not going to get to the uh sort of like generator functions.模型能力可能在部署后才被识别，讲者据此主张把发布前安全证明责任放在开发者。
演讲关于2023年模型可解释性与能力评测的担忧，不能把所有预测当已发生事实。
these models have capabilities we do not understand how they show up,讲者主张有选择地放慢面向公众的部署，同时区分模型研究与产品发布。
不是全面停止AI研究，也没有给出已经验证的完整监管方案。
slow down the public deployment of these large language model AIs.补充字幕原文 2
演讲者用这一概括解释 Transformer 路线如何把文本、图像、声音等任务放进相近的建模框架。
you can start to treat absolutely everything as language演讲者主张重点放慢面向公众的部署，并强调这不同于停止研究或停止构建 AI。
selectively slow down the public deployment of these large language model AIs解读边界
这是倡议性演讲，多个风险案例、研究进展和预测由讲者转述，字幕本身不能独立验证其准确性；演讲中的时间判断属于其发表时语境。图表及演示画面未包含在字幕中。
相关视频与证据 1
机制延伸成本竞争如何变成部署竞赛
自动化视频强调即使机器较慢，只要足够便宜仍有替代激励；AI困境把竞争带来的力量进一步放到公司发布竞赛中，主张仅靠单家企业克制不足以协调风险。
What Happened to Horses Is Happening to Us ↗
相对成本形成自动化采用激励。
A tenth the speed is still cost effective when it's a hundredth the price.▶ 2:27–2:36 · 观看片段The A.I. Dilemma - March 9, 2023
技术带来的竞争优势会启动竞赛。
if that technology confers power it will start a race.适用边界 前者讨论就业替代，后者讨论AI部署治理；不是同一经验研究，也不验证两者的未来预测。