HackerTube English ?

主题探索 / 字幕对照

可运行的模型不等于可解释的决策机制

Mickens警告将不透明模型接入金融等重要系统；Karpathy具体区分已知的网络数学架构与尚不清楚的参数协作机制，并强调实证评估。这为高影响部署为何需要额外审查提供技术背景。

沿同一来源继续阅读

不可信输入进入处理路径前，边界应在哪里 →提示注入演示外部内容被误当成新指令；LangSec则展示在完整识别输入前交错执行处理逻辑，会产生攻击者可利用的状态转换。两者可作为输入边界设计的对照，不能据此推出相同攻击机制或相同修复办法。预测下一个词的预训练，还不是教模型怎样回答用户 →两端都区分续写与助手训练，没有断言所有助手必须用同一种后训练算法。

对照原文

you connect that inscrutable thing to important real life things like financial markets

USENIX Security '18-Q: Why Do Keynote Speakers Keep Suggesting That Improving Security Is Possible? · ▶ 16:27–16:37

we don't know how these parameters collaborate to actually perform that

[1hr Talk] Intro to Large Language Models · ▶ 12:25–12:33

两讲时点和对象不同；不透明并不自动否定一切模型应用，也不能由此断言所有内部机制完全未知。