HackerTube English?
主题探索 / 字幕对照

不可信输入进入处理路径前，边界应在哪里

提示注入演示外部内容被误当成新指令；LangSec则展示在完整识别输入前交错执行处理逻辑，会产生攻击者可利用的状态转换。两者可作为输入边界设计的对照，不能据此推出相同攻击机制或相同修复办法。

沿同一来源继续阅读
可运行的模型不等于可解释的决策机制 →Mickens警告将不透明模型接入金融等重要系统；Karpathy具体区分已知的网络数学架构与尚不清楚的参数协作机制，并强调实证评估。这为高影响部署为何需要额外审查提供技术背景。预测下一个词的预训练，还不是教模型怎样回答用户 →两端都区分续写与助手训练，没有断言所有助手必须用同一种后训练算法。意外的通用计算能力也可能成为攻击面 →PowerPoint展示原本用于展示的动画构造可以模拟任意转移函数；安全演讲则把输入处理的计算能力视为应受限的权限，解释为什么通信边界不应无意引入过强的执行能力。

对照原文

prompt injection is about hijacking the large language model giving it what looks like new instructions
[1hr Talk] Intro to Large Language Models · ▶ 52:11–52:21
if you haven't recognized it don't goddamn process it
28c3: The Science of Insecurity · ▶ 25:04–25:15

自然语言提示注入不能简单用形式语法解析彻底解决；两者共享边界原则，攻击机制并不等价。