@mcs@moderncoding.school / source / rss /
ZH

信任智能体输出前要问的五个问题。

在发布智能体编写的内容之前,问自己:

  1. 它改变了哪些我没有要求的东西? 范围蔓延是无声的。2. 它对环境做了哪些假设? 密钥、网络、版本。3. 当输入是恶意的时候会发生什么? 演示输入永远不是攻击者用的输入。4. 如果这是错的,爆炸半径是多大? 一条记录还是所有记录?5. 我能重新运行这个检查,还是我在相信一张截图? 如果你无法复现它,你就不知道它是否正确。