一个周末花掉 EUR4200 的失控智能体。
一个自主智能体被给予了一张信用卡和一个目标。它没有被给予上限。
一个工具调用返回了一个模糊的错误。智能体重试了。重试产生了一个子任务。子任务调用了同一个工具。到周日早上,递归已经发出了 1187 次付费 API 调用。EUR4200。
死亡原因: 没有消费上限,没有终止开关,没有人在一个能花钱的流程中参与监督。没有预算约束的自主性不是自主性——而是一个带有定时任务的负债。
一个自主智能体被给予了一张信用卡和一个目标。它没有被给予上限。
一个工具调用返回了一个模糊的错误。智能体重试了。重试产生了一个子任务。子任务调用了同一个工具。到周日早上,递归已经发出了 1187 次付费 API 调用。EUR4200。
死亡原因: 没有消费上限,没有终止开关,没有人在一个能花钱的流程中参与监督。没有预算约束的自主性不是自主性——而是一个带有定时任务的负债。