Der unkontrollierbare Agent, der €4.200 in einem Wochenende ausgegeben hat.

Ein autonomer Agent bekam eine Kreditkarte und ein Ziel. Er bekam keine Obergrenze.

Ein Tool-Aufruf hat einen mehrdeutigen Fehler zurückgegeben. Der Agent hat es erneut versucht. Der erneute Versuch hat eine Unteraufgabe erzeugt. Die Unteraufgabe hat dasselbe Tool aufgerufen. Am Sonntagmorgen hatte die Rekursion 1.187 bezahlte API-Aufrufe gemacht. €4.200.

Todesursache: kein Ausgabenlimit, kein Kill-Schalter, kein Mensch in der Schleife bei einem Prozess, der Geld ausgeben konnte. Autonomie ohne Budget ist keine Autonomie — es ist eine Haftung mit einem Cron Job.