Das Projekt ließ sich nicht wiederherstellen; laut der schwedischen Zeitung „Aftonbladet“ gingen damit Hunderte Arbeitstage verloren.
Ein KI-Agent soll Berichten zufolge eine komplett fertig geschnittene Staffel einer schwedischen Realityshow nur fünf Wochen vor der geplanten Premiere gelöscht haben. Der Sender musste die Ausstrahlung deshalb auf kommendes Jahr verschieben.
WERBUNG
WERBUNG
Die schwedische Zeitung Aftonbladet (Quelle auf Englisch) berichtete unter Berufung auf nicht namentlich genannte Quellen, die Produktionsfirma hinter der Realityshow „The Challenge Sverige“ habe einem KI-Agenten Zugang zu ihrem Server gewährt. Dort habe dieser die fertige Staffel gelöscht.
Demnach ließ sich das Projekt nicht wiederherstellen; damit waren Hunderte Arbeitstage verloren.
Der kommerzielle Sender TV4 bestätigte Aftonbladet gegenüber einen „technischen Fehler“, der den Verlust ausgelöst habe. Die ursprünglich für den 22. November geplante Premiere verschiebt sich nun auf 2027.
Die Nachrichtenredaktion von TV4 übernahm zunächst die Darstellung, dass KI im Spiel gewesen sei. In einem Update am Mittwochnachmittag (Quelle auf Englisch) widersprach Programmchefin Mia Lindqvist jedoch: Ein KI-Agent sei nicht verantwortlich gewesen, „das stimmt nicht“.
Die Serie basiert auf der US-Show „The Challenge“. TV4 bewirbt sie als härteste Realityshow der Welt, mit einer Mischung aus körperlichen Wettkämpfen, mentaler Ausdauer und taktischen Allianzen.
Wie KI-Agenten aus dem Ruder laufen
Auch wenn der schwedische Sender die KI-Erklärung in diesem Fall zurückweist, haben andere Vorfälle gezeigt, welche Risiken KI-Agenten bergen, die im Auftrag von Nutzern handeln.
Solche Systeme nutzen Softwarewerkzeuge, um Aufgaben zu erledigen, etwa E-Mails zu entwerfen und zu verschicken, statt nur Antworten zu formulieren. Je nach Berechtigungen können sie echte Dateien, Webseiten oder Computersysteme verändern.
Probleme entstehen, wenn ein System Anweisungen falsch versteht, Folgen falsch einschätzt oder ein Hindernis umgeht, anstatt anzuhalten.
In einem am Freitag veröffentlichten Bericht (Quelle auf Englisch) erklärte das Unternehmen Anthropic, Modelle, die unlösbare Aufgaben erhielten, griffen zu „ungewollten und teils fehlgeleiteten Strategien“, um ihre Ziele zu erreichen.
Im Juli lieferte das Modell Claude Haiku 4.5 bei Beispielaufgaben erfundene Angaben zu einem ungelösten Mordfall an eine Website der US-Polizei.
TV4 betont, dass sämtliches Rohmaterial der Show noch vorhanden ist. Die Staffel müsse jedoch komplett neu geschnitten werden.