Das inzwischen entlarvte Bild zeigte eine Rauchfahne, die neben dem Hauptquartier des US-Verteidigungsministeriums aufstieg. Nach Ansicht von Experten weist es die Merkmale einer künstlichen Intelligenz (KI) auf und veranschaulicht die Gefahr, die von dieser Technologie ausgeht.
WERBUNGEs könnte der erste Fall sein, in dem ein von einer künstlichen Intelligenz generiertes Bild genug Verwirrung stiftet, um die Aktienmärkte zu bewegen. Ein gefälschtes Bild einer Explosion in der Nähe des Pentagons verbreitete sich in den sozialen Medien und sorgte für einen kurzen Einbruch an den US-Börsen.
Das Bild wurde von einer Reihe von Twitter-Konten geteilt, die ein blaues Häkchen als "verifiziert" trugen, darunter auch ein Konto, das sich als die Nachrichtenagentur Bloomberg ausgab (@BloombergFeed") und inzwischen gesperrt wurde.
Die gefälschten Nachrichten wurden anschließend von Dutzenden anderer Twitter-Konten verbreitet, darunter auch vom russischen staatlich kontrollierten Nachrichtensender RT, der in der EU gesperrt ist, aber auf der Plattform mehr als 3 Millionen Anhänger hat.
Einige der Konten, die das gefälschte Bild getwittert haben, scheinen mit Verschwörungen oder dem Russlands Krieg in der Ukraine in Verbindung zu stehen, ebenso wie eine Reihe von Kryptowährungskonten mit blauen Häkchen.
Einer von ihnen, "WhaleChart", twitterte das Bild zusammen mit dem Text: "BREAKING: Explosion in der Nähe des Pentagon". Dieser Tweet wurde mehr als 500.000 Mal aufgerufen.
Die Fake News wurde von der Feuerwehr von Arlington County widerlegt, die erklärte: "Die Pentagon Force Protection Agency und die ACFD sind sich eines Berichts in den sozialen Medien bewusst, der online über eine Explosion in der Nähe des Pentagons kursiert. Es gibt KEINE Explosion oder einen Zwischenfall im oder in der Nähe des Pentagon-Bereichs und es besteht keine unmittelbare Gefahr oder Gefährdung für die Öffentlichkeit."
Mehrere US-Nachrichtenagenturen stellten jedoch fest, dass die Wall Street kurz nach dem Erscheinen des Bildes auf Twitter merklich einbrach. Die Nachrichtenagentur Bloomberg bezeichnete es sogar als "möglicherweise das erste Beispiel für ein von KI generiertes Bild, das den Markt bewegt".
Der Vorfall verstärkt die Besorgnis über den möglichen Missbrauch von KI-Tools zur Verbreitung von Fake News, zur Destabilisierung von Gesellschaften und sogar zur Beeinflussung von Wählern im Vorfeld von Wahlen.
Twitter-Chaos bei der Blau-Verifizierung
Twitter hat unter der Führung von Elon Musk, der das Unternehmen im Oktober letzten Jahres für 44 Milliarden Dollar (40,8 Milliarden Euro) gekauft hat, kontroverse Änderungen an seinem Verifizierungssystem vorgenommen. Zuvor konnten Konten, die als bemerkenswert galten - weil sie anerkannte Experten, Prominente, Journalisten oder Organisationen waren - mit einer Identitätsprüfung verifiziert werden.
Nach der neuen Richtlinie kann jeder ein blaues Prüfzeichen erhalten, wenn er dafür bezahlt, und er muss keinen Identitätsnachweis erbringen. Diese Änderung hat zu Warnungen geführt, dass Imitationen auf der Plattform weit verbreitet sein könnten - und es hat einen starken Anstieg von verifizierten Konten gegeben.
Twitter behauptet, dass tote Berühmtheiten für Twitter Blue-Abonnements bezahlt haben
Musk sagte, dass das Unternehmen unter seiner Führung weniger als die Hälfte des Kaufpreises wert ist, nachdem die Werbeeinnahmen stark zurückgegangen sind und eine Reihe von Klagen gegen das Unternehmen eingereicht wurden. Twitter antwortete auf eine E-Mail mit der Bitte um einen Kommentar mit einem Kack-Emoji.
Der Geist aus der Flasche
Das gefälschte Bild wurde inmitten der anhaltenden Besorgnis über generative KI und die potenziellen Gefahren, die sie darstellen könnte, verbreitet. Eine am 17. Mai veröffentlichte Reuters/Ipsos-Umfrage ergab, dass mehr als zwei Drittel der Amerikaner über die negativen Auswirkungen der KI besorgt sind, so sollen 61 Prozent der Meinung sein, dass sie die Zivilisation bedrohen könnte.
Der CEO von OpenAI, Sam Altman, ermutigte die Politiker letzte Woche bei einer Anhörung, bei der ein Senator, Cory Booker, sagte: "Es gibt keine Möglichkeit, KI zu regulieren: "Es gibt keine Möglichkeit, diesen Geist in die Flasche zu stecken. Weltweit explodiert es".
Die Europäische Union arbeitet derzeit an einem eigenen KI-Gesetz zur Regulierung dieser Technologie.