Die Cybersicherheitsbehörde warnt: KI hilft Kriminellen und staatlichen Hackern, Schwachstellen schneller auszunutzen. Neue Fälle belegen Risiken für Regierungssysteme und kritische Infrastruktur.
Künstliche Intelligenz stellt nach Angaben der australischen Cybersicherheitsbehörde eine „beispiellose“ Gefahr dar. Ausländische Regierungen setzen KI ein, um Computernetze und kritische Infrastruktur anzugreifen, warnte die Behörde am Dienstag, dem 27. Oktober.
WERBUNG
WERBUNG
Die Warnung kommt in einer Phase, in der Regierungen weltweit mit der Dimension der durch KI ausgelösten Bedrohung ringen. Die Technologie wird auf neue Weise genutzt, um digitale Schwachstellen aufzuspüren und auszunutzen, etwa die PHP-Sicherheitslücke der vergangenen Woche, nach der Regierungen ihre Websites abschalteten, um sich vor Cyberangriffen zu schützen.
Das Australian Signals Directorate setzte selbst einige KI-Werkzeuge ein, um seinen jährlichen Bericht zur Cyberbedrohung zu erstellen. Die Behörde betonte, schnell fortschreitende KI-Modelle könnten enorme Vorteile bringen, wenn man sie zum Guten nutze.
In den vergangenen Monaten habe sich jedoch gezeigt, dass KI Kriminellen und staatlich gesteuerten Hackern helfe, Angriffe „in bislang nie gekanntem Ausmaß“ zu starten, heißt es in dem Bericht.
„KI war im vergangenen Jahr die prägende Kraft im Umfeld der Cyberbedrohungen. Sie ermöglicht es böswilligen Akteuren, Schwachstellen schneller zu finden und sie in beispiellosem Ausmaß, Tempo und mit hoher Raffinesse auszunutzen“, heißt es weiter.
„In den vergangenen Wochen sind zudem neue Gefahren durch unbeabsichtigte Aktionen von KI-Agenten und Tests von Modellen entstanden.“
Die weltweiten Sorgen über die Macht fortgeschrittener KI-Werkzeuge nehmen zu. Auslöser sind eine Reihe von Hackingvorfällen und unkontrollierten KI-Handlungen, die Modelle führender Entwickler wie OpenAI und Anthropic betreffen.
Im Juni umging ein OpenAI-Modell während des Trainings eingebaute Schutzmechanismen und hackte eine Website der australischen Regierung. Das Unternehmen entdeckte den Vorfall erst im August und meldete ihn den australischen Behörden im September. Premierminister Anthony Albanese nannte den Verstoß „offensichtlich inakzeptabel“.
Was der Bericht ergab
Der Bericht dokumentiert einen deutlichen Anstieg von Cybersicherheitsvorfällen.
Das Australian Signals Directorate verschickte im vergangenen Jahr mehr als 4.400 Warnungen vor möglicher bösartiger Aktivität – ein Plus von 80 Prozent im Vergleich zu den zwölf Monaten davor.
„Staatlich gesteuerte Cyberakteure haben australische Organisationen weiterhin vor allem ins Visier genommen, um sich Zugang zu sensiblen oder nicht öffentlichen Informationen zu verschaffen.
Diese Aktivitäten beschränken sich nicht auf Regierungsnetze, sondern betreffen auch Betreiber kritischer Infrastruktur, private Unternehmen und Einzelpersonen.“
Dem Bericht zufolge haben mit China, Russland und Nordkorea verbundene Hacker in jüngerer Zeit Australien oder dessen Verbündete angegriffen.
Australien hat bereits früher vor massiven Cyberangriffen gewarnt. Im Juni 2020 erklärte der damalige Premierminister Scott Morrison, dass Regierungen, Unternehmen, politische Organisationen, Gesundheitsnetze und kritische Infrastruktur des Landes über längere Zeit unter Dauerbeschuss eines hochentwickelten staatlichen Akteurs standen.
Verteidigungsminister Richard Marles sagte, das Land könne die KI-Revolution nicht ignorieren.
„KI ist da, und sie ist real. Die Menschen müssen sich damit auseinandersetzen“, sagte er vor Journalistinnen und Journalisten.
„Dabei lässt sich die Uhr nicht zurückdrehen. Böswillige Akteure nutzen KI, um Schwachstellen in Systemen zu finden.“
Marles rief die Australierinnen und Australier dazu auf, ihre Computer zu aktualisieren und „ihre Systeme widerstandsfähiger zu machen“.
Regierungen und Unternehmen arbeiten seit einigen Tagen mit Hochdruck daran, kritische Lücken in einer Programmiersprache zu schließen, auf der ein großer Teil der weltweiten Websites läuft.
Entdeckt wurde die Schwachstelle mithilfe eines leistungsfähigen Modells von OpenAI.