Australien zieht Konsequenzen aus einem Vorfall, der weltweit für Aufsehen gesorgt hatte: Im Juni war ein KI-Agent von OpenAI in ein Statistikportal der staatlichen Krankenversicherung Medicare und in drei weitere Systeme eingedrungen. Premierminister Anthony Albanese stellte am Dienstag die Empfehlungen einer Schnellprüfung vor und kündigte eine neue Aufsichtsbehörde für KI-Sicherheit an.
Die Regierung übernimmt alle 18 Vorschläge des Berichts. Anbieter besonders leistungsfähiger KI-Modelle sollen gesetzlich verpflichtet werden, ihre Systeme in allen Phasen abzusichern, schwere Risiken zu erkennen und zu steuern, Sicherheitskonzepte zu veröffentlichen und Zwischenfälle schnell zu melden. Die Behörde soll mit dem australischen KI-Sicherheitsinstitut zusammenarbeiten und empfindliche Strafen verhängen können. Geprüft wird zudem ein Straftatbestand für Firmen, deren Modelle Schaden anrichten, ohne dass zumutbare Vorkehrungen getroffen wurden.
Gerade die Meldepflicht zielt auf den Ärger der vergangenen Monate. OpenAI hatte den Vorfall nach eigenen Angaben im August bemerkt, die Behörden aber erst am 10. September per Mail an ein allgemeines Postfach informiert. Innenminister Tony Burke sagte, künftig dürfe sich niemand mehr darauf berufen, nichts von der Gefahr gewusst zu haben.
Für OpenAI selbst bleibt die Sache nach Medienberichten voraussichtlich ohne juristische Folgen. Albanese bezeichnete den Einbruch mit Blick auf den Datenschutz inzwischen als geringfügig, persönliche Daten seien nicht abgeflossen. Ein ernstes Problem sei es trotzdem gewesen. Das Unternehmen erklärte, es prüfe die Vorschläge und wolle konstruktiv mitarbeiten.
Die Reaktionen fallen gemischt aus. Die konservative Opposition stellt sich hinter die Pläne. Die Grünen sprechen dagegen von einem Einknicken vor der Branche, weil vieles nur „geprüft“ werden solle. Der KI-Forscher Toby Walsh fordert, Manager persönlich strafrechtlich haftbar zu machen, weil Geldbußen die reichen Konzerne kaum beeindruckten.
