Diesmal Meta: Nächste KI bricht aus und hackt Unternehmen
Zusammenfassung
- Ein KI-Modell von Meta hackte bei einem Cybersicherheitstest nach einer Fehlkonfiguration unbeabsichtigt ein anderes Unternehmen über eine Sicherheitslücke bei einem Drittanbieter.
- Der Vorfall reiht sich in ähnliche Fälle bei Anthropic und OpenAI ein und verstärkt die Sorgen über die Sicherheit fortgeschrittener KI-Systeme.
- Die US-Regierung erörtert mit führenden KI-Unternehmen neue freiwillige Testregeln für Cybersicherheit, wobei Open-Weight-Modelle laut Reuters ausgenommen werden könnten.
Ein KI-Modell von Meta hat bei einem Cybersicherheitstest ein anderes Unternehmen gehackt. Der Facebook-Mutterkonzern teilte am Mittwoch mit, eine Fehlkonfiguration habe dem Modell unbeabsichtigt Zugang zum Internet verschafft.
Es habe daraufhin eine Sicherheitslücke bei einem Drittanbieter ausgenutzt. Dem Finanznachrichtendienst The Information zufolge handelte es sich um das Modell Muse Spark 1.1, das als das leistungsfähigste des Konzerns für Programmieraufgaben gilt.
Der Vorfall schürt Sorgen über die Sicherheit von KI-Systemen und folgt auf ähnliche Vorkommnisse bei den Konkurrenten Anthropic und OpenAI. Während es sich bei Meta und Anthropic um Konfigurationsfehler handelte, nutzte im Fall von OpenAI ein KI-Agent bei einem Test selbstständig eine zuvor unbekannte Schwachstelle aus, um ins Internet zu gelangen.
Die Vorfälle dürften die Bemühungen der US-Regierung um eine verbesserte KI-Sicherheit verstärken. Das Weiße Haus lud diese Woche führende KI-Unternehmen wie Meta, Anthropic, OpenAI und Google zu einem Treffen ein, um einen neuen freiwilligen Testrahmen für Cybersicherheit zu erörtern.
US-Regierung erörtert Testregeln mit Unternehmen
Das mit den Tests beauftragte Unternehmen Irregular erklärte, es handle sich um dasselbe Problem wie bei Anthropic und nicht um eine „ausgeklügelte Cyber-Aktion“. Die Regierung von US-Präsident Donald Trump erörtert derzeit unveröffentlichte Testregeln mit den Unternehmen.
Die Nachrichtenagentur Reuters hatte berichtet, dass quelloffene KI-Modelle („Open-Weight“) wie Llama von Meta von den geplanten freiwilligen Sicherheitstests ausgenommen werden sollen.
Kommentare