Die gefährlichste Software der Welt?

Es ist eine beunruhigende Premiere in der Geschichte des digitalen Zeitalters: Die US-Regierung hat den Stecker für die fortschrittlichsten KI-Modelle des Tech-Labors Anthropic gezogen. Offiziell gilt das Verbot nur für Nicht-US-Bürger. Weil das Unternehmen in San Francisco jedoch im globalen Netz unmöglich die Nationalität von Hunderten Millionen Nutzern prüfen kann, blieb nur eine Konsequenz: Alles sofort abschalten.

Der Grund für dieses drastische Einschreiten der Politik könnte kaum furchteinflößender sein. Die Experten haben ein Computerprogramm entwickelt, das in kürzester Zeit Sicherheitslücken in bestehender Software aufspüren kann. Wer diese Lücken böswillig ausnutzt, könnte die absolute Kontrolle erlangen. Jedes elektronische Gerät arbeitet heute mit Software. Das beginnt bei der modernen elektrischen Zahnbürste und reicht über unsere Telekommunikation, die Ampelsysteme ganzer Großstädte, Krankenhäuser und Atomkraftwerke bis hin zu den Schienennetzwerkkontrollen, Flugsicherungssystemen und den Abschusscodes von Atomwaffen.

Wichtig ist zu verstehen: Die KI erschafft diese Lücken nicht. Die sind jetzt schon da und lauern unentdeckt im Code unserer kritischen Infrastruktur. Die KI reicht uns lediglich eine Lupe, und macht sie sichtbar. Diese Lücken können natürlich geschlossen werden – nur erfordert das Zeit. Der schlimmste Fall ist, dass eine Lücke bekannt ist, es aber Tage dauert, bis der Code repariert und an alle Anwender ausgeliefert wird – denn bis dahin stehen die Systeme für Angreifer offen wie Scheunentore.

Was aber bedeutet der radikale Schritt der Politik für uns?

Erstens müssen wir begreifen, auf welch dünnem digitalen Eis sich unsere Zivilisation inzwischen bewegt. Wenn ein KI-Algorithmus das Fundament unserer Infrastruktur ins Wanken bringen kann, zeigt das, wie katastrophal verwundbar wir uns durch die Digitalisierung gemacht haben. Zweitens ist es absolut verständlich und richtig, dass Regierungen versuchen, das unkontrollierte Ausrollen von Technologie mit solch immensem Schadenspotenzial zu regulieren. Drittens liegt genau darin auch eine Illusion von Sicherheit: Entwaffnen wir mit der Sperre nicht auch jene, die uns verteidigen wollen? Denn dieselbe KI, die einem Angreifer als gefährliche Waffe dient, ist für einen Sicherheitsexperten ein unverzichtbares Werkzeug – um Lücken zu finden, bevor es die Bösen tun. Ein Verbot trifft beide gleich. Die Hacker aus Moskau, Peking oder Pjöngjang stört das herzlich wenig.

Der Stecker, den Washington gezogen hat, löst das Problem nicht. Was wir brauchen, sind keine Notabschaltungen – sondern Systeme, die von Grund auf so gebaut sind, dass eine KI darin keine offenen Scheunentore mehr findet.