Experte warnt: Risiko einer KI-Apokalypse liegt bei 20 Prozent

Nahaufname eines schwarz-blauen Roboters
KI-Guru Geoffrey Hinton gibt eine neue Einschätzung in Bezug auf die Entwicklung von KI ab – und diese sieht weniger rosig aus.

Geoffrey Hinton, ein renommierter Informatiker und Mitbegründer des modernen Machine Learning, gehört zu den lautstärksten Kritikern in Bezug auf die Risiken der Künstlichen Intelligenz (KI). Anstatt ausschließlich die Fortschritte der Technologie zu feiern, warnt Hinton eindringlich vor den möglichen Gefahren der KI

Seine neue Einschätzung sorgt für Aufregung.

Die Wahrscheinlichkeit einer Apokalypse

In einem aktuellen Interview mit BBC Radio 4 gab Hinton erneut seine Einschätzung zur Entwicklung der KI ab. Besonders alarmierend ist Hintons aktuelle Risikobewertung: Laut ihm besteht eine 20-prozentige Wahrscheinlichkeit, dass KI innerhalb der nächsten 30 Jahre zum Aussterben der Menschheit führen könnte. Noch vor einem Jahr hatte er dieses Risiko auf zehn Prozent beziffert. Diese Einschätzung steht im Kontrast zu optimistischeren Fachkollegen wie Yann LeCun, der die Bedrohung durch KI als weitaus geringer ansieht.

Menschen seien in schlechterer Ausgangslage

Hinton führt ein weiteres beunruhigendes Argument an: Es gebe kaum Beispiele dafür, dass ein weniger intelligentes Wesen ein intelligenteres kontrollieren könne. Das einzige bekannte Beispiel sei die Beziehung zwischen einer Mutter und ihrem Baby, bei der evolutionäre Mechanismen dafür sorgen, dass das Baby eine gewisse Kontrolle über die Mutter ausübt. Doch im Vergleich zu einer fortgeschrittenen KI wären Menschen in einer Position, die jener eines Dreijährigen gegenüber einem Erwachsenen entspricht. Eine sichtlich schlechtere Ausgangslage.

Forderung nach staatlicher Regulierung

Angesichts dieser Bedrohung fordert Hinton erneut eine strenge staatliche Regulierung für die Entwicklung von KI. Seiner Meinung nach kann die "unsichtbare Hand des Marktes" keine ausreichende Sicherheit garantieren. Ohne Vorschriften würden große Unternehmen primär aus Profitgründen handeln und nicht zwingend die notwendigen Sicherheitsmaßnahmen treffen. Nur durch staatliche Eingriffe könne sichergestellt werden, dass die Technologie verantwortungsvoll entwickelt wird.

Unterschiedliche Einschätzungen unter Experten

Hinton gehört zu den drei sogenannten "Paten der Künstlichen Intelligenz", die für ihre Arbeiten mit dem renommierten ACM AM Turing Award ausgezeichnet wurden. Sein Mitpreisträger Yann LeCun vertritt eine gegensätzliche Position: Er glaubt nicht nur, dass die existenzielle Bedrohung durch KI überschätzt wird, sondern, dass diese Technologie langfristig sogar helfen könnte, die Menschheit vor dem Aussterben zu bewahren. 

Kommentare