"Ein superintelligentes System wird die Erde nicht retten"

"Ein superintelligentes System wird die Erde nicht retten"
Teil 10: Die Digitalisierung stellt Wirtschafts- und Gesellschaftsmodelle auf die Probe. Der Soziologe Dirk Helbing von der ETH Zürich skizziert im futurezone-Interview Alternativen.

Technische Fortschritte erlauben es, immer mehr Jobs zu automatisieren. Ob die wegfallenden Arbeitsplätze durch neue ersetzt werden können, ist unter Experten umstritten. Der Soziologe und Physiker Dirk Helbing von der ETH Zürich glaubt, dass die bevorstehenden Umwälzungen das bestehende Wirtschafts- und Gesellschaftssystem aber auf jeden Fall unter Druck setzen werden. Er glaubt, dass die Menschheit diese Herausforderungen nur mit einem komplett neuen Wirtschafts- und Finanzsystem meistern kann. Im futurezone-Interview erklärt Helbing, wie eine Zukunft aussehen könnte, in der die Menschen nicht mehr an fixe Arbeitsplätze gebunden sind. Das Gespräch fand während eines Wien-Besuchs von Helbing auf Einladung des Friedrich Funder Instituts statt.

"Ein superintelligentes System wird die Erde nicht retten"
Dirk Helbing
futurezone: Herr Helbing, Sie warnen vor den Folgen der Digitalisierung. Was steht uns jetzt bevor?
Dirk Helbing:Wir befinden uns inmitten der digitalen Transformation - manche bezeichnen sie sogar als digitale Revolution. Wir stehen vor einer großen Veränderung von Wirtschaft und Gesellschaft, wie damals bei der industriellen Revolution. Plötzlich gibt es Social Media, Big Data, Cloud Computing, künstliche Intelligenz, Cognitive Computing, Robotik, Internet der Dinge, Blockchain Technology, Virtual Reality, 3D-Printing; also irrsinnig viele Entwicklungen, die sich innerhalb von wenigen Jahren abspielen. Das bedeutet, dass hier großes disruptives Potenzial entsteht - ein perfekter Sturm. Man rechnet etwa damit, dass die künstliche Intelligenz zu einer umfassenden Automatisierung führt.

Das heißt die Arbeitslosigkeit steigt?
Viele Experten denken, etwa 50 Prozent der heutigen Tätigkeiten werden innerhalb von wenigen Jahren der Digitalisierung zum Opfer fallen. Die öffentliche Hand ist zudem praktisch pleite. Dementsprechend wird ein massiver Sparzwang auftreten. All das wird die heutige Wirtschafts- und Gesellschaftsordnung auf den Kopf stellen. 50 Prozent - die halbe Volkswirtschaft - muss neu erfunden werden. Gesellschaftlich besteht die Gefahr, dass wir in einen technokratischen Totalitarismus hineinrutschen.

Fallen wirklich 50 Prozent der Jobs weg, oder werden sie - wie viele Beobachter glauben - durch neue ersetzt?
Die Behauptung ist nicht, dass wir 50 Prozent Arbeitslosigkeit haben werden. Aber es wäre naiv anzunehmen, dass wir nicht vorübergehend einen ziemlichen großen Druck auf den Arbeitsmarkt erleben werden, der Wirtschaft und Gesellschaft das Genick brechen könnte, wenn wir nicht vorbereitet sind. Eine Vorbereitung würde aber eine Umorganisation der Wirtschaft erfordern. Mittlerweile fordern viele Stimmen, auch aus dem Silicon Valley, ein "bedingungsloses Grundeinkommen" einzuführen. Das ist aber nur eine mögliche Variante. Der wesentliche Punkt ist, dass man eine funktionierende Lösung in der Schublade haben muss, die einsatzbereit ist. Leider sehe ich derzeit nicht, dass dies der Fall ist.

Hat die Politik bisher versagt?
Mein Eindruck ist, dass es Kräfte gab, die der Politik in den Kopf gesetzt haben, dass die beste digitale Zukunft eine ist, in der die Welt zentral optimiert wird. Daher hat man eine zentralisierte Infrastruktur gebaut, die Daten über alles und jeden sammelt. Die Idee ist, dass ein wohlwollender Diktator nur alles, was einem die Daten sagen, umsetzen müsse. Allerdings muss man zur Optimierung immer eine Zielfunktion wählen. Das müsste aber demokratisch ablaufen. Es gibt keine neutralen Daten oder Algorithmen. Deshalb müssen politische, gesellschaftliche und wirtschaftliche Ziele gegeneinander abgewogen werden.

Auch die großen US-Tech-Konzerne machen Politik. Gibt es eine "Silicon Valley Agenda"?
Wie bei jeder wissenschaftlich-technischen Revolution gibt es natürlich auch neue Player, in diesem Fall Google, Apple, Amazon, Facebook, usw. Die amerikanische Strategie ist es, überall möglichst schnell voranzukommen und erst hinterher zu schauen, was die unerwünschten Begleiterscheinungen sind, die man dann mit neuen Innovationen zu beheben versucht. Viele Chefs großer IT-Firmen träumen davon, irgendwann die Welt zu lenken. Und bis zu einem gewissen Grad können sie das auch schon. Aber letzten Endes verbergen sich hinter vielen dieser Unternehmen wieder alte Player, die davon träumen, irgendwann die politischen Verhältnisse von vor 100 Jahren wieder herzustellen.

Wie könnte aus Ihrer Sicht eine Lösung für die Probleme, die durch die Digitalisierung entstehen, aussehen
Es braucht einen Global Currency Reset - man muss das Finanzsystem weltweit neu starten. Aber es gibt verschiedene Vorstellungen, wie ein solcher Reset aussehen soll. Würde man dem Alten Testament folgen, dann müsste alle 50 Jahre ein Schuldenerlass erfolgen. Das hat einen guten Grund: in einem Finanzsystem mit Schuldzinsen wird die Zinsenlast früher oder später automatisch untragbar. Das erleben wir nun schon seit über 5000 Jahren. Ein Neustart wäre auch wichtig, um die Klimaziele zu erreichen. Ich hoffe, dass er bald kommt. Ich glaube, dass die Gesellschaft am Punkt der maximalen Instabilität angekommen ist, und dass die notwendigen Entscheidungen jetzt kommen werden. Entweder wir handeln, oder die Welt zerbricht an unserer Tatenlosigkeit.

Kann Technologie unsere Probleme lösen?
Manche behaupten das. Ob das ein Traum oder ein Glaubenssatz oder einfach nur verzweifelte Hoffnung ist, das ist die Frage. Tatsache ist, dass viele unserer Probleme globale Ausmaße haben und ungelöst sind. Klimawandel, Schuldenkrise, Kriege, Massenmigration, Terrorismus - das alles hängt eigentlich damit zusammen, dass wir die Ressourcen der Welt überbeanspruchen. Wir müssen uns selber an der Nase fassen, dass wir es nicht geschafft haben, eine ressourcenneutrale Wirtschaft aufzubauen, die mit dem zu Rande kommt, was unser Planet uns auf Dauer bieten kann.

Intelligente Maschinen sind also nicht die Lösung?
Ein superintelligentes System wird die Erde nicht retten, das kann ich garantieren. Der Grund dafür ist, dass die Vernetzung zu kombinatorischer Komplexität führt und die wächst noch viel schneller als die Datenmenge, die wiederum schneller wächst als die Prozessorleistung. Und auch die Quantencomputer, so schön sie sind, werden das nicht fundamental ändern, sondern es braucht tatsächlich einen neuen Steuerungsansatz und das ist die dezentrale Kontrolle.

Wie könnte ein neue Wirtschaftssystem Ihrer Meinung nach aussehen?
Wenn 50 Prozent der heutigen Tätigkeiten wegfallen, dann wird das Kapazitäten freisetzen, die wir nutzen können, um uns um Umwelt und Soziales zu kümmern. Zum einen muss die Realwirtschaft umgebaut werden in Richtung einer digitalen Ökonomie, zum anderen müssen wir eine kohlenstoffarme Ökonomie aufbauen. Die Kreislaufwirtschaft ist das Einzige, was uns erlaubt, eine hohe Lebensqualität für mehr Menschen mit weniger Ressourcen bereitzustellen. Dorthin kommen wir nicht durch Regulierung. Zwar haben wir ein bisschen Mülltrennung erreicht, aber insgesamt sind wir in den letzten Jahrzehnten nicht sehr weit gekommen. Um den Übergang zu beschleunigen, benötigen wir neue Marktmechanismen und die erfordern eine dritte Transformation, nämlich die des Finanzsystems.

Wie sähe das aus?
In Zukunft würde man mit dem Internet der Dinge Externalitäten aller Art messen, also externe Auswirkungen von Interaktionen zwischen Menschen, Firmen und Umwelt. Ich spreche hier von Lärm, Stress, CO2, Gift- und Abfallstoffen - die bekämen Preise; aber auch von positiven Externalitäten wie sozialer Kooperation, Bildung, Gesundheit, neuen Jobs, und dem Recycling von Abfällen - das bekäme einen zusätzlichen Wert. Die Externalitäten würden über Marktmechanismen bepreist, und es gäbe hunderte neuer Finanzmärkte. Es gäbe also viele neue Verdienstmöglichkeiten, was interessant für die Bürger wäre, aber auch für das Bankensystem und die Wirtschaft insgesamt.

Führt das nicht zum gläsernen Menschen?
Den haben wir im Prinzip heute. Unser Ansatz ist anders. Er zielt auf eine öffentliche Datenplattform, zu der wir alle mit Messungen Daten beitragen können, etwa mit unserem Smartphone, aber die informationelle Selbstbestimmung und Privatsphäre würde beachtet. Das geschieht durch ein Design, das die Grundrechte und unsere Werte beachtet.

Wie kann ich mir das neue Geldsystem im Alltag vorstellen?
In Zukunft würde beim Bezahlen nicht ein einziger Preis von meinem Konto abgezogen, sondern es gäbe dann auch einen separaten Preis für ökologische Auswirkungen und einen für die Arbeitsbedingungen usw. Es würde also differenziert abgerechnet. Langer Transport würde negativ ins Gewicht fallen, biologischer Anbau positiv. In manchen Kategorien könnte man sogar etwas dazu verdienen. Das Smartphone könnte einem mitteilen "Aus Deiner Perspektive wäre dieses Produkt das beste und jenes das zweitbeste". Es würde einem also helfen, sein persönliches Portfolio zu optimieren. So wird die Welt wohl einmal funktionieren.

Macht uns das nicht alle zu Versuchskaninchen?
Ich glaube nicht. Die Wirtschaft der Zukunft wird so funktionieren, dass jeder, der will, Projekte aufsetzen kann. Und wenn das spannend genug ist, dann werden sich andere Leute beteiligen. Das ist eine sehr flexible, zielorientierte Organisationsform. Es werden nicht die einen immer "Chefs" sein und die anderen immer "Untergebene". Vielmehr werden wir in verschiedenen gestalterischen Rollen unterwegs sein. Ich habe neulich einmal gesagt, die Gesellschaft, in der sich die besten Ideen durchsetzen, statt Geld oder Macht, das ist die Gesellschaft, in der wir eigentlich leben möchten.

Wie können wir uns in einer digitalisierten Welt vor der Manipulation unseres Denkens besser schützen?
Vor Manipulation können wir uns nur schützen, wenn man nicht ein Unternehmen oder eine Institution entscheiden lässt, welcher Informationsfilter zur Anwendung kommt. Wir müssen zwischen verschiedenen Algorithmen wählen können. Die komplexe Probleme der heutigen Welt können wir nur lösen, indem wir verschiedene Perspektiven berücksichtigen und integrieren. Es muss möglich sein, die Filter auf seine persönlichen Bedürfnisse anzupassen, sie mit Freunden und Kollegen zu teilen, und sie zu modifizieren. Mit diesem partizipativen Ansatz könnte man eine positive Aufbruchstimmung erzeugen. Das ist doch hundertmal besser als Populismus, Revolution oder Krieg.

Die bisherigen Serienteile:

Teil 1: Der Mensch von morgen: Perfekt, unsterblich - zu allem bereit?

Essay von Helmut Brandstätter: Die Wissenschaft wird uns gottähnlich machen - oder zerstören

Teil 2: Der Genetiker Markus Hengstschläger über die Thesen von Yuval Harari

Teil 3: Wie der Mensch den Schwangerschaftscode knacken will

Teil 4: Über die Gefahren der Mensch-Optimierung

Teil 5: Zukunft der Menschheit: Droht das Ende der Demokratie?

Teil 6: Der Mensch ist de facto bereits unsterblich

Teil 7: Singularität - die Angst vor der klugen Maschine

Essay von Helmut Brandstätter: Lern´ was! Ja, aber was?

Teil 8: Leben in der Zukunft: Für immer Feierabend! Und dann?

Teil 9: Wie wahrscheinlich eine gezielte Manipulation des Gehirns ist

Kommentare