Meinhard Lukas: „Die KI ist nicht viel mehr als ein stochastischer Papagei“

Er untersuchte die Vergangenheit des Eurofighterkaufs, lehrte und leitete das Juridicum in Linz, führt nun das Kepler Klinikum und macht sich mit der KI-Strategie des Landes Oberösterreich Gedanken über unser aller Zukunft. Meinhard Lukas, Professor für Zivilrecht, spricht über die Verführbarkeit des Menschen und wann wir „eher nicht gescheiter werden“.

KURIER: Wie sehr beeinflusst KI Ihren Alltag?

Meinhard Lukas: Ich bin ein Mensch, der viel mit Texten arbeitet. Egal ob im Management oder bei dem einen oder anderen journalistischen Ausflug. Ich habe immer eine der Anwendungen für KI offen, um Dinge prägnanter zu sagen. Ich finde KI auch als Informationsgrundlage in jeder Hinsicht großartig. 

Sie als Zivilrechtsprofessor gefragt: Haben die Unis schon eine Handhabe im Umgang mit KI?

Bestenfalls ansatzweise. Die Professorinnen und Professoren haben das Fach, das sie vertreten, meist analog gelernt. Das ist eine völlig andere Situation als für Digital Natives, die jetzt Jus studieren.

Wie haben Sie den Umgang mit KI gelernt?

Ich glaube, mein Berufsweg ist ein gutes Beispiel, wie man sich diesen Dingen gut nähern kann, weil ich in einem gewissen Zeitrahmen geboren bin und da Jus gelernt habe. Als junger Assistent für Zivilrecht an der Uni Linz bin ich ausschließlich mit Büchern sozialisiert worden. Es gab keine Datenbanken, keine KI, sondern nur den berühmten Hohenecker-Index. Ein Buch, das jährlich herausgekommen ist und in dem alle Publikationen und maßgeblichen Entscheidungen des Vorjahres abgedruckt waren. Es war mein Job als Assistent, Dinge im Hohenecker-Index zu suchen, zu kopieren und dem Professor zu faxen. Dann kam die erste Rechtsdatenbank. Österreich war unglaublich fortschrittlich, was diese Entwicklung betrifft. So bin ich ins Internetzeitalter gekommen. Heute stehen wir bei Anwendungen, die ChatGPT basiert Verträge machen. Damit bin ich ein Jurist, der alles bis zu KI-Lösungen von der Pike auf gelernt hat. 

Gernot Kanduth, Chef der Richtervereinigung, hat im KURIER-Interview erzählt, womit die Gerichte konfrontiert sind. Menschen, die nicht anwaltlich vertreten sind, nehmen sich quasi die KI als Anwalt und stellen einen 400-seitigen Antrag auf Verfahrenshilfe. Geübt ist man im Umgang mit der KI noch nicht.

In meinem Alter begreift man, wie solche Dinge entstehen. Wenn man dann noch parallel versteht, wie die KI funktioniert, dann ist klar, was dabei herauskommt. Die KI ist nicht viel mehr als ein stochastischer Papagei, der irgendwelche Textsysteme in neu zusammengesetzter Form wiederholt. Der Vorteil von erfahrenen Juristinnen und Juristen ist, sofort zu erkennen, was sinnentleert ist und, wann das System halluziniert. Menschen, die mit 18 oder 19 Jahren heute an die Uni kommen, haben einen völlig anderen Zugang. 

Glauben Sie, dass Ältere besser mit der neuen Technologie umgehen können?

Sie wissen jedenfalls wesentlich besser, was nicht stimmen kann. Ein Hauptproblem bei juristischer KI ist der zeitliche Geltungsbereich von Gesetzen. Alle Rechtstexte sind im Netz und irgendwann werden sie Teil eines KI-Algorithmus. Die immense Herausforderung für die Entwickler solcher KI-Systeme ist, Veränderungen in der Gesetzgebung zeitlich zuzuordnen. Was die KI aus Rechtstexten macht – sie ist tatsächlich nur dieser stochastische Papagei, also plappert nach, was es schon irgendwo gibt. Ich kann die KI heute aber bereits relativ gut darauf trainieren, dass sie weniger halluziniert, also Dinge erfindet, die es nicht gibt. Die KI-Experten der Kepler-Universität sagen mir, dass dieses Halluzinieren immer passieren wird, was ein Riesenproblem ist. Solange 80 Prozent der Texte fehlerhaft sind, werden Juristen auf die Fehler draufkommen. Wenn aber einmal 99 Prozent sicher sind, dann werden auch die, die analog gelernt haben, KI-basierte Fehler nicht mehr erkennen.

Wie überprüfen Sie das Wissen von Studierenden, ob selbst oder von KI geschrieben oder geschummelt wurde?

Wir prüfen am besten bei der mündlichen Prüfung. Ein guter Prüfer prüft nicht Wissen, sondern Verständnis. Die mündliche Prüfung ist die Stunde der Wahrheit. Bei schriftlichen Prüfungen – hier sind Hausarbeiten wichtig, weil sie der späteren Tätigkeit der Juristen am Nächsten kommen – unterstellt man am besten bei der Aufgabenstellung, dass mit der KI gearbeitet werden wird. Eine echte universitäre Ausbildung ohne schriftliche Arbeiten kann ich mir gerade in Jus nicht vorstellen. 

Was kann sich ein Laie unter der KI Strategie für Oberösterreich vorstellen, die Sie mit BWL-Professor Teo Cocca erarbeitet haben?

Es geht um den Einsatz von KI in der Industrie. Alle Experten, egal ob im Silicon Valley oder in Frankreich, sind sich einig, dass das nächste große Ding in der KI nicht mehr große Sprachmodelle sind, sondern sehr viel kleinere, adaptivere industrielle Anwendungen. Klassische Beispiele gibt es in der Material- oder Medikamentenentwicklung. KI ist wahnsinnig schnell und gut darin, neue Moleküle zu finden. Wofür das Labor teils 10 bis 15 Jahre braucht, das schafft die KI in wenigen Tagen. Worum es in der Strategie noch geht: dass wir uns mit Start-ups international vernetzen müssen.

Österreich ist bei dem MINT-Fächern international ganz gut dabei…

…bemerkenswert ist, dass Österreich und auch Oberösterreich bei allen Innovationsindizes ganz oben ist, aber dass wir bei der Produktivität und Wertschöpfung eher mau sind. Wir haben ein Defizit, das KI-Know-how oder generell technisches Know-how zur Marktreife zu bringen. Unsere Wissenschafterinnen und Wissenschafter haben ein ganz anderes Mindset, wenn es darum geht, das eigene Baby marktreif zu machen. Allein, wenn man sich das Ökosystem rund um die TU München ansieht, ist der Wirkungsgrad, Dinge zu vermarkten, weit höher als bei uns. 

Haben wir in Österreich nicht zudem das Problem, dass es keine Risikokapital-Kultur gibt?

Ich habe mir das mit einem Professor Cocca genau angeschaut. Das Problem ist tatsächlich noch eine Stufe davor. Würden wir alles Venture Capital der Welt in Österreich haben, wäre das wohl zu wenig. Unsere Innovationskultur muss sich ändern.  

Dann können wir es gleich lassen?

Nein! Wir haben nur noch nicht verstanden, wie man sich in dieser Start-up-Kultur aufstellen muss. Wir müssen ein kleines Stück von dem überwinden, was man hässlich als „Provinzialität“ bezeichnet. Die Politik in Oberösterreich beginnt damit. Wir wollen ausländische Start-up-Niederlassungen zu uns bringen. Also wirklich Innovationsschmieden global scouten, weil innerhalb einer Forschungs- und Entwicklungsabteilung eines Unternehmens meistens die bahnbrechenden Erfindungen nicht gemacht werden, und zwar aus kulturellen Gründen. Das ist klar, denn ein Unternehmen, das darauf getrimmt ist, möglichst kosteneffizient zu produzieren, ist in der Struktur nicht für bahnbrechende Erfindungen ausgelegt. Wir müssen uns  also mit den kleinen Anthropics dieser Welt verbinden und dort muss dann Venture Capital eingesetzt werden. 

Wie hoch ist die Wahrscheinlichkeit, dass das passiert?

Ich sehe das in Oberösterreich in den nächsten paar Jahren. Wenn wir jetzt erst eine österreichische Start-up-Kultur für industrielle KI entwickeln, sind wir sowieso schon spät dran. Trotz des phantastischen Beispiels des Kollegen Johannes Brandstetter, einem Schüler Sepp Hochreiters, der die KI-Simulation jetzt an Mistral verkauft hat. Es geht darum, internationale Start-ups, die bereits etabliert sind, für die oberösterreichische Industrie nutzbar zu machen. 

Die Bundesregierung möchte langfristig tausende Beamten einsparen und durch KI ersetzen. Ist das sinnvoll, weil dadurch Geld gespart wird oder ist es eine Illusion?

In den Budgethorizonten, die derzeit den Finanzminister beschäftigten, wird nichts gespart. Solche Strategien kosten vorweg mehr Geld, um wirklich wirksam zu werden. Wir haben bei großen Reformen generell das Problem: Die kurzfristigen Spareffekte, die uns bei Defizitverfahren in Brüssel helfen sollen, gibt es nicht. 

Gehen wir an den Anfang: Wenn wir jetzt in die Schulen schauen und wissen, dass KI allgegenwärtig ist, wird weniger analog gelehrt und gelernt. Werden die Generationen zwangsläufig dümmer?

Damit wir hier nicht zu pessimistisch werden: Ein dreiviertel Jahr, nachdem ChatGPT gelaunched wurde, hat Henry Kissinger, der ehemalige US-Außenminister, der ehemalige Google-CEO Eric Schmidt und ein Professor des MIT, also drei relativ sehr gescheite Leute, genau diese Frage adressiert. Sie haben gesagt, im besten Fall wird es ein phantastischer Gewinn an Wissen und Fortschritt sein. Wir müssen unsere Logik, Dinge zu verstehen, kombinieren mit der Art, wie KI Dinge versteht. Wir müssen an den Schulen weiter vermitteln, warum auf A B folgt und darauf C, auch wenn uns die KI das sofort sagen kann: Wenn es uns gelingt, den deduktiven und den induktiven Zugang zu verbinden, dann sind wir Weltmeister. Wenn uns das nicht gelingt, dann besteht die angesprochene Gefahr, dass wir eher nicht gescheiter werden.

Wovon gehen Sie aus?

Ich glaube, in einem kapitalistischen System, in dem Dinge so optimiert werden, dass sie bestmöglich marktfähig sind, wird es Teile in dieser Welt geben, wo Spezialistinnen und Spezialisten sitzen, die beides verbinden können. 

Jetzt haben Sie sich gut drüber geschwindelt. Zum Schluss noch ein Blick in die Vergangenheit: Sie gelten als Columbo des Brucknerhauses, haben Gutachten zu den Eurofightern erstellt, kennen die Swap-Geschäfte der Stadt Linz. Haben diese Gutachten ihre Haltung dazu, ob der Mensch ein Unrechtsbewusstsein hat oder eben keines verändert?

Der Mensch ist ein verführbares Wesen – das ist schon biblisch belegt. Gelegenheit macht Diebe und man soll nicht zu viele Gelegenheiten schaffen, dass Menschen zugreifen. Grundsätzlich habe ich in all diesen Causen gelernt, dass man es mit der Regulierung nicht übertreiben soll. Damit in einem Unternehmen nicht betrogen oder veruntreut wird, brauchen Sie eine Unternehmenskultur. Das ist viel wichtiger als irgendwelche Kodizes oder Standard Operating Procedures. Es geht um eine Kultur und darum, wer führt die Organisation mit einem bestimmten kulturellen Bewusstsein an. Das ist viel wichtiger als die 100. Reform von irgendwelchen Compliance Richtlinien. Wer liest die denn und wen schreckt das ab, wenn er die richtige Unternehmenskultur nicht verinnerlicht hat?

Weil nicht genug gestraft wird, wenn man dagegen verstößt?

Es ist ein Kulturthema. Das ist auch in der Politik so. Ich glaube nicht daran, dass das Strafrecht als solches die Politik wirklich verändern wird. Solange nicht eine Kultur der politischen Verantwortung jenseits des Strafrechts besteht, wird sich nicht so viel ändern. Und das ist aus meiner Sicht das Entscheidende. Es hat Dinge gegeben, bei denen es in England völlig selbstverständlich ist, dass man zurücktritt, auch wenn man nicht persönliche Schuld auf sich geladen hat. Es geht um Verantwortungskultur. 

Sie leiten jetzt das Linzer Kepler Klinikum. Es gibt Menschen, die sagen: Warum tun Sie sich das an?

Es gibt in einem Krankenhaus, wenn man so durchgeht, jedenfalls zwei existentielle Bereiche: Geburtenstation und Palliativstation. Mehr Sinnstiftung gibt es eigentlich nicht in einer Tätigkeit. Krankenhäuser und erst recht Universitätskliniken decken einen der wichtigsten menschlichen Bereiche ab. Die Idee eines solidarischen Gesundheitssystems, also jeder, egal wie viel Geld er in der Geldtasche hat, kriegt den Zugang dazu, ist wahrscheinlich für den Zusammenhalt der Gesellschaft das Wichtigste. Und da kommen wir jetzt absolut an die Grenzen. Mich treibt an, mit 7.500 Menschen, die in diesem Uniklinikum tätig und unglaublich ambitioniert sind, einen Entwurf vorzulegen, wie diese Versorgung weiter gehen könnte. Es gibt ein ganz großes Vorbild: Die Karolinska Klinik in Schweden.