Josef Hochreiter: Von der Regierung nicht. Damals war das Institut noch im Aufbau. Inzwischen würde ich viel mehr in die Rechner investieren.
Wie viel?
Um mit meinem Projekt xLSTM auf den Markt zu kommen, würde ich 300 Millionen Euro benötigen. Ich habe damals noch nicht gewusst, wie viel Rechenleistung ChatGPT benötigt. ChatGPT hat es damals noch nicht gegeben.
Von der Regierung haben Sie nichts bekommen. Wie ist die aktuelle Situation Ihres KI-Instituts an der Universität?
Es hat sich nicht viel geändert. Das Land Oberösterreich finanziert immer noch das LIT-Lab. Das läuft demnächst aus. Ich hoffe, es geht weiter. Ich habe sonst von staatlicher Seite nichts bekommen.
Ich habe sehr viele Projekte mit Firmen. Ich brauche aber auch Leute, die in Ruhe überlegen, etwas Neues erfinden und ausprobieren können. Das kann man mit Firmen nicht machen, das muss da schon funktionieren. Ich brauche Mitarbeiter, die reine Forschung machen.
Der Zulauf von Studenten ist ein sehr guter. Wie stark steigen die Zahlen?
Wir hatten bisher beim Bachelor-Studium rund 200 Anfänger, nun waren es 400. Das AI-Studium ist inzwischen das zweitgrößte Studium der Kepler-Universität. Es ist doppelt so groß wie die Informatik.
Man kann KI online auch in Wien und Vorarlberg studieren. Gibt es noch andere Orte?
Ich bin froh, dass es nicht mehr gibt, denn es fehlen uns die Kapazitäten.
War die mangelnde staatliche Finanzierung der Auslöser dafür, dass Sie eine private Finanzierung auf die Beine gestellt haben?
Genauso ist es. Ich habe mehrmals in der Öffentlichkeit gesagt, dass ich mit dem xLSTM eine coole Idee habe, ich sie aber nicht ausprobieren kann.
Was ist das?
Ich habe das xLSTM erfunden. Das war früher in den Handys. Dann ist eine neue Technologie gekommen, die Transformer-Technologie. Wenn man das xLSTM verbessert und die Transformer-Sachen reinnimmt, kann ich damit besser sein. xLSTM kann das nächste Wort immer besser vorhersagen. Das bedeutet eine Vereinfachung im Coding und in der Logik.
xLSTM kann bessere Schlussfolgerungen aufstellen. Wir sind besser als der ChatGPT-Schmarrn, den das OpenAI hat. Es passt besser, wir machen es autoregressiv. Wir sind immer besser wie die Transformer, als die OpenAI etc. Wir haben etwas, das alles schlägt, was gerade draußen ist.
Sie sind weltweit führend?
Ich habe es nicht publiziert, die meisten wissen es nicht. Wir wissen intern, dass wir besser sind. Meine Leute, die forschen, sind nervös, weil sie bei den laufenden Ergebnissen feststellen, dass wir immer wieder besser sind. Wir möchten die IP(Intellectual Property)-Rechte hier in Österreich und in Europa halten.
Mangels staatlicher Finanzierung haben Sie nun gemeinsam mit Investoren die Firma NXAI gegründet.
Es hat sich die Firma von Albert Ortig, die ihren Sitz in der Linzer Tabakfabrik hat, beteiligt sowie die Pierer Digital Holding.
Wie viel Geld haben Sie nun zur Verfügung?
Das darf ich nicht sagen.
Genügend für Ihre Forschung?
Ich weiß nicht, ob es reicht. Wir haben nun ganz viele Millionen in die Amazon Cloud reingesteckt. OpenAI, Microsoft, etc. bauen immer kleine Modelle, und schauen, ob sie funktionieren. Dann entwickeln sie Schritt für Schritt größere Modelle. Das machen wir auch.
Wir schlagen derzeit alles, was am Markt ist. Dann machen wir das nächstgrößere Modell mit noch mehr Daten. Da schlagen wir wieder alle. Jetzt wollen wir ein ganz großes Modell bauen. Dafür braucht man noch viel mehr Geld.
Welche Anwendungsmöglichkeiten sehen Sie?
Das ist schwierig zu sagen, denn es gibt immer mehr Ideen, wo man diese Large Language Modelle anwendet. Alle basieren auf der Transformer-Technologie. Mit dem xLSTM haben wir Vorteile. Wir sind besser und schneller, wir brauchen weniger Rechner, wir haben geringere Kosten und wir können komplexere Zusammenhänge erkennen. Wir sind bisher supergut unterwegs.
Wenn derzeit jemand die ChatGPT-Technologie drinnen hat, dann können wir sie rasch auswechseln. Wir sagen den Kunden, sie bekommen ein besseres Ergebnis um die Hälfte des Geldes. Das können wir verkaufen.
Ein Beispiel?
Was kommen sollte, ist zum Beispiel ein ChatGPT für die Firma. Egal, was in der Firma ist, ChatGPT weiß das. Wer hat zum Beispiel die Reifen geliefert? War der Lieferant zuverlässig? Haben wir Rabatt bekommen? Wie lange war die Lieferzeit? Ich frage, wie viel Steuer haben wir vergangenes Jahr in China bezahlt?
Ich kann auch fragen, wohin hat der Lehrbub die Bohrmaschine gelegt? Es weiß alles von der Firma. So etwas muss kommen. Jetzt verlassen oft Mitarbeiter die Firma und das gesamte Wissen ist verloren. Das gesamte Wissen aller Mitarbeiter ist in dem Produkt enthalten.
Ist das schon anwendungsfähig?
Nein, das ist eine Idee. Das gibt es noch nicht, es ist ein Traum von mir, so etwas zu machen.
Sie haben bereits vor drei Jahren gesagt, Sie können die Anfragen der Firmen gar nicht mehr bedienen, Sie müssen sie ins Ausland verweisen. Wie ist das derzeit?
Es ist schlimmer geworden. Viel mehr Firmen erkennen die Bedeutung von KI. Mit dem ChatGPT hat es noch einmal einen richtigen Boost gegeben.
KI wird in Zukunft eine Basistechnologie sein.
Das denke ich. Das ist vergleichbar mit dem Strom, als er eingeführt worden ist. Oder den Computern. So wird auch die KI überall reinkommen, weil es gut funktioniert, weil es Sachen schneller und effizienter erledigt.
Sind Sie mit Ihrer Situation zufrieden? Was ist Ihr Wunschkonzert?
So schlecht geht es mir eigentlich nicht. Auch wenn wenig Geld in die KI gesteckt wird, so bekommen wir von den Firmen Geld für die Leistungen.
Für die neue Firma NXAI gab es viele Angebote von Finanziers. Da ist Huawei gekommen und wollte es finanzieren, da sind die Saudis gekommen, es gab Venture Capitals aus Deutschland. Sie alle wollten einen Business-Plan. Ich sagte Nein, ich will die Technologie hier etablieren. Mir geht es um die Forschung.
Das Tolle ist, dass es hier in Oberösterreich Leute gibt, die die Technologie hier halten wollen. Das ist Silicon-Valley-Denken. Das hat mich gefreut. Jetzt kann ich es ausprobieren. Es schaut supergut aus. Später werden wir daraus etwas machen, da können wir Geld daraus machen. Da finden wir schon etwas.
So viele mit dem Silicon-Valley-Denken gibt es auch wieder nicht.
Aufgrund der Pressemeldungen gibt es jetzt noch mehr Leute, die anstehen. Wir werden sehen, wie es weitergeht. Wir müssen nun den ersten Schritt machen, dass wir den Schmarrn, den OpenAI verbreitet, weg haben.
Stefan Koch, der neue Rektor, hat verkündet, dass die Digitalisierung weiterhin der Schwerpunkt der Kepleruniversität sein wird. Künftig soll es auch die Digitaluniversität geben, sofern sie auf die Füße kommt. Bleibt für die neue Universität noch etwas?
Das ist eine heikle Frage (lacht). Ich halte mich hier vorerst raus, weil da so viel Politik drinnen ist. Wenn sie es gescheit machen, kann man zusammenarbeiten. Aber sie sollen zuerst einmal überlegen, was sie machen. Ich will mich nicht einmischen, ich will meine Sache gut und sauber machen. Wenn sie etwas Gutes aufstellen, arbeiten wir zusammen. Wenn ich denke, das wird nichts, halte ich mich eher zurück.
Ihr ehemaliger Mitarbeiter Ulrich Bodenhofer bietet an der Fachhochschule Hagenberg einen Bachelor-Lehrgang in KI an.
Ich bin froh, dass er das macht, denn er macht das gescheit. Er weiß, wie das geht. Je mehr hier los ist, umso besser ist es.
Ich habe schon vor Jahren mit Amazon und Microsoft geredet, sie sollen hier ein LAB eröffnen. Ihre Antwort war, das lohnt sich nicht, wir finden die Mitarbeiter nicht.
Wird das nun besser?
Jetzt machen sie keine neuen Labs mehr, weil sie mit der ChatGPT-Umstrukturierung intern so viel zu tun haben. Google hat zum Beispiel Angst, dass nicht mehr zugegriffen wird, weil ChatGPT gefragt wird. Aber jetzt könnte ich den Konzernen sagen, Linz wäre parat, denn es gibt genügend KI-Studenten und Absolventen.
Es gibt europäische Exzellenz-Universitäten. Könnte man nicht rund um Ihr Institut, die technisch-naturwissenschaftliche Fakultät und die Digitaluniversität und die FH eine derartige Exzellenzuniversität etablieren?
(lacht) Ja, wenn sich alle einig wären. Es geht ja schon bei der Finanzierung los. Wenn man das politisch hinbekommt, wäre das eine coole Sache.
Vom Niveau her würde es passen?
Absolut. Ich spiele nur Champions League und keine Stufe darunter.
Es müsste dann von der EU mehr Gelder geben.
Die kriegen wir so auch. Ich bin auch Treasurer vom Ellis-Netzwerk, vom europäischen Exzellenz-Netzwerk für KI. Da ist Linz ebenso dabei wie Oxford, Cambridge, die ETH Zürich. Wir sind besser als Oxford. Oxford hat uns angefragt, ob wir mit ihnen kooperieren. Unser Status ist ein sehr guter, aber unser Institut ist klein.
Es wäre also sinnvoll, wenn die Linzer alle ihre Kräfte bündeln würden.
Absolut. Aber rein politisch ... Ich kenne die Situation in den USA. Da gibt es die großen Universitäten und die kleinen. Die Kleinen fokussieren sich auf Spezialgebiete, wo sie versuchen, die Besten zu sein. Wenn man klein ist, sollte man sich fokussieren und weltweit auftreten.
Kommentare