Wie zwei Linzer Europas KI unabhängiger machen wollen

In Linz nimmt sich ein Start-up Großes vor: das leistungsstärkste europäische KI-Sprachmodell zu entwickeln. Die Rede ist von „Talos“, einem „Large Language Model“ (LLM), ähnlich wie Sprachmodelle hinter ChatGPT oder Gemini. Es verarbeitet Anfragen, sogenannte Prompts, und erzeugt darauf basierend Antworten. Hinter Talos steht das Linzer Start-up „Ablatic AI“, gegründet von Florian Zimmermann und Julian Mauerkirchner im Rahmen des „LIT Open Innovation Center“ der Johannes Kepler Universität.

Das Sprachmodell soll insbesondere für Anwendungen in sensiblen Bereichen wie Finanzwesen, Versicherungen und öffentlicher Verwaltung eingesetzt werden. Diese verlangen nämlich einen sehr vorsichtigen Umgang mit persönlichen Daten ihrer Kunden. Ein weiterer Vorteil für Unternehmen soll die europäische Infrastruktur sein: Talos wird ausschließlich auf europäischen Hochleistungsrechnern, sogenannten „Supercomputern“, trainiert und betrieben.

Unabhängig von den USA

„Wir sind schnell auf die Hürde gestoßen, dass viele Firmen, mit denen wir Geschäft machen wollten, kein Modell aus den USA verwenden möchten“, so Mauerkirchner, Finanzchef von Ablatic AI. Unternehmen würden ihre Daten lieber in Europa behalten, auch aus der Angst vor Weitergabe an Dritte. Für regulierte Branchen wie öffentliche Verwaltung, Banken, Versicherungen und Gesundheitswesen gelten außerdem besonders hohe Anforderungen an Datenschutz, IT-Sicherheit und den Umgang mit sensiblen Daten.

Um den europäischen Datenschutz- und Sicherheitsstandards gerecht zu werden, versuchte Ablatic AI es mit dem französischen KI-Unternehmen „Mistral AI“ als Alternative zu US-amerikanischen Modellen. Diese waren für die Anforderungen des Start-ups jedoch nicht leistungsfähig genug gewesen, sagt Mauerkirchner. Ablatic entschied sich deshalb, ein eigenes Sprachmodell zu entwickeln. Dafür braucht es allerdings enorme Rechenleistung.

Über die Initiative „AI Factory Austria“ erhielt das Start-up Zugang zu europäischen Supercomputern, auf denen Talos trainiert werden konnte. Die Initiative unterstützt Start-ups und Industrie dabei, KI-Vorhaben umzusetzen. Gerade für Unternehmen, die mit sensiblen Daten arbeiten, ist es entscheidend, dass die Daten innerhalb Europas verarbeitet werden können. „Unternehmen müssen sicherstellen, dass ihre Daten sicher in Europa bleiben und nicht weitergegeben werden“, erklärt Daniel Pepl von der AI Factory Austria.

Zusätzlich verspricht Ablatic laut Mauerkirchner, Talos nie mit Kundendaten zu trainieren. Stattdessen wurden kommerzielle oder eigene Datensätze herangezogen. Prompts werden außerdem wie beim menschlichen Kurzzeitgedächtnis nach der Beantwortung nicht von Talos gespeichert.

Marktstart Ende August

In der Beta-Testphase wurde Talos von 100 Unternehmen getestet. Ende August ist dann der offizielle Marktstart des Linzer KI-Sprachmodells. In der Pilotphase waren es zum Großteil Softwarefirmen, die das Modell testeten. Diese Firmen bauen Talos in ihre bestehenden Anwendungen ein, um sie anschließend an Endkunden wie zum Beispiel Banken anzubieten.