Wählen Sie KURIER als bevorzugte Google-Quelle

Human-Centered AI Service Management: Wer trägt bei KI die Verantwortung?

KI handelt im Service Management zunehmend autonom. Human-Centered AI Service Management (HUCAISM) vereint KI-Prozesse mit menschlicher Verantwortung und AI Governance.
SERVIEW-Stand auf einer Messe, vor dem ein Mann im Anzug mit anderen Fachbesuchern spricht.

KI priorisiert Tickets, beantwortet Serviceanfragen und trifft zunehmend operative Entscheidungen. Doch wer behält die Kontrolle, wenn Systeme selbstständig handeln? Human-Centered AI Service Management (HUCAISM) setzt genau hier an und zeigt, wie Unternehmen KI im Service Management mit klarer menschlicher Verantwortung und Governance verbinden.

KI entscheidet bereits – oft ohne klaren Rahmen

In vielen IT-Organisationen ist künstliche Intelligenz längst kein reines Pilotprojekt mehr. KI-Systeme priorisieren Tickets, beantworten Serviceanfragen, erkennen Anomalien im Betrieb und übernehmen zunehmend Aufgaben, die bislang von Menschen ausgeführt wurden. Mit agentenbasierten Systemen wächst dabei nicht nur der Automatisierungsgrad, sondern auch die Eigenständigkeit technologischer Entscheidungen.

Damit entsteht eine neue Managementfrage: Was passiert, wenn eine KI eine Änderung freigibt, einen Zugriff sperrt oder eine Kundenanfrage falsch bewertet? Entscheidend ist dann nicht allein, was technisch möglich ist, sondern wer Entscheidungen kontrolliert, nachvollziehen kann und letztlich die Verantwortung für den Einsatz des Systems trägt.

Genau an dieser Frage entscheidet sich zunehmend, ob künstliche Intelligenz im Service Management tatsächlich Produktivität schafft oder neue Risiken erzeugt. Denn je autonomer Systeme agieren, desto wichtiger werden klare Zuständigkeiten und nachvollziehbare Entscheidungswege.

Warum klassische ITSM-Strukturen ergänzt werden müssen

Etablierte Frameworks wie ITIL prägen das IT Service Management seit Jahrzehnten und bleiben auch in einer von KI geprägten Servicewelt relevant. Klassische Rollen, Prozesse und Eskalationswege basieren jedoch auf eindeutig zuordenbaren Verantwortlichkeiten. Sobald KI-Systeme selbstständig Handlungsschritte ausführen oder Entscheidungen vorbereiten, wird diese Zuordnung komplexer.

Parallel steigen die Anforderungen an den verantwortungsvollen Einsatz künstlicher Intelligenz. Der EU AI Act schafft einen regulatorischen Rahmen für den Einsatz von KI, während ISO/IEC 42001 Anforderungen an ein Managementsystem für künstliche Intelligenz beschreibt. Für Serviceorganisationen bleibt dennoch eine operative Frage: Wie werden solche Anforderungen im täglichen Servicebetrieb konkret umgesetzt?

Wer überwacht welche Systeme? Wie werden Entscheidungen nachvollziehbar dokumentiert? Wann muss ein Mensch eingreifen können? Und was geschieht mit einem KI-System, wenn es nicht mehr eingesetzt werden soll?

Ein verbreitetes Missverständnis besteht nach der Erfahrung von SERVIEW darin, AI Governance vor allem als Technologie- oder Beschaffungsfrage zu betrachten. Ein geeignetes Tool kann unterstützen, ersetzt aber keine organisatorischen Regeln. Governance entsteht durch Verantwortlichkeiten, Kompetenzen, Kontrollen und nachvollziehbare Entscheidungswege.

Verantwortung lässt sich nicht automatisieren

Genau an diesem Punkt setzt Human-Centered AI Service Management (HUCAISM) an. Der von SERVIEW entwickelte Ansatz verbindet die Leistungsfähigkeit künstlicher Intelligenz mit klarer menschlicher Verantwortung, einer durchdachten AI Governance, Nachvollziehbarkeit und Kontrolle.

Die Grundidee ist bewusst einfach: KI kann immer mehr Aufgaben unterstützen oder eigenständig übernehmen. Die Verantwortung für ihren Einsatz muss dennoch eindeutig innerhalb der Organisation verankert bleiben. Durch das Prinzip des Human in the Loop soll der Mensch nicht jede einzelne Tätigkeit selbst ausführen müssen, aber jederzeit klar sein, wer Systeme steuert, kontrolliert und bei Bedarf eingreifen kann.

Dabei versteht sich HUCAISM nicht als Ersatz für bestehende Frameworks oder regulatorische Vorgaben. Während beispielsweise ITIL Version 5 Orientierung für modernes Service Management bietet und Regelwerke wie der EU AI Act oder ISO/IEC 42001 regulatorische beziehungsweise normative Anforderungen formulieren, konzentriert sich HUCAISM darauf, wie KI verantwortungsvoll in der konkreten Serviceorganisation gesteuert werden kann.

Unternehmen, die bereits mit ITIL 5 arbeiten, müssen ihre bestehende Service-Management-Organisation deshalb nicht verwerfen. HUCAISM erweitert diese Perspektive um Fragestellungen, die insbesondere durch autonome und zunehmend agentenbasierte KI-Systeme entstehen.

Mehrere lächelnde Menschen unterhalten sich in einem hellen Raum mit Backsteinwand.

HUCAISM verbindet die Möglichkeiten künstlicher Intelligenz mit menschlicher Verantwortung, Governance und Kontrolle.

Was HUCAISM in der Praxis adressiert

HUCAISM betrachtet den verantwortungsvollen KI-Einsatz über den gesamten Lebenszyklus eines Systems hinweg: von Auswahl und Einführung über den laufenden Betrieb bis hin zur kontrollierten Außerdienststellung.

Gerade dieser letzte Schritt verdient Aufmerksamkeit. Modelle verändern sich, Anbieter entwickeln ihre Systeme weiter, Datenbestände ändern sich und organisatorische oder regulatorische Anforderungen können sich verschieben. Eine Serviceorganisation muss ein KI-System deshalb nicht nur kontrolliert einführen und betreiben, sondern es bei Bedarf ebenso kontrolliert verändern oder außer Betrieb nehmen können.

Ebenso wichtig ist die Perspektive der Menschen, die mit KI-Systemen arbeiten oder von deren Entscheidungen betroffen sind. Entscheidungen müssen nachvollziehbar bleiben und es braucht definierte Möglichkeiten, sie zu überprüfen. Besonders relevant wird das in hybriden Teams, in denen Menschen und KI-Agenten gemeinsam Services erbringen.

SERVIEW beobachtet in der Praxis, dass gerade diese Schnittstelle zwischen menschlicher und maschineller Arbeit erheblichen Einfluss auf Akzeptanz und Servicequalität hat.

Aus Sicht von SERVIEW sollten Unternehmen deshalb vier Fragen konsequent beantworten: Welche Entscheidungen darf ein KI-System selbstständig treffen? Wie werden diese Entscheidungen dokumentiert und überprüfbar gemacht? Wer trägt innerhalb der Organisation die Verantwortung für das jeweilige System? Und verfügen die beteiligten Menschen über die Kompetenz, Entscheidungen einer KI kritisch einzuordnen?

AI Governance: Kompetenz wird zum Engpassfaktor

Damit rückt ein Faktor stärker in den Mittelpunkt, der in vielen KI-Strategien noch unterschätzt wird: Qualifizierung. Technologie lässt sich vergleichsweise schnell implementieren. Die Fähigkeit, Ergebnisse einer KI einzuordnen, Risiken zu erkennen, geeignete Grenzen zu definieren und bei Bedarf einzugreifen, muss dagegen systematisch aufgebaut werden.

Es reicht künftig nicht mehr aus, lediglich zu wissen, wie ein Service-Management-Prozess funktioniert. Fach- und Führungskräfte müssen zusätzlich verstehen, an welchen Stellen KI Entscheidungen beeinflusst, welche Risiken dadurch entstehen und wie eine wirksame KI Governance und menschliche Kontrolle sinnvoll gestaltet werden können.

SERVIEW verbindet deshalb die konzeptionelle Beschäftigung mit HUCAISM mit der Qualifizierung von Fach- und Führungskräften. Damit erweitert das Unternehmen seine klassische Service-Management-Perspektive um künstliche Intelligenz, Governance und neue Formen der Zusammenarbeit zwischen Mensch und Technologie.

Diese Entwicklung bündelt SERVIEW unter der Positionierung „The Home of ITSM …and beyond“. Dahinter steht die Idee, klassisches IT Service Management nicht isoliert zu betrachten, sondern mit Enterprise Service Management, moderner Technologie, künstlicher Intelligenz und neuen Managementansätzen zu verbinden.

Video-Tipp: Service Management lebt vom Austausch

Neue Technologien werfen Fragen auf, die Unternehmen nicht isoliert beantworten müssen. Das Video gibt einen Einblick in die SERVIEW One Community und zeigt, wie Austausch und unterschiedliche Perspektiven modernes Service Management weiterbringen.

Mehr zur SERVIEW One Community

Wohin sich Service Management mit KI entwickelt

KI-Systeme werden voraussichtlich zunehmend eigenständig Aufgaben innerhalb von Serviceorganisationen übernehmen. Agentenbasierte Architekturen und hybride Formen der Zusammenarbeit zwischen Menschen und KI gewinnen damit an Bedeutung. Parallel rücken Fragen rund um Kontrolle, Datenherkunft, Modellsouveränität, KI Governance und den Lebenszyklus von KI-Systemen stärker auf die Management-Agenda.

Unternehmen sollten sich deshalb nicht erst nach einem kritischen Vorfall mit diesen Strukturen beschäftigen. Klare Leitplanken können vielmehr dazu beitragen, KI sicherer und zugleich konsequenter einzusetzen.

Eine strukturierte AI Governance muss Innovation dabei nicht zwangsläufig verlangsamen. Richtig gestaltet kann sie die Voraussetzung dafür schaffen, dass Unternehmen neue Möglichkeiten nutzen, weil Zuständigkeiten, Eingriffsmöglichkeiten und Grenzen bereits geklärt sind.

Dunkelblaues Serview-Design mit steigenden Balken, Pfeilen und Kurven als Symbol für Wachstum.

SERVIEW verbindet Service Management, Künstliche Intelligenz und Governance unter dem Anspruch „The Home of ITSM …and beyond“.

Auf einen Blick

  • HUCAISM steht für Human-Centered AI Service Management und wurde von SERVIEW entwickelt.
  • Der Ansatz verbindet KI mit menschlicher Verantwortung, Governance und Nachvollziehbarkeit.
  • HUCAISM ergänzt bestehende Service-Management-Frameworks sowie regulatorische und normative Anforderungen.
  • Betrachtet wird der gesamte Lebenszyklus eines KI-Systems.
  • Qualifizierung und eindeutig definierte Verantwortlichkeiten spielen eine zentrale Rolle.

Fazit: KI verändert Entscheidungen, nicht die Notwendigkeit von Verantwortung

Künstliche Intelligenz verändert nicht nur, wie Services erbracht werden, sondern auch, wie Entscheidungen innerhalb einer Serviceorganisation entstehen. Je eigenständiger KI-Systeme handeln, desto wichtiger werden klare Verantwortlichkeiten, nachvollziehbarer Human-in-the-Loop-Einsatz und wirksame AI Governance.

Human-Centered AI Service Management setzt genau an dieser Schnittstelle an. Der von SERVIEW entwickelte Ansatz soll Organisationen dabei unterstützen, die Möglichkeiten von KI zu nutzen, ohne menschliche Verantwortung aus dem System herauszulösen.

Damit wird AI Governance von einer abstrakten Diskussion zu einer konkreten Managementaufgabe im modernen AI Service Management.

FAQ

Was ist HUCAISM?

HUCAISM steht für Human-Centered AI Service Management und ist ein von SERVIEW entwickelter Ansatz für den verantwortungsvollen Einsatz künstlicher Intelligenz im Service Management. Er verbindet die Leistungsfähigkeit von KI-Systemen mit menschlicher Verantwortung, Governance, Nachvollziehbarkeit und Kontrolle.

Wie unterscheidet sich HUCAISM von ITIL?

ITIL beschreibt grundlegende Prinzipien und Praktiken des modernen Service Managements, aktuell in ITIL Version 5. HUCAISM ersetzt ITIL nicht, sondern ergänzt bestehende Service-Management-Strukturen um Fragestellungen, die durch den Einsatz von KI entstehen, etwa die Verantwortlichkeit für automatisierte Entscheidungen, den Lebenszyklus von KI-Systemen und die Zusammenarbeit in hybriden Teams.

Welche Rolle spielen der EU AI Act und ISO/IEC 42001?

Der EU AI Act schafft regulatorische Anforderungen für den Einsatz von KI, während ISO/IEC 42001 einen Rahmen für KI-Managementsysteme bietet. HUCAISM konzentriert sich ergänzend darauf, wie Serviceorganisationen Governance, Verantwortlichkeiten und den Umgang mit KI in ihrer operativen Arbeitsrealität verankern können.

Warum ist menschliche Verantwortung beim KI-Einsatz wichtig?

KI-Systeme können Entscheidungen automatisieren oder vorbereiten, die Verantwortung für ihren Einsatz muss innerhalb einer Organisation jedoch eindeutig zugeordnet bleiben. Ohne klare Zuständigkeiten und das Prinzip des Human in the Loop entstehen Risiken bei Kontrolle, Nachvollziehbarkeit und Governance. HUCAISM stellt deshalb die menschliche Verantwortlichkeit bewusst in den Mittelpunkt.

Wie können Unternehmen mit HUCAISM beginnen?

Ein sinnvoller erster Schritt ist Transparenz. Unternehmen sollten erfassen, an welchen Stellen KI bereits Services oder Entscheidungen beeinflusst, anschließend Verantwortlichkeiten definieren, Kontrollmechanismen festlegen und die beteiligten Mitarbeitenden gezielt qualifizieren.

Für wen eignet sich eine HUCAISM-Qualifizierung?

Eine HUCAISM-Qualifizierung richtet sich insbesondere an Personen, die den Einsatz künstlicher Intelligenz im Service Management verantworten oder gestalten. Dazu gehören beispielsweise IT-Leitungen, Service-Management-Verantwortliche sowie Projekt- und Transformationsverantwortliche.

Weiterführende Informationen

Wer tiefer in den verantwortungsvollen Einsatz künstlicher Intelligenz im Service Management einsteigen möchte, findet bei SERVIEW weiterführende Informationen:

Mehr über HUCAISM erfahren