Human-Centered AI: KI im Dienst des Menschen

Wenn Maschinen denken, müssen Menschen entscheiden

Künstliche Intelligenz verändert unsere Arbeitswelt mit einer Geschwindigkeit, die vielen Organisationen den Atem raubt. Zwischen euphorischen Effizienzversprechen und stiller Überforderung geht dabei oft verloren, was dringend an erste Stelle gehört: die Frage, für was wir KI einsetzen wollen und auf welche Weise.

Human-Centered AI (HCAI) stellt diese Perspektive ins Zentrum. Sie stellt eine unbequeme, aber notwendige Frage: Dient unsere Art, KI zu nutzen, der Würde, Kompetenz und Handlungsfähigkeit von Menschen – oder gefährdet sie diese?

Fei-Fei Li, Mitgründerin des Stanford Institute for Human-Centered AI, formuliert es so: „Human-Centered AI enhances human dignity, agency, and societal benefit.“ Diese drei Begriffe – Würde, Handlungsfähigkeit, gesellschaftlicher Nutzen – werden zum Prüfstein für jede KI-Implementierung. Daran werden sich Unternehmen künftig messen lassen müssen.

Doch was bedeutet das konkret? Und warum ist gerade jetzt der richtige Zeitpunkt, diese Frage nicht nur zu stellen, sondern auch systematisch zu beantworten?

Das Spannungsfeld: Zwischen Tempo und Verantwortung

Die rasante Verbreitung generativer KI-Systeme – von ChatGPT bis zu domänenspezifischen Assistenten – verändert nicht nur Prozesse, sondern auch Macht- und Verantwortungsstrukturen in Organisationen. Drei Spannungsfelder treten dabei immer deutlicher hervor:

Erstens: Euphorie trifft auf Überforderung. Während einzelne Mitarbeitenden erreichte Effizienzgewinne feiern, fühlen sich andere von Tools, Begriffen und Erwartungen regelrecht überrollt. Die Schere zwischen KI-affinen „Early Adopters“ und zurückhaltenden Mitarbeitenden öffnet sich – und spaltet Belegschaften auf ungesunde Weise.

Zweitens: Technologisches Tempo überholt organisatorische Reife. Was technisch möglich ist, läuft oft schneller als Governance, ethische Reflexion und Kompetenzaufbau hinterherkommen. Unternehmen implementieren Systeme, bevor sie verstanden haben, welche Verantwortung damit einhergeht. Welche Daten dürfen überhaupt genutzt werden?

Drittens: Kostenlogik verdrängt menschliche Perspektive. Der Druck, „Produktivität zu heben“, verführt dazu, Aufgaben primär zu automatisieren – statt Fähigkeiten zu erweitern. Die Frage „Wie viele Jobs können wir einsparen?“ dominiert oft die Diskussion, während die wichtigere Frage untergeht: „Wie können wir Menschen befähigen, bessere Arbeit zu leisten?“

Diese Entwicklung ließe sich um mindestens 3 weitere Punkte ergänzen und sie markiert eine fragwürdige Tendenz: Sie entgrenzt erstens Arbeit auf gefährliche Weise (weil KI keine Pause braucht, müssen es Menschen auch nicht?), entsachlicht zweitens wichtige Fragen des Wirtschaftens im 21. Jahrhundert – indem alles zur Tool-Frage wird – und spaltet drittens Organisationen in Gewinner und Verlierer der Transformation.

Dies ist kein Appell gegen technologischen Fortschritt. Es ist eine große Errungenschaft, dass KI monotone Tätigkeiten übernehmen, komplexe Datenmengen strukturieren und neue Perspektiven eröffnen kann. Aber der zeitgenössischen KI-Begeisterung geht es oft um etwas anderes, und genau das ist das Problem.

Was Human-Centered AI wirklich bedeutet

Um diesen Trend zu dekonstruieren, müssen wir verstehen, was Human-Centered AI tatsächlich meint – jenseits von Marketingfolien und wohlklingenden Absichtserklärungen.

Eine Definition als Fundament

Human-Centered AI bezeichnet die Entwicklung künstlicher Intelligenz, die menschliche Bedürfnisse, Werte und Fähigkeiten in den Mittelpunkt von Design und Einsatz stellt. Dieser Ansatz stellt sicher, dass KI-Systeme menschliche Fähigkeiten erweitern und das Wohlergehen fördern – statt menschliche Rollen zu ersetzen oder zu verringern.

HCAI adressiert die ethischen, sozialen und kulturellen Implikationen von KI und gewährleistet, dass diese Systeme zugänglich, nutzbar und vorteilhaft für alle Teile der Gesellschaft sind. Sie ist eng verbunden mit dem Feld der Mensch-KI-Interaktion, das untersucht, wie Menschen und KI kommunizieren und zusammenarbeiten.

Die regulatorische Realität: HCAI als Rahmenwerk

Human-Centered AI war nie eine Nischenidee, sondern spiegelt sich in zentralen Rahmenwerken wider:

• Der EU AI Act spricht explizit von „human-centric and trustworthy AI“ und macht Transparenz, Nachvollziehbarkeit und menschliche Aufsicht zur Pflicht.
• Die OECD AI Principles betonen Fairness, Transparenz und das Wohl des Menschen als Leitprinzip für KI-Entwicklung und -Einsatz.
• Das NIST AI Risk Management Framework macht Vertrauen, Kontext und Verantwortlichkeit mess- und steuerbar.

Im Kern kreisen alle um dieselben Fragen: Wer trägt Verantwortung? Welche Werte leiten Entscheidungen? Wie bleibt der Mensch in Kontrolle – auch dann, wenn Systeme sehr leistungsfähig erscheinen? Auch wir bei xpand haben uns zu Beginn unserer AI-Reise konkret überlegt, welche Leitlinien unsere KI-Nutzung und Anwendung beim Kunden führen sollen. Dies ist verschriftlicht in unserem Codex: https://xpandai.one/code-of-conduct/

Drei Grundpfeiler der Human-Centered AI

1. Augmentation statt Automation

Human-Centered AI erweitert menschliche Fähigkeiten, statt sie zu ersetzen. KI wird zum Co-Piloten, nicht zum Autopiloten. Sie verarbeitet große Informationsmengen, schlägt Optionen vor, erstellt Entwürfe – aber: Die Deutung, Priorisierung und finale Entscheidung bleiben beim Menschen.

Der Ökonom Erik Brynjolfsson warnt eindringlich vor der „Turing Trap“: Wer KI nur nutzt, um Menschen zu ersetzen, statt ihre Fähigkeiten zu verstärken, verschenkt das größte Potenzial – den menschlichen Beitrag. Denn selbst die leistungsfähigste KI kann eines nicht: den Kontext verstehen, in dem eine Entscheidung wirkt. Die gesellschaftlichen Folgen abschätzen. Den Sinn hinter einer Aufgabe erfassen.

2. Vertrauen statt Verblindung

Human-Centered AI verlangt Nachvollziehbarkeit. Entscheidungen müssen erklärbar sein. Datenquellen und Trainingslogiken dürfen nicht „Black Box“ bleiben, wo Menschen stark betroffen sind. Fehlermöglichkeiten werden bewusst adressiert – etwa durch menschliche Freigaben, Vier-Augen-Prinzip oder Eskalationsmechanismen.

Das ist mehr als eine technische Anforderung. Es ist eine kulturelle: Vertrauen in KI kann nur entstehen, wenn Menschen verstehen, worauf sie sich einlassen – und wenn sie die Möglichkeit haben, korrigierend einzugreifen.

3. Werte statt reiner Performance

Performance ist wichtig – aber nicht das einzige Kriterium. Human-Centered AI integriert Werte direkt ins Design:

• Fairness: Vermeidung systematischer Benachteiligung durch verzerrte Trainingsdaten oder diskriminierende Muster.
• Sicherheit & Datenschutz: Schutz von Menschen und sensiblen Informationen vor Missbrauch oder ungewollter Offenlegung.
• Sinnorientierung: Technologie folgt dem Auftrag – nicht umgekehrt. Die Frage „Warum tun wir das?“ muss vor der Frage „Wie bauen wir das?“ beantwortet sein.

Diese drei Pfeiler sind keine akademische Fingerübung. Sie sind der Unterschied zwischen KI, die Menschen stärkt – und KI, die sie zombiehaft in den Abgrund zieht.

In der Praxis: Werte als Wegweiser für künstliche Intelligenz am Arbeitsplatz

Aus unseren KI-Formaten mit Kunden aus dem Mittelstand sehen wir bestätigt, was sich wissenschaftlich bereits gut zeigen lässt: Es gibt mehrere Faktoren, die darüber entscheiden, ob KI im Unternehmen wirksam wird oder als Tool-Thema verpufft:

Erstens: Beteiligung statt Betroffenheit
Menschen, die früh eingebunden werden, entwickeln Neugier statt Abwehr. Human-Centered AI entsteht dort, wo Mitarbeitende mitgestalten – nicht dort, wo KI „über sie hinweg“ eingeführt wird.

Zweitens: Transparenz statt Blackbox
Wofür nutzen wir KI – wofür nicht? Welche Daten sind erlaubt? Was passiert mit Ergebnissen? Je klarer Zweck, Grenzen und Arbeitsweise erklärt sind, desto eher entsteht Vertrauen und saubere Nutzung.

Drittens: Leitplanken statt Grauzonen
Human-Centered AI braucht einfache, praxistaugliche Regeln: Datenklassen, Freigaben, Do/Don’t, Review-Pflichten, Eskalationswege. Ohne Leitplanken kippt KI-Nutzung in Wildwuchs oder Stillstand.

Viertens: Verantwortung statt Diffusion
„Wer hilft? Wer entscheidet? Wer darf was?“ Human-Centered AI wird praktisch, wenn Rollen klar sind: fachliche Verantwortung, Tool-/IT-Verantwortung, Datenschutz/Compliance, und eine menschliche Anlaufstelle für den Alltag.

Fünftens: Entlastung statt Zusatzlast
Menschenzentrierte KI misst sich daran, ob sie Arbeit erleichtert: weniger Copy-Paste, weniger Suchaufwand, bessere Vorarbeit, weniger Rückfragen. Wenn KI nur obendrauf kommt, ist sie nicht human-centered – sondern stress-centered.

Sechstens: Kompetenzaufbau statt Einmal-Schulung
Human-Centered bedeutet: Menschen befähigen, nicht abhängen. Lernen muss als Routine funktionieren (kurze Übungen, Office Hours, Peer-Austausch), damit Sicherheit und Qualität wachsen – statt Einzelwissen und Unsicherheit.

Siebtens: Qualitätssicherung statt blindes Vertrauen
Human-Centered AI heißt: Mensch bleibt verantwortlich. Klare Review-Standards, Quellenprüfung, Bias-/Fehlerbewusstsein und definierte „Human-in-the-loop“-Punkte schützen Qualität und Vertrauen.

Achtens: Kommunikation auf Augenhöhe statt Tech-Sprache
Erfolgreiche Human-Centered AI erklärt KI so, dass Teams sie wirklich nutzen können: verständliche Beispiele, konkrete Szenarien, klare Sprache, keine Tool-Show – damit Menschen sich sicher fühlen und handlungsfähig werden.

Das möchten wir Ihnen mitgeben: Konkrete Schritte für Führungskräfte und Organisationen

Diese Fragen können als Checkliste in Projekten dienen – oder als Gesprächsrahmen im Führungskreis:

Fünf Leitfragen für Ihren KI-Einsatz

1. Welchem menschlichen Zweck dient diese Anwendung?
   Geht es um Entlastung, bessere Entscheidungen, mehr Transparenz – oder vor allem um Kostensenkung?
2. Wer behält die Verantwortung?
   Ist klar definiert, wer kritische Entscheidungen trifft – und wer für Fehler einsteht?
3. Wie werden Betroffene beteiligt?
   Haben Mitarbeitende die Möglichkeit, Fragen zu stellen, Feedback zu geben und den Prozess mitzugestalten?
4. Welche Werte sind berührt – und wie sichern wir sie?
   Zum Beispiel: Fairness, Datenschutz, Transparenz, Nachhaltigkeit.
5. Wie lernen wir systematisch dazu?
   Gibt es Routinen, um Erfahrungen zu reflektieren, KI-Einsatz zu justieren und den Reifegrad zu erhöhen?

So können Sie mit xpand auf Ihre wertorientierte KI-Reise starten:

1. KI-Reifegrad und Anwendungsfälle klären
In Workshops identifizieren wir mit Teams konkrete, sinnvolle KI-Anwendungen, bewerten Risiken und Nutzen und übersetzen sie in eine Roadmap. Den ersten Überblick können Sie sich mit dem leistungsstarken xpandAI Maturity Test holen – Sie werden überrascht sein, welch tiefe Erkenntnisse dabei entstehen! https://maturity.xpandai.one/

2. Leitplanken definieren – etwa mit einem KI-Entscheidungsbaum
Ein Entscheidungsbaum für Führungskräfte schafft Klarheit, welche KI für welche Aufgabe geeignet ist und wo Grenzen liegen – ein wirksames Instrument, um Chancen und Verantwortung auszubalancieren. Den können wir gemeinsam in einem 3h Workshop erarbeiten.

3. Wertebasierten KI-Verhaltenskodex etablieren
Organisationen formulieren eigene Prinzipien, die zu ihrer Kultur passen – und übersetzen diese in Prozesse, Schulungen und Kommunikation. Dies machen wir gern bei einem ersten Kick-off direkt zu Beginn mit Ihnen gemeinsam – so profitiert der gesamte Changeprozess von Klarheit und Sicherheit.

4. Lassen Sie uns mal persönlich sprechen.
Möchten Sie uns von ihren Fragen rund um KI bei Ihnen im Unternehmen berichten? Oder vielleicht nach dem nächsten, logischen Schritt fragen? Oder haben Sie Sorgen wie sich der EU AI Act auswirken könnte bei Ihnen? Ich stehe gern zur Verfügung und freue mich ehrlich über Ihre Kontaktaufnahme via Telefon oder Mail. Ich antworte persönlich – wir haben uns gegen einen KI Bot am Telefon oder in Mails und für menschliche Wärme entscheiden

Zum Abschluss ein Wort von Papst Franziskus. Er formulierte beim G7-Gipfel 2024: „Die Frage ist nicht, was Maschinen können, sondern was Menschen dürfen, wenn sie solche Maschinen erschaffen.“

Human-Centered AI nimmt diese Perspektive ernst. Sie ist weniger eine technische, sondern vor allem eine moralische und kulturelle Innovation. Sie fragt, wie wir Fortschritt gestalten, ohne Menschlichkeit zu verlieren – in Führung, Zusammenarbeit und Gesellschaft.

Für Organisationen bedeutet das: Human-Centered AI ist kein kurzfristiger Trend, sondern der nächste logische Schritt einer wertebasierten Wirtschaft. Technologie verändert, wie wir arbeiten. Aber wir entscheiden, warum wir sie nutzen – und welche Grenzen wir ziehen.

Und genau dort beginnt gute Führung im digitalen Zeitalter.

Quellen:

¹ Fei-Fei Li: „Human-Centered AI: Enhancing Human Dignity and Societal Benefit“, Stanford HAI, 2019
² Erik Brynjolfsson: „The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence“, MIT, 2022
³ EU AI Act, Artikel 4, 2024
⁴ OECD AI Principles, 2019
⁵ NIST AI Risk Management Framework, 2023