AI Daily Brief – What the Pope Actually Said About AI

KI im Mittelstand: Warum die wichtigste Frage nicht „Wie schlau ist das Modell?“ lautet

Viele KMU diskutieren KI noch immer so, als ginge es vor allem um ein Wettrennen der Fähigkeiten: Welches Modell schreibt besser? Welches automatisiert mehr? Welches spart schneller Personalzeit?

Das greift zu kurz.

Die spannendere Frage ist: Welchem Menschenbild folgt Ihr KI-Einsatz? Genau diese Perspektive rückt die aktuelle Debatte rund um die erste KI-Enzyklika von Papst Leo XIV in den Vordergrund. Nicht als Technikfeindlichkeit, sondern als Erinnerung an etwas, das im Mittelstand schnell verloren geht: Produktivität ist wichtig, aber sie ist nicht der einzige Maßstab.

Die Kernidee in 3 Sätzen

Die zentrale Botschaft lautet: Menschlicher Wert darf nicht auf Leistung, Geschwindigkeit oder „Intelligenz“ reduziert werden. KI kann nützlich, leistungsfähig und wirtschaftlich sinnvoll sein – und trotzdem nicht der Maßstab dafür, wie Unternehmen Arbeit, Verantwortung und Entscheidungen organisieren sollten. Für KMU heißt das: Wer KI einführt, braucht nicht nur Tools, sondern Prinzipien.

1. KI ist nicht neutral – auch dann nicht, wenn sie „nur unterstützt“

In vielen Unternehmen beginnt KI harmlos: Meeting-Zusammenfassungen, Textentwürfe, Angebotsbausteine, Support-Antworten. Doch schon diese scheinbar kleinen Einsätze verändern Arbeitsabläufe, Verantwortlichkeiten und Erwartungen.

Was heißt das praktisch?

• Wenn KI Vorentscheidungen trifft, verschiebt sich Verantwortung.
• Wenn KI Texte, Bewertungen oder Prioritäten vorgibt, prägt sie Standards.
• Wenn Mitarbeitende nur noch „abnicken“, sinkt echte Urteilskompetenz.

Für KMU ist das kein philosophisches Randthema. Es betrifft ganz konkret Vertrieb, HR, Kundenservice, Einkauf und Führung.

2. Der eigentliche Engpass ist nicht die Technik, sondern die Organisationsentscheidung

Viele Unternehmen fragen: „Welche KI-Tools sollen wir kaufen?“ Die bessere Frage lautet: „Welche Entscheidungen dürfen automatisiert werden – und welche nicht?“

Denn der wirtschaftliche Schaden entsteht selten dadurch, dass ein Modell einmal halluziniert. Er entsteht, wenn niemand sauber definiert hat:

• wo menschliche Freigabe Pflicht ist,
• wer Ergebnisse prüft,
• welche Risiken tolerierbar sind,
• und wann Effizienzgewinne in Reputations- oder Qualitätsverluste kippen.

Was heißt das praktisch?
Ein KI-Use-Case ist erst dann produktionsreif, wenn klar ist:

1. Was die KI tun darf
2. Was ein Mensch prüfen muss
3. Wer die Verantwortung trägt
4. Wie Fehler erkannt und korrigiert werden

3. „Menschenzentrierte KI“ ist kein Ethik-Slogan, sondern ein Betriebsmodell

Gerade im Mittelstand ist Akzeptanz entscheidend. Wenn Mitarbeitende KI als reines Sparprogramm erleben, entstehen Widerstand, Schattennutzung oder passive Verweigerung. Wenn KI dagegen als Werkzeug zur Entlastung, Qualitätssteigerung und besseren Entscheidungsunterstützung eingeführt wird, steigt die Nutzungswahrscheinlichkeit deutlich.

Was heißt das praktisch?

• KI sollte monotone Vorarbeit übernehmen, nicht blind finale Entscheidungen.
• Mitarbeitende brauchen Leitplanken, keine bloßen Tool-Lizenzen.
• Führungskräfte müssen erklären können, warum ein Prozess mit KI besser wird – nicht nur billiger.

Das ist auch nach außen relevant: Kunden, Partner und Bewerber achten zunehmend darauf, wie Unternehmen mit Automatisierung umgehen.

4. Nicht alles, was messbar ist, ist auch wertstiftend

KI-Systeme sind stark darin, Muster zu erkennen, Inhalte zu erzeugen und Optionen vorzuschlagen. Aber Unternehmen machen einen Fehler, wenn sie daraus ableiten, dass alles Wichtige vollständig formalisiert werden kann.

Gerade in KMU entstehen Wettbewerbsvorteile oft durch Dinge, die schwer in Prompts und Scores zu pressen sind:

• Erfahrungswissen
• Kundenbeziehungen
• Fingerspitzengefühl
• Verantwortung in Ausnahmesituationen
• implizites Prozessverständnis

Was heißt das praktisch?
Wer KI einführt, sollte nicht nur fragen: „Was kann automatisiert werden?“ Sondern auch: „Was müssen wir bewusst menschlich halten, weil dort unser eigentlicher Wert entsteht?“

Umsetzung im KMU: der erste sinnvolle Schritt

Starten Sie nicht mit einer allgemeinen KI-Strategie auf 40 Folien. Starten Sie mit einer Entscheidungsmatrix für reale Prozesse.

Nehmen Sie 5–10 konkrete Anwendungsfälle aus Ihrem Unternehmen und ordnen Sie sie in drei Kategorien:

• Automatisieren: geringe Risiken, klare Regeln, hohe Wiederholbarkeit
• Assistieren: KI macht Vorarbeit, Mensch prüft und entscheidet
• Nicht delegieren: hohe Tragweite, sensible Daten, Reputations- oder Rechtsrisiken

Typische Stolperfallen

• Zu schneller Tool-Kauf ohne Prozessdesign
• Keine klare Verantwortlichkeit für KI-Ergebnisse
• Verwechslung von Demo-Qualität mit Produktionsreife
• Fokus auf Einsparung statt auf Qualität und Akzeptanz
• Fehlende Kommunikation gegenüber Mitarbeitenden

Wie ich als KI-Berater konkret helfen kann