Es ist kurz vor Schichtende in einem diakonischen Pflegeheim. Die Pflegekraft hat noch vier Dokumentationseinträge vor sich, ihr Rücken meldet sich, und auf dem Diensthandy ist seit ein paar Wochen ein KI-Assistent installiert, den ein Kollege empfohlen hat. Sie tippt Stichworte ein, der Assistent formuliert daraus einen sauberen Bericht, sie liest kurz drüber und speichert.
Ein paar Straßen weiter sitzt eine Beraterin der Schuldnerberatung vor einem Brief an das Jobcenter und glättet ihn mit demselben Werkzeug. In beiden Texten stehen Namen, Diagnosen, Schulden und Familiengeschichten.
Keine der beiden Frauen will etwas falsch machen. Sie wollen Zeit gewinnen für das, wofür sie ihren Beruf gewählt haben. Die Pflegekraft denkt an die Bewohnerin, die am Nachmittag geweint hat, und an die Viertelstunde, die ihr dafür gefehlt hat. Trotzdem begleitet sie ein Unbehagen, das sie selten aussprechen: Darf ich das eigentlich? Und wohin gehen diese Daten?
Eine klare Linie, die im Alltag verschwimmt
Die Bischöfinnen und der Bischof der Nordkirche haben kürzlich hier auf evangelisch.de eine deutliche Linie gezogen. Beim Korrigieren oder Übersetzen von Texten kann KI helfen, die Predigt dagegen bleibt ein geistlicher Prozess, den man nicht abgibt. Bischöfin Kirsten Fehrs betonte, dass KI das eigene Denken und die eigene Verantwortung nicht ersetzt.
Alexander Thein ist TÜV-zertifizierter externer KI-Beauftragter (THEIN, thein.ai) und begleitet Kanzleien und Unternehmen bei der Umsetzung des EU AI Act, von der Kompetenzschulung nach Artikel 4 bis zur laufenden Begleitung im Alltag. Er ist Herausgeber der KI-Compliance-Studie 2026 und Autor des Buchs "Crema & Compliance", das die Umsetzung des EU AI Act als Geschichte aus seinem Kaffeehaus erzählt.
In der Diakonie verläuft diese Linie allerdings selten so sauber. Ein Pflegebericht wirkt wie Verwaltung, und doch beschreibt er einen Menschen in einer verletzlichen Lage. Ein Brief an eine Behörde ist Schreibarbeit, und doch kann von seiner Formulierung abhängen, ob eine Familie ihre Wohnung behält. Wo KI über Menschen schreibt, berührt sie deren Würde, auch wenn es scheinbar nur um Formulierungen geht.
Was der EU AI Act verlangt
Rechtlich ist die Lage klarer, als viele denken. Der EU AI Act verpflichtet jede Organisation, die KI-Systeme in eigener Verantwortung einsetzt, Maßnahmen zu ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern. Das gilt für ein Unternehmen genauso wie für eine Kirchengemeinde oder einen diakonischen Träger. Die Pflicht besteht seit Februar 2025. Mit dem sogenannten Digital Omnibus hat die EU sie im Juli 2026 neu gefasst: Ein bestimmtes Kompetenzniveau muss seither niemand mehr garantieren, verlangt sind Maßnahmen, die Kompetenz fördern. Wie diese Maßnahmen aussehen, lässt das Gesetz offen.
Manche Leitung liest daraus eine Entwarnung. Für kirchliche und soziale Einrichtungen wäre das ein Fehlschluss. Wenn das Gesetz nur noch den Rahmen setzt, muss jede Einrichtung selbst bestimmen, was angemessen ist. Und eine Einrichtung, die sich auf das christliche Menschenbild beruft, wird sich daran messen lassen müssen, wie sie mit den Daten der Menschen umgeht, die sich ihr anvertrauen. Dazu kommt der Datenschutz, der für evangelische Einrichtungen im Datenschutzgesetz der EKD geregelt ist und beim Einsatz von KI-Werkzeugen genauso gilt wie überall sonst.
Entlastung ja, Ersatz nein
Die ethische Frage lautet deshalb weniger, ob KI in Kirche und Diakonie eingesetzt werden darf. Sie lautet, wofür. Es gibt Aufgaben, bei denen ein KI-Werkzeug echte Entlastung bringt, etwa wenn der Gemeindebrief in leichte Sprache übertragen oder ein Dienstplan sortiert werden soll. Wer damit eine Stunde gewinnt und sie am Bett einer Bewohnerin verbringt, hat KI im besten Sinne genutzt.
Anders liegt es dort, wo ein Mensch auf einen Menschen angewiesen ist. Wer in der Seelsorge oder in einer Beratung Hilfe sucht, möchte gehört werden, und dieses Gehört werden lässt sich nicht an eine Maschine abgeben. Eine Software kann tröstende Worte formulieren, aber sie kann nicht mit einem Menschen aushalten, dass es gerade keine Antwort gibt.
Alltag im Graubereich
Die meisten Fälle aus dem Alltag liegen im Graubereich dazwischen. Ein Werkzeug, das Pflegeberichte vorformuliert, entscheidet mit darüber, welche Beobachtungen im Bericht landen. Ein Werkzeug, das Anträge vorsortiert, beeinflusst, wessen Anliegen zuerst bearbeitet wird. Die Verantwortung dafür bleibt beim Menschen. Das sehen auch die Kirchenmitglieder so: In der Studie DiRK2026 sprechen sie sich klar dafür aus, dass die Letztverantwortung bei sensiblen Entscheidungen beim Menschen liegt, und sie wünschen sich ethische Leitlinien für den Einsatz von KI in kirchlichen Einrichtungen.
Vier Fragen für die Leitung
Wie kommt eine Einrichtung vom Unbehagen zu einer Haltung? Aus Schulungen in Verwaltungen und Unternehmen haben sich vier Fragen bewährt, die eine Leitung mit ihrem Team besprechen kann.
- Die erste lautet: Welche KI-Werkzeuge nutzen unsere Mitarbeitenden heute schon, auch auf privaten Geräten? Die ehrliche Antwort überrascht fast immer, und sie gelingt nur, wenn niemand Angst vor Konsequenzen haben muss.
- Die zweite: Welche Daten dürfen in ein KI-Werkzeug und welche auf keinen Fall? Gesundheitsangaben und alles aus Seelsorgegesprächen gehören in die zweite Gruppe, solange kein geprüftes System dafür bereitsteht.
- Die dritte: Wo ziehen wir die Grenze zwischen Entlastung und Ersatz? Diese Frage lässt sich nicht von oben beantworten, denn Pflegekräfte und Beraterinnen wissen am besten, wo die Begegnung zählt.
- Die vierte: Wer ist bei uns ansprechbar, wenn jemand unsicher ist? Eine benannte Person nimmt viel Druck aus dem Alltag.
Aus den Antworten entsteht eine kurze Nutzungsrichtlinie, und aus ihr ergibt sich, was die Mitarbeitenden in einer Schulung lernen sollten. Genau solche Maßnahmen meint der EU AI Act, wenn er von der Förderung der KI-Kompetenz spricht.
Sicherheit statt Verbot
Ein Verbot wirkt auf den ersten Blick verantwortungsvoll. Im Alltag treibt es die Nutzung ins Verborgene, und die Pflegekraft vom Anfang tippt ihre Stichworte dann eben in das Werkzeug auf ihrem privaten Handy, nur mit schlechterem Gewissen. Ihr hilft eine Leitung, die sagt: Wir haben uns das angeschaut, dieses Werkzeug ist für diese Aufgaben freigegeben, und hier ziehen wir die Grenze. Wie groß die Erleichterung ist, wenn diese Klarheit endlich da ist, erlebe ich in Schulungen immer wieder.
Für Kirche und Diakonie ist der verantwortliche Umgang mit KI deshalb kein Technikthema. Er gehört zu der Frage, wie sie den Menschen begegnen, für die sie da sind.
