Fluch oder Segen? Welche Chancen und Gefahren gibt es für die evangelische Kirche im Umgang mit künstlichen Intelligenzen?
Stefanie Hoffmann: Künstliche Intelligenz ist, wie alle Technologien und viele Bereiche des menschlichen Lebens, immer Fluch und Segen zugleich. Sie hat lebensdienliche und dem Leben nicht dienliche Funktionen und Einsatzmöglichkeiten. Dies zu gestalten ist unsere Aufgabe als Kirche, aber natürlich auch als Gesellschaft.
Ich erlebe die evangelische Kirche als experimentierfreudig. Dabei denke ich an den Segensroboter oder den KI-Gottesdienst auf dem Deutschen Evangelischen Kirchentag in Nürnberg oder Martin Luther als Avatar, dem man im Chat Fragen stellen kann. Wie ist die Resonanz auf solche Angebote?
Hoffmann: Die Resonanz ist gemischt. Zunächst war der Segensroboter, der im Rahmen des Kirchentages beziehungsweise der Weltausstellung Reformation in Wittenberg aufgestellt wurde, in den Medien präsent. Menschen berichteten von unterschiedlichen Erfahrungen. Manche fühlten sich sehr wahrgenommen und gesegnet. Andere haben die Frage gestellt, ob jetzt alle Pfarrer:innen oder der Segen durch Maschinen ersetzt werden sollen und warum man das überhaupt ausprobieren kann. Ich finde, bei all diesen Dingen, wo Kirche experimentierfreudig ist, vom Segensroboter jetzt bis zum Lutheravatar, lohnt es sich, genauer hinzuschauen. Das sind zunächst einmal Experimente. Wir müssen erst einmal herauszufinden: Was macht das mit uns als Menschen? Was macht das auch mit unserem Glauben, mit unserer Tradition, mit unseren Überzeugungen?
"Eine KI an sich bietet keinen direkten Zugang zur Transzendenz"
Kann KI die spirituelle Erfahrung bereichern?
Hoffmann: Der Segensroboter und das Experiment mit dem Luther-Avatar werfen interessante Fragen auf, insbesondere wie eine trainierte KI, die Martin Luthers Schriften kennt, zu aktuellen Themen Stellung nehmen würde. Doch obwohl dies spirituelle Erlebnisse auslösen kann, bedarf es genauer Untersuchungen, denn eine KI an sich bietet keinen direkten Zugang zur Transzendenz. Das spielt sich zwischen Mensch und Gott ab. Wo werden spirituelle Erfahrungen gemacht, wo bekomme ich plötzlich Antworten, die jenseits dessen liegen, was auf der Textebene miteinander geteilt wurde? Spirituelle Erfahrungen sind sehr individuell und können auch durch Naturerlebnisse entstehen. Hiermit beschäftigt sich die christliche Mystik seit vielen Jahrhunderten. Warum sollten wir KI grundsätzlich von der Möglichkeit ausschließen, dass auch hier spirituelle Erfahrungen gemacht werden können.
Wo gibt es weiteres Potenzial für den Einsatz von KI in der evangelischen Kirche?
Hoffmann: Das Thema Künstliche Intelligenz hat Anfang letzten Jahres einen großen Aufschwung erlebt, als ChatGPT in die Welt kam und plötzlich von vielen Menschen zu Hause genutzt werden konnte. Gerade in dem Bereich der KI-Sprachmodelle wird vieles ausprobiert. Diese Modelle bieten die Möglichkeit, Menschen von repetitiven Aufgaben zu entlasten, sei es bei der Beantwortung von Anfragen oder in der Öffentlichkeitsarbeit, wo häufig gestellte Fragen mit Vorlagen beantwortet werden können. In der evangelischen Kirche gibt es noch keine flächendeckende Implementierung vollautomatisierter Antwortsysteme. Da sitzen immer noch Menschen dahinter. Und das ist ja auch gut und gehört zu uns als Kirche dazu. Vor allem glaube ich, das ist für die Zeit, in der wir leben und unsere ersten Erfahrungen mit genau solchen Sprachmodellen machen, auch ganz wichtig. Grundlegende Fragen klären sich erst, wenn wir Erfahrungen sammeln. Es ist entscheidend, diese zu klären, wie die Verantwortlichkeit für die Funktionsfähigkeit der Systeme und die möglichen Risiken. Da befinden wir uns auf dem Weg, zu verantwortlichen Strukturen zu gelangen.
Im Bereich der Seelsorge scheint Chat-GPT bereits gute Arbeit leisten zu können. Gibt es da Bedenken hinsichtlich des Datenschutzes und der Privatsphäre im Zusammenhang mit dem Einsatz von KI in der Kirche?
Hoffmann: Natürlich gibt es Bedenken, aber auch den Blick auf viele Chancen. In der Seelsorge unterliegen wir besonders streng dem Datenschutz- und auch dem Seelsorgegeheimnisgesetz. Überall wo Seelsorge stattfindet und wir jetzt nicht von einem idealisierten, abgeschlossenen, abhörsicheren Raum ausgehen, in dem zwei Menschen miteinander reden und niemand etwas aufschreibt, haben wir es immer damit zu tun, dass Gespräche abgehört und aufgezeichnet werden können. Mit den digitalen Möglichkeiten entstehen digitale Fragmente, sogenannte Metadaten. Diese Daten können sensibel sein, wie zum Beispiel die Häufigkeit von Gesprächen mit einer Beratungs-KI. Das müssen wir uns natürlich anschauen. Im Bereich der Seelsorge, Beratung und auch in der Therapie gibt es einen großen Bedarf von Ratsuchenden, der derzeit nicht ausreichend gedeckt wird. Daher ist es sinnvoll zu untersuchen, wo der Einsatz von KI in diesen Bereichen hilfreich sein könnte, möglicherweise sogar hilfreicher, als sich einem Menschen zu offenbaren. Dabei muss stets im Blick behalten werden, wie dies die Freiheit des Einzelnen erweitern kann, zum Beispiel auch mal nicht mit einem Menschen über persönliche Angelegenheiten sprechen zu müssen.
Welche Schritte macht die Kirche, um sicherzustellen, dass der Einsatz von KI die Werte der Nächstenliebe, Empathie und Gerechtigkeit widerspiegelt?
Hoffmann: Die Prinzipien der Nächstenliebe, Empathie, Gerechtigkeit und Freiheit sind integraler Bestandteil des kirchlichen Handelns, das sich auf eine Vielzahl von Themen erstreckt. Als verfasste Kirche verfügen wir über Strukturen, die sicherstellen sollen, dass Einschränkungen menschlicher Freiheit erkannt werden. Von außen wirkt das oft sehr institutionalisiert. Im Kern geht es aber darum sicherzustellen, dass die neuen Handlungsmöglichkeiten, die wir ergreifen, auf dem Fundament stehen, das uns als Kirche eint.
Wie können die Technologien der KI so gestaltet werden, dass sie die Vielfalt der kirchlichen Gemeinschaft berücksichtigen?
Hoffmann: Unsere Überlegung ist es, ein bisschen auf den Anfang zu schauen. Large Language Models wie ChatGPT sind nicht vom Himmel gefallen, sondern werden mit öffentlich zugänglichen Daten im Internet trainiert. Wir fragen uns daher zum Beispiel, welche Auswirkungen dies auf die Daten auf kirchlichen Webseiten hat. Sollen wir uns dafür einsetzen, dass diese Websites von solchen lernenden Sprachsystemen leicht genutzt werden können? Oder sollten wir vielmehr überlegen, welche Inhalte besonders schutzbedürftig sind?
Wie kann die KI dazu beitragen, die Barrierefreiheit in der Kirche zu verbessern und Menschen mit unterschiedlichen Bedürfnissen besser einzubeziehen?
Hoffmann: Die Frage nach Inklusion stellt sich beispielsweise im Bereich der Evangelischen Bildung, insbesondere wie künstliche Intelligenz verschiedene Formen von Behinderungen und Bedürfnissen unterstützen kann, um Zugänglichkeit zu verbessern. Beispielsweise gibt es Screenreader für blinde oder sehbehinderte Menschen. Auch für Personen mit unterschiedlichen kognitiven Fähigkeiten kann KI eine Annäherung an Texte und Aufgaben ermöglichen. Ein weiterer wichtiger Aspekt betrifft die Anpassung des Unterrichts an individuelle Bedürfnisse in Klassen verschiedener Größen. Hier wird untersucht, wie KI-gestützte Feedbacksysteme helfen können, den Schülerinnen und Schülern passende Zugänge zu Lehrinhalten zu bieten.
Wie siehst Du die Rolle der evangelischen Kirche bei der Entwicklung ethischer Richtlinien für den Einsatz von KI in der Gesellschaft?
Hoffmann: Die Gesellschaft ist bereits in eine breite Diskussion über KI eingebunden, von EU-Gesetzgebungsverfahren bis hin zu UN-Menschenrechtsnormen. Die Kirche engagiert sich in diesen Prozessen. Es ist wichtig, dass wir als Gesellschaft und besonders als Kirche, die sich intensiv mit Ethik und verantwortungsvollem Leben auseinandersetzt, im Dialog bleiben. Es wäre jedoch falsch zu behaupten, die Kirche solle hier eine Führungsrolle einnehmen oder sich eine separate Ethik der KI schaffen.
Wie können Risiken und Missbrauchsmöglichkeiten mit KI-basierten Anwendungen frühzeitig erkannt werden?
Hoffmann: KI-Anwendungen müssen bestmögliche Sicherheit gewährleisten, einschließlich IT-Sicherheit, Datenschutz und verantwortungsvoller Umsetzung. Verantwortung bedeutet, klar definierte Verantwortlichkeiten zu haben. Regelmäßige Überprüfungen auf Bias oder Diskriminierung sind wichtig, besonders bei selbstlernenden Systemen, um sicherzustellen, dass sie unseren ethischen Grundsätzen entsprechen. Es gehört zu unserem evangelischen Selbstverständnis, mit ethischen Fragen differenziert und verantwortungsbewusst umzugehen. In den kommenden Jahren werden wir mit vielen Dilemmata konfrontiert sein, in denen KI einerseits das Leben erleichtern kann, aber auch negative Konsequenzen mit sich bringt, wie etwa bei der Datenverarbeitung und dem Schutz der Privatsphäre. Es ist unsere Aufgabe im Sinne einer christlichen Ethik zu betonen, dass trotz dieser Herausforderungen Entscheidungen von Menschen getroffen werden müssen. Wir können KI-generierte Informationen nutzen, um Entscheidungen vorzubereiten, aber die letztendliche Verantwortung liegt immer beim Menschen. Verantwortung ist immer etwas Zwischenmenschliches. Die verantwortliche Entscheidung können wir nicht an Maschinen delegieren. Sie muss am Ende beim Menschen bleiben.
Das klingt alles schon recht strategisch. Arbeitet die Kirche an einer KI-Strategie?
"Menschliche Handlungsspielräume sind zu erweitern und nicht einzuschränken"
Hoffmann: Wir nähern uns dem Thema KI ähnlich wie viele andere Arbeitsbereiche. Es ist jetzt nicht festgelegt, dass wir in drei Jahren oder so eine KI-Strategie haben müssen. KI hat in den letzten eineinhalb Jahren große Fortschritte gemacht hat, insbesondere bei der Simulation menschlicher Sprache. Das Thema ist schon seit Jahrzehnten im Fokus. Wir können noch nicht genau sagen, wohin es führt, aber wir beobachten genau, wie wir neue Technologien und Werkzeuge in unsere Digitalisierungsstrategie integrieren können, um den Menschen und dem Leben zu dienen und um es mit den Worten aus der Denkschrift "Freiheit digital – Die Zehn Gebote in Zeiten des digitalen Wandels" zu sagen, die vor einigen Jahren entstanden ist: "Freiheit zu bewähren". Das heißt: menschliche Handlungsspielräume zu erweitern und nicht einzuschränken.
Kommt in Zeiten knapper Kassen und Mitgliederschwund die KI zur rechten Zeit?
Hoffmann: Ich glaube nicht, dass die KI ein einfaches Heilsversprechen bietet. Sie bietet wie die Digitalisierung Instrumente, die wir sorgfältig nutzen oder auch begründet nicht nutzen können. Digitale Werkzeuge und KI bieten heute schon Möglichkeiten, Ressourcen zu gewinnen und sich auf das Kerngeschäft der Kirche konzentrieren zu können: Verkündigung, Seelsorge, Lehre. Der Ruf nach weniger Verwaltung sagt sich dabei immer so leicht. Gleichzeitig gehört die Verwaltung zum Dasein der Kirche. Es geht nicht darum, die Verwaltung möglichst auf null zu bekommen. Die Verwaltung bleibt ein integraler Bestandteil, den wir verantwortungsbewusst handhaben müssen. Einfache Heilsversprechen wie ‚und die Kirche hatte große Probleme und dann kam die KI und dann hatte sie endlich wieder Zeit, das Evangelium zu verkünden‘, halte ich für sehr problematisch.
Was würde Dich glücklich machen, wenn die KI das könnte? Was erhoffst Du Dir?
Hoffmann: Da möchte ich den Blick nochmals auf die Seelsorge und Beratung werfen. Mich würden einfache Beratungsalgorithmen glücklich machen. Es gibt Methoden der Gesprächsführung in der Seelsorge und in der Beratung, die relativ mechanisch ablaufen. Das betrifft natürlich nicht alle Bereiche der Seelsorge. Aber es gibt Methoden, die dazu anregen, selbst ins Nachdenken zu kommen und dieses Nachdenken nicht immer nur im Kreis laufen zu lassen, sondern nach vorne zu richten. In der Seelsorge und Beratung geht es in der Regel nicht darum, dass mir jemand sagt, was ich tun soll, sondern dass ich selbst dahin komme, was mich wieder mehr mit meinen Ressourcen verbindet, was mich vielleicht auch näher zu Gott bringt. Für solche Situationen, in denen ich gerne Impulse von außen beim Nachdenken hätte, sehe ich ein Potenzial für algorithmische Systeme, möglicherweise mit Sprach-KI. Da sehe ich eine schöne Chance, wie Menschen tatsächlich in ihrem Leben und auch in ihrem Glauben angeregt durch kluge Fragen weiterkommen.
Vom 29. Februar bis 1. März 2024 findet in München die von evangelisch.de mitveranstaltete ökumenische Tagung "Kirche im Web" zum Thema "Die KI-Deus Ex Machina - Wie KI die Kirche verändern wird" statt. Stefanie Hoffmann, Oberkirchenrätin, Stabsstelle Digitalisierung EKD, ist im Gespräch zum Thema KI und Kirche. Die Anmeldung zur Veranstaltung ist bis zum 19. Februar 2014 möglich: zur Anmeldung KIW24.
