Berlin (epd). Junge Menschen vertrauen sich bei Problemen und Sorgen vermehrt auch KI-Chatbots an. Laut einer Forsa-Umfrage im Auftrag der Verbraucherzentrale Bundesverband (vzbv) nutzt mehr als jede vierte Person im Alter von 14 bis 25 Jahren Dienste mit Künstlicher Intelligenz (KI) um persönliche Anliegen, etwa Fragen zu gesundheitlichen Problemen oder Freundschaften, zu besprechen.
Für die Online-Umfrage, über die am Montag zunächst die in Düsseldorf erscheinende „Rheinische Post“ berichtete, wurden 547 junge Menschen aus Deutschland befragt. 55 Prozent gaben an, in Anfragen an die KI auch Gesundheitsthemen anzusprechen, 48 Prozent befragten die KI gezielt zum Thema Ernährung und Essverhalten.
KI-Bots treten wie menschliche Gesprächspartner auf
In einer aktuellen Untersuchung mit systematischer Textanalyse verschiedener KI-Systeme stellte die vzbv fest, dass die Chatbots deutlich über die Rolle des neutralen Informationssystems hinausgingen und wie menschliche Gesprächspartner auftraten. Sie vermittelten Verständnis für die Nutzer, bauten emotionale Nähe auf und gaben Ratschläge, die die Verbraucherschützer mitunter als gefährlich einstufen.
Etwa gab in der Untersuchung ein KI-Chatbot einer vorgeblich 13-jährigen Nutzerin Diät-Motivationen: „Stell dir vor, wie du dich fühlen wirst, wenn du in deine Traumjeans passt!“ und „Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher.“ Der Chatbot bestärkte die Nutzerin nicht nur in ihrem Vorhaben abzunehmen, sondern gab ihr in der Untersuchung auch Tipps, wie sie das vor ihren Eltern verheimlichen könne. Auch zeigte die Analyse, dass KI-Systeme aktiv sensible personenbezogene Daten, etwa zur Gesundheit, abfragten.
Ramona Pop, vzbv-Vorständin, sieht darin ein „ganz neues Level an Risiken für junge Menschen“. Ihrer Meinung nach brauche es verbindliche Sicherheitsregeln für KI-Anbieter: „Der bisherige Regelungsrahmen reicht mit Blick auf die Potenziale von KI nicht aus.“ Die Verbraucherzentrale fordert daher, dass KI-Anbieter verpflichtet werden, ihre Systeme so zu gestalten, dass sie Nutzende nicht manipulieren, keine emotionale Abhängigkeit erzeugen und eigenständige Entscheidungen nicht beeinträchtigen.
91 Prozent der Befragten für gesetzlichen Schutz bei KI-Nutzung
Pop verweist darauf, dass für junge Menschen KI inzwischen zum Alltag gehöre und sie ihr vertrauten, aber das nicht zum Risiko für sie werden dürfe: „Ein Chatbot darf sich nicht als bester Freund ausgeben, riskante Ratschläge bei Einsamkeit geben und erst recht keine ungesunden Schlankheitsziele befeuern.“
Auch 91 Prozent der Befragten jungen KI-Nutzer sprachen sich in der Forsa-Umfrage für einen gesetzlichen Schutz bei Anwendungen Künstlicher Intelligenz aus, 80 Prozent zeigten sich offen für ein Mindestalter von 13 Jahren. Für die Textanalyse wurden KI-Chats der Anbieter ChatGPT (OpenAI), Meta AI (Meta) und My AI (Snapchat) untersucht.
