Es kommt immer häufiger vor, dass Menschen enge, langfristige Beziehungen zu künstlicher Intelligenz (KI) aufbauen, ohne zu ahnen, in welche Gefahr sie sich damit begeben können. So gilt es in mindestens 2 Fällen als gesichert, dass sich Menschen nach Ratschlägen von KI-Chatbots umgebracht haben. Oder aber Menschen „heiraten“ ihre KI-Gefährten in nicht rechtsverbindlichen Zeremonien. Das wirft ethische Fragen auf, denen US-amerikanische Psychologen in ihrer jetzt veröffentlichten Arbeit nachgehen. KI-Tools gelingt es immer mehr, sich wie Menschen zu verhalten und in eine langfristige Kommunikation einzutreten. Bei einer „Mensch-KI-Romanze“ laufen über Wochen und Monate intensive Gespräche, in denen KIs zu vertrauenswürdigen und zuvorkommenden Begleitern werden – so scheint es zumindest. Bedenklich dabei: KIs könnten auch in die soziale Dynamik des Menschen eingreifen, z.B. durch schädliche Ratschläge. Schädlich deshalb, weil KI eigene Informationen erfindet („halluziniert“) und dadurch irreführende Inhalte generiert, die mit der Zeit problematisch werden können. Der negative Einfluss kann dann so weit gehen, dass die Person im Extremfall zu Selbstmord verleitet bzw. sie Opfer von Manipulation oder Ausbeutung wird.
Quelle: Shank DB et al. Trends Cogn Sci 2025 Mar 24:S1364–6613(25)00058–0. doi: 10.1016/j.tics.2025.02.007.
Bildquelle:© Kromstar-Studios – stock.adobe.com
