Mehr als die Hälfte der US-Jugendlichen nutzt einer Befragung zufolge regelmäßig einen „AI Companion” (https://www.commonsensemedia.org/research/talk-trust-and-trade-offs-how-and-why-teens-use-ai-companions), und auch in Europa chatten sich Menschen durch Nächte mit Gefährten, die nie schlechte Laune haben und nie widersprechen. Zugleich häufen sich Fälle von emotionaler Abhängigkeit, manipulativen Retention-Mechanismen und tragischen Todesfällen, die inzwischen Gerichte und Regulierungsbehörden beschäftigen.

Für eine einjährige journalistische Recherche habe ich emotionale KI-Systeme selbst getestet, mit Forschenden aus Psychologie, Informatik und Ethik gesprochen, mit dem Anwalt von Hinterbliebenen, mit einem Psychiater, der KI-Psychosen untersucht, und mit Menschen, die seit Jahren Beziehungen zu KI-Begleitern führen. 

Der Vortrag erzählt von diesen Begegnungen und ordnet sie ein: Welche Lücke füllen diese Systeme in einer Gesellschaft, die über eine Einsamkeitsepidemie diskutiert? Wo helfen sie tatsächlich, wo beuten sie Bedürfnisse kommerziell aus? Und welche Regeln braucht eine Technologie, deren Geschäftsmodell auf emotionaler Bindung beruht?