2036: Was darf dein KI-Begleiter? Ein Zukunftslabor für kindgerechte KI

2036: Was darf dein KI-Begleiter? Ein Zukunftslabor für kindgerechte KI

Josephine B. Schmitt , Paul Luka Sieber

10.10.2026 14:45–15:45
English
Workshop
Science & Technology
#Ethik #KI #Technologie #Zivilgesellschaft
Ein KI-Agent erklärt die Hausaufgaben, kennt Ängste und bewahrt Geheimnisse. Aber wer kontrolliert ihn und wessen Interessen vertritt er? In diesem interaktiven Zukunftslabor entwickeln die Teilnehmenden KI-Begleiter für Kinder im Jahr 2036 und formulieren unverzichtbare Regeln für kindgerechte KI.

2036: Ein Kind fragt bei Problemen nicht mehr zuerst Eltern, Pädagog:innen oder Freund:innen, sondern eine KI. Diese gibt Ratschläge und spendet Trost. Doch, muss die KI Geheimnisse für sich behalten? Soll sie Eltern informieren, wenn sie ein Risiko erkennt? Was passiert, wenn ihr Geschäftsmodell davon abhängt, dass das Kind möglichst viel Zeit mit ihr verbringt? 

In diesem Zukunftslabor entwerfen die Teilnehmenden einen KI-Begleiter für ein Kind im Jahr 2036. Zentral ist die Frage, welche Rolle er im Leben von Kindern spielen darf und welche Grenzen wir heute dafür setzen müssen. Die Teilnehmenden entscheiden u.a.: Was darf die KI wissen? Wie erklärt sie Fehler? Wie kann das Kind sie abschalten? 

Anschließend werden die Entwürfe einem Stresstest unterzogen. Stellt euch vor: Die KI liefert falsche Informationen. Ein Kind vertraut ihr ein Geheimnis an und Eltern verlangen Zugriff auf alle Gespräche. Eine kostenpflichtige Funktion wird mit emotionalem Druck beworben. Was bedeutet das für das Kind? 

Die Teilnehmenden müssen reagieren, ihre Entwürfe verändern und unverzichtbare Regeln für kindgerechte KI formulieren.