2036: Was darf dein KI-Begleiter? Ein Zukunftslabor für kindgerechte KI
Josephine B. Schmitt , Paul Luka Sieber
2036: Ein Kind fragt bei Problemen nicht mehr zuerst Eltern, Pädagog:innen oder Freund:innen, sondern eine KI. Diese gibt Ratschläge und spendet Trost. Doch, muss die KI Geheimnisse für sich behalten? Soll sie Eltern informieren, wenn sie ein Risiko erkennt? Was passiert, wenn ihr Geschäftsmodell davon abhängt, dass das Kind möglichst viel Zeit mit ihr verbringt?
In diesem Zukunftslabor entwerfen die Teilnehmenden einen KI-Begleiter für ein Kind im Jahr 2036. Zentral ist die Frage, welche Rolle er im Leben von Kindern spielen darf und welche Grenzen wir heute dafür setzen müssen. Die Teilnehmenden entscheiden u.a.: Was darf die KI wissen? Wie erklärt sie Fehler? Wie kann das Kind sie abschalten?
Anschließend werden die Entwürfe einem Stresstest unterzogen. Stellt euch vor: Die KI liefert falsche Informationen. Ein Kind vertraut ihr ein Geheimnis an und Eltern verlangen Zugriff auf alle Gespräche. Eine kostenpflichtige Funktion wird mit emotionalem Druck beworben. Was bedeutet das für das Kind?
Die Teilnehmenden müssen reagieren, ihre Entwürfe verändern und unverzichtbare Regeln für kindgerechte KI formulieren.