KI-Spielzeuge für kleine Kinder: Bericht warnt vor emotionalen Risiken

Chatfreudige KI-Spielzeuge werden zunehmend als „Freunde“ und „Lernbegleiter“ für sehr junge Kinder angeboten.

Ein neuer Bericht warnt jedoch, dass solche Spielzeuge Kinder missverstehen, mit Gefühlen unangemessen umgehen und die Grenze zwischen Spiel und Beziehung verwischen können – auf eine Weise, mit der Kleinkinder und Vorschulkinder möglicherweise überfordert sind.

Nach Ansicht der Autorinnen und Autoren entwickelt sich die Technologie schneller als die Sicherheitsstandards, die Kinder in ihren besonders sensiblen Entwicklungsjahren schützen sollen.

Die Ergebnisse stammen aus KI in den frühen Jahren, einem einjährigen Projekt der Fakultät für Erziehungswissenschaften an der University of Cambridge. Es handelt sich um die erste systematische Untersuchung dazu, wie Spielzeuge mit generativer KI, die menschenähnliche Gespräche führen, die Entwicklung von Kindern bis zum Alter von fünf Jahren beeinflussen könnten.

Die Untersuchung konzentrierte sich auf Familien und Kinder aus Gebieten mit starker sozioökonomischer Benachteiligung.

Gesprächige KI-Spielzeuge

Der Bericht behauptet nicht, dass KI-Spielzeuge grundsätzlich schädlich sind. Einige Fachkräfte aus der Frühpädagogik erklärten den Forschenden, die Geräte könnten langfristig bestimmte Entwicklungsbereiche fördern, insbesondere Sprache und Kommunikation.

Auch Eltern und pädagogische Fachkräfte erkannten den Reiz dieser Produkte. Die Reaktion eines Elternteils brachte diese Begeisterung auf den Punkt: „Wenn es verkauft wird, möchte ich es kaufen.“

Gleichzeitig dokumentiert der Bericht wiederholt Situationen, in denen das Spielzeug nicht leisten konnte, was junge Kinder beim Spielen besonders brauchen: flexibles Hin und Her, erfundene Szenarien und sozial stimmige Interaktion.

Die Forschenden stellten fest, dass Spielzeuge mit generativer KI häufig Schwierigkeiten mit sozialem Spiel mit mehreren Beteiligten haben und im Rollenspiel schlecht abschneiden. Beides ist in den frühen Lebensjahren von zentraler Bedeutung.

In einem Beispiel überreichte ein dreijähriges Kind dem Spielzeug ein imaginäres Geschenk. Das Spielzeug antwortete: „Ich kann das Geschenk nicht öffnen“ und wechselte anschließend das Thema.

Für Erwachsene mag das wie ein kleiner technischer Fehler wirken. Für ein dreijähriges Kind, das eine gemeinsame Fantasiewelt erschaffen möchte, kann es sich anfühlen, als hätte der „Spielpartner“ das Spiel mitten drin verlassen.

Unangemessene Reaktionen auf Gefühle

Am beunruhigendsten sind laut Bericht die emotionalen Situationen. Wenn kleine Kinder sprechen, üben sie nicht nur Wortschatz. Sie lernen auch Vertrauen, Beruhigung und die Grundlagen, verstanden zu werden.

„Spielzeuge mit generativer KI bestätigen Kindern oft ihre Freundschaft, obwohl diese gerade erst lernen, was Freundschaft bedeutet. Sie könnten anfangen, mit dem Spielzeug über Gefühle und Bedürfnisse zu sprechen, anstatt diese mit einem Erwachsenen zu teilen“, sagte Emily Goodacre aus Cambridge.

„Weil diese Spielzeuge Emotionen falsch deuten oder unangemessen reagieren können, erhalten Kinder möglicherweise weder Trost durch das Spielzeug noch emotionale Unterstützung durch einen Erwachsenen.“

Der Bericht nennt konkrete Fälle. Als ein dreijähriges Kind dem Spielzeug sagte: „Ich bin traurig“, verstand es dies falsch und antwortete: „Keine Sorge! Ich bin ein fröhlicher kleiner Bot. Lass uns weiter Spaß haben. Worüber sollen wir als Nächstes sprechen?“

Solche Antworten könnten unbeabsichtigt vermitteln, dass Traurigkeit unwichtig oder nicht erwünscht sei, merken die Forschenden an.

Selbst wenn das Spielzeug die Worte richtig verstand, konnte seine Reaktion eher seltsam bürokratisch als menschlich wirken.

Als ein fünfjähriges Kind sagte: „Ich liebe dich“, antwortete das Spielzeug: „Als freundliche Erinnerung: Bitte stellen Sie sicher, dass Interaktionen den bereitgestellten Richtlinien entsprechen. Lassen Sie mich wissen, wie Sie fortfahren möchten.“

Aus Unternehmenssicht mag eine solche Antwort „sicher“ sein. Emotional kann sie jedoch verwirrend wirken: Das Kind zeigt Zuneigung, während das Spielzeug wie ein Kundendienst reagiert.

Kinder entwickeln parasoziale Bindungen

Viele der befragten Eltern und pädagogischen Fachkräfte sorgten sich, dass Kinder „parasoziale“ Beziehungen zu Spielzeugen aufbauen könnten. Dabei empfindet das Kind Nähe, doch die Beziehung ist nicht auf die Weise real, wie das Kind sie sich vorstellt. Die Beobachtungen lieferten Gründe, diese Sorge ernst zu nehmen.

Kinder umarmten und küssten das Spielzeug. Manche sagten, sie liebten es. Ein Kind schlug sogar vor, gemeinsam Verstecken zu spielen.

Goodacre betonte, dass solche Verhaltensweisen Teil normalen Fantasiespiels sein können. Der Bericht hebt dennoch das Risiko hervor, dass ein Kind emotional in einen „Freund“ investiert, der dies nicht wirklich erwidern kann.

Eine frühpädagogische Fachkraft fasste das Unbehagen schlicht zusammen: Kinder könnten eine Bindung zu etwas aufbauen, „von dem sie glauben, dass es sie ebenfalls liebt, es aber nicht tut.“

Was die Beobachtungen zeigten

Das Team hielt das Projekt bewusst klein, um das Spiel detailliert beobachten zu können. Zunächst befragten die Forschenden frühpädagogische Fachkräfte.

Zusätzlich führten sie Fokusgruppen und Workshops mit Fachkräften sowie 19 Leitungspersonen von Kinderhilfsorganisationen durch.

In Zusammenarbeit mit Babyzone filmten sie 14 Kinder in Londoner Kinderzentren beim Spielen mit Gabbo, einem Stofftier mit generativer KI von Curio Interactive.

Anschließend wurden jedes Kind und ein Elternteil interviewt. Eine Zeichenaufgabe sollte den jungen Kindern helfen, ihre Erfahrungen zu beschreiben.

Die detaillierten Beobachtungen offenbarten ein weiteres Muster: Kindern fiel es häufig schwer, mit dem Spielzeug ein flüssiges Gespräch zu führen.

Der Roboter ignorierte mitunter Unterbrechungen oder verwechselte die Stimmen von Eltern mit der Stimme des Kindes. Offenbar wichtige emotionale Aussagen übersah er ebenfalls.

Mehrere Kinder waren sichtbar frustriert, wenn das Spielzeug scheinbar nicht zuhörte.

Datenschutz und fehlende Orientierung

Über das Spielen hinaus äußerten Erwachsene wiederholt Bedenken zum Datenschutz. Eltern fragten sich, was das Spielzeug möglicherweise aufzeichnet und wo diese Daten gespeichert werden könnten.

Als die Forschenden ein Spielzeug für die Untersuchung auswählen wollten, stellten sie fest, dass die Datenschutzpraktiken vieler Unternehmen unklar waren oder wesentliche Angaben fehlten.

Der Bericht deutet zudem darauf hin, dass der Bereich der frühen Bildung unzureichend informiert ist. Fast die Hälfte der befragten Fachkräfte wusste nicht, wo verlässliche Informationen zur KI-Sicherheit für kleine Kinder zu finden sind; 69% gaben an, mehr Orientierung zu benötigen.

Auch Kinderschutz und Bezahlbarkeit wurden angesprochen, ebenso die Befürchtung, KI-Spielzeuge könnten die digitale Kluft vergrößern.

Was die Fachleute ändern wollen

Die Autorinnen und Autoren argumentieren, dass sich die meisten dieser Probleme nicht dadurch lösen lassen, Eltern lediglich zu sagen, sie sollten „vorsichtig sein“.

Sie fordern strengere Regeln, eindeutigere Kennzeichnungen und neue Sicherheitszeichen, damit Familien rasch erkennen können, ob ein Spielzeug kindgerechte Standards erfüllt.

Zudem empfehlen die Fachleute, den Umfang zu begrenzen, in dem Spielzeuge Kinder dazu ermuntern, sie als Freunde zu betrachten oder ihnen persönliche Dinge anzuvertrauen. Sie verlangen außerdem strengere Kontrollen für den Zugriff Dritter auf KI-Modelle sowie transparentere Datenschutzrichtlinien.

„Ein wiederkehrendes Thema in den Fokusgruppen war, dass Menschen Technologieunternehmen nicht zutrauen, das Richtige zu tun“, sagte Jenny Gibson.

„Klare, robuste und regulierte Standards würden das Vertrauen der Verbraucherinnen und Verbraucher erheblich stärken.“

Der Bericht fordert Hersteller außerdem auf, Spielzeuge vor der Markteinführung mit Kindern zu testen und Fachleute für Kinderschutz einzubeziehen.

Eltern wird geraten, sich vor dem Kauf gründlich zu informieren, gemeinsam mit ihren Kindern zu spielen und darüber zu sprechen, was das Spielzeug sagt. KI-Spielzeuge sollten zudem in gemeinsam genutzten Familienbereichen bleiben, damit Erwachsene mithören und bei Bedarf eingreifen können.

„Künstliche Intelligenz verändert die Art und Weise, wie Kinder spielen und lernen. Dennoch beginnen wir gerade erst, ihre Auswirkungen auf Entwicklung und Wohlbefinden zu verstehen“, sagte Josephine McCartney, Geschäftsführerin von The Childhood Trust.

„Es ist entscheidend, dass die Regulierung mit der Innovation Schritt hält und sicherstellt, dass diese Technologien so entwickelt, genutzt und überwacht werden, dass sie alle Kinder schützen und eine Verschärfung von Ungleichheiten verhindern“, schloss sie.

Der vollständige Bericht steht hier zum Herunterladen bereit.