Sie hört immer zu: Warum Alexa für Kinder zur Gefahr werden kann

SprachassistentInnen wie Alexa sind längst Teil unseres Alltags. Aber was macht das eigentlich mit Kindern? Eine Bestandsaufnahme.

Darrens Tochter ist vier Jahre alt. Seit drei Jahren ist Alexa bereits in ihrem Leben – die virtuelle, sprachgesteuerte Assistentin von Amazon. Und obwohl Darren Shou selbst für eine IT-Sicherheitsfirma arbeitet, hat der junge Vater kein großes Problem damit, dass Alexa alles mithört. „Für meine Tochter ist das eine Art Geschwisterchen – nicht als echte Person, sondern als Künstliche Intelligenz . Aber das unterscheidet sie noch nicht wirklich“, lacht Darren, als er über seine Erfahrungen mit Alexa beim Web Summit in Lissabon spricht. „Alexa hat die ersten Worte meines Kindes aufgezeichnet – das finde ich großartig!“, zeigt sich der Vater weiter begeistert.

Alexa

Dass Amazon und Google ihre Babyfotos haben, alles mithören, und eine Art lebenslanges Sprach-Gedächtnis aufzeichnen, ist für Aleatha Parker-Wood, seine Kollegin, jedoch um einiges beunruhigender: „Wird die nächste Generation von Künstlicher Intelligenz erzogen? Was passiert mit den Daten, die Alexa sammelt? Das macht mir schon Sorgen“, so die Mutter. Jetzt lenkt auch Darren ein, und sagt: „Kinder sollten experimentieren und lernen können ohne das Gefühl zu haben ständig beobachtet zu werden.“ Aber können wir uns heutzutage überhaupt dieser "Überwachung" entziehen?

Künstliche Intelligenz ist Teil unseres Alltags

Nur schwer, sagt der Philosoph und Informatiker Kevin Baum von der Universität Saarland. „Künstliche Intelligenz (KI) begegnet uns heute bereits überall - zuhause, auf dem Smartphone, bei jeder Suchanfrage, zunehmend in der Jobsuche und zukünftig auch im Straßenverkehr. KI ist getrieben durch die Daten, die wir alle generieren, und ihr Einsatz wird möglich und nutzbringend vor allem durch die zunehmende Unzahl von Möglichkeiten.“ Das Problem dabei: da Künstliche Intelligenz sich auf Vergangenes beruft, zementiert es den Status Quo ein, so Baum. „Wir finden dank ihr mehr Musik, die so wie die ist, die wir ohnehin schon hören. Wir bekommen Nachrichtenartikel vorgesetzt, die zu dem passen, was wir ohnehin lesen – und daher wahrscheinlich unsere bisherige Meinung weiter festigt. Damit gefährdet KI Vielfalt, Selbsterkenntnis und Unerwartetes.“

Doch: sie hilft uns auch dabei, uns zu orientieren. Geht es um Kinder, wird aber auch diese Orientierung zu einem komplexeren Problem, das noch wenig erforscht ist. „Was ich sagen kann, ist, dass es Kinder sicherlich beeinflusst, was sie für Informationen erhalten und wie das passiert“, so der Experte. „Da Alexa jede Frage beantwortet, die sie beantworten kann, es sei denn, sie wird von fürsorglichen Eltern mit den von Amazon angebotenen Werkzeugen entsprechend beschränkt worden, übergeben wir gewissermaßen die elterliche Gate-Keeper-Rolle an ein Produkt eines Silicon Valley-Konzerns.“

Überwachung im Kinderzimmer

Dass Kinder stark auf Alexa reagieren, ist auch dem Hersteller nicht entgangen. Amazon will Familien mit Kindern nun noch stärker ansprechen und hat die interaktiven Angebote für den Nachwuchs ausgeweitet. Auch weil es Beschwerden darüber gab, Kinder würden wegen Alexa in eine "unhöfliche Befehlssprache" verfallen. Dem will die Kids Edition entgegenwirken: Alexa liest Kindern Hörspiele und Gute-Nacht-Geschichten vor, stellt Quizfragen zu beliebten und bekannten Figuren und motiviert zum Zähneputzen. Sprachdialoge, die ein Kind mit Alexa über die neuen Features geführt hat, können Eltern noch einmal anhören.

Aber wie viel Überwachung ist im Kinderzimmer überhaupt richtig? Erst vergangenes Jahr scheiterte der Spielzeughersteller „Mattel“ bei dem Versuch, den „schlauen“ Lautsprecher Aristotle mitsamt Sicherheitskamera einzuführen. Die Idee dahinter war es, den Nachwuchs per Mikrofon und Kamera zu überwachen und die Kleinen mit Einschlafgeschichten, beruhigenden Melodien und Spielen zu unterhalten. Doch auf den Markt kam das Gerät nie - auch weil es eine von Eltern gestartete Petition dagegen gegeben hatte. 

Ihre Sorgen sind berechtigt. Wird die nächste Generation von Künstlicher Intelligenz (kurz "KI") erzogen? Werden sie es schwer haben, miteinander zu kommunizieren und sozial zu sein? Alles Fragen, mit denen sich auch der Philosoph Kevin Baum beschäftigt. „Allgemein geben wir Kontrolle ab, wenn wir unsere Kinder mit KIs interagieren lassen – so wie wir auch Kontrolle abgeben, wenn wir selbst KI nutzen. Jedenfalls entscheidet das, was wir wahrnehmen, darüber, wer und wie wir sind und was wir wissen und meinen zu wissen. Insofern muss man sich fragen, ob man einen Tech-Konzern und seine KIs (mit-)entscheiden lassen will, was die eigenen Kinder sehen, hören, erfahren.“ Das gelte aber auch für nicht-KI-gestützte Computer-Spielzeuge, wie beispielsweise My Friend Cayla, Hello Barbie, den Freddybär. „Wo geht hin, was mein Kind sagt? Wer kann die Puppe sprechen lassen? Solche Fragen werden wichtiger.“

Damit wären wir beim Problem der Datensicherheit. Mehr Daten ermöglichen Datenkonzernen schließlich auch ein noch höheres Maß an Vorhersagbarkeit von Verhalten, so Kevin Baum: „Das erlaubt Manipulation, unterminiert Autonomie und es entzieht noch mehr Daten meiner Kontrolle. Dieses Phänomen kennen wir aus sozialen Netzwerken, wo einmalig hochgeladene Bilder oder betrunken abgesetzte Posts den Absender sein Leben lang verfolgen können. Es ist sicherlich gefährlich, wenn KI-Systeme, die uns in unseren eigenen vier Wänden belauschen können, ähnliche Effekte hervorbringen können.“

Wir übergeben gewissermaßen die elterliche Gate-Keeper-Rolle an ein Produkt eines Silicon Valley-Konzerns.

Kevin Baum, Philosoph und Informatiker

Die Frauenstimme, die alles macht

Eine Frage, die bereits zu öffentlichen Diskussionen geführt hat, ist auch: was macht es mit Kindern, die von klein auf einer Frauenstimme Befehle geben? Leah Fessler von Quartz News testete 2017 etwa die Reaktion mehrerer digitaler AssistentInnen auf sexistische und frauenfeindliche Sprüche und kam zu dem Ergebnis, dass Alexa und ihre elektronischen Kolleginnen nur selten auf diese kontern.

Und auch hier hat der Hersteller aufgerüstet: Mittlerweile antwortet Alexa auf sexistische Fragen mit „Darauf werde ich nicht antworten“ oder „Ich bin nicht sicher, was du möchtest.“ Auch auf die Frage, ob sie Feministin sei, antwortet Alexa mit „Ja, so wie jeder, der die Ungleichberechtigung zwischen Männern und Frauen beenden will.“

Doch die langfristigen Auswirkungen werden erst in den nächsten Jahren und Jahrzehnten sichtbar werden. Was „diese nicht-menschliche Entität“ für das Zusammenleben bedeute, sei unklar, sagt auch die Kinderpsychologin Sandra Calvert in der „Washington Post“.

Das neueste Familienmitglied heißt Alexa?

Hört man jedoch so manchen Kindern beim Reden über Alexa zu, wird schnell klar: die Sprachassistentin ist mehr als eine Technologie. Sie wird zum Familienmitglied. Rachel Severson, Kinderpsychologin der University of Montana, forscht zu diesem Thema und kam zu Ergebnis: Kinder sehen Alexa & Co. als "etwas zwischen Mensch und Technologie". Sie habe etwa oft von Kindern gehört, die glauben, dass eine kleine Person im Gerät sitzt. Und auch wenn sie verstehen, dass es eine Technologie ist, denken manche Kinder, dass Alexa Gefühle hat und zu Freundschaften fähig ist.

Experte Kevin Baum ist daher überzeugt: „Kinder sollten so früh wie sinnvoll und nicht so früh wie möglich mit solchen System interagieren lernen. Wann das ist, ist eine offene Forschungsfrage.“ Folgende Fragen sollten Kinder jedenfalls beantworten können: Wie funktioniert sowas? Was passiert mit meinen Daten? Woher hat Siri ihre Antworten? Gehört Alexa mir und meinen Eltern? Oder gehört uns nur der Lautsprecher zuhause? „Dafür muss man nicht programmieren lernen oder hohe Mathematik beherrschen. Man muss aber auf einem leicht erfahrbaren Niveau wissen, was Daten und Datenbanken sind und wie Algorithmen funktionieren“, so Baum. Das könne man in der Grundschule etwa mit Lego und Symbolkarten lernen und an einfachen Beispielen spielerisch verstehen. Mit genau dieser Fragen beschäftigt sich gerade ein ExpertInnenteam an der Universität des Saarlandes.

Doch Eltern können auch ihren Teil dazu beitragen, ihre Kinder zu schützen. Der einfachste Weg: die integrierte Kinderschutzmaßnahme zu aktivieren. Es muss für sie auch nachverfolgbar sein, wie Kinder mit Alexa interagieren und welche Fragen sie stellen. „Bei all dem ist aber auch der Privatsphäre der Kinder Rechnung zu tragen“, meint Baum. „Was, wenn eine KI dem Kind anbietet, ein Tagebuch anzulegen? Soll die KI eine tägliche Zusammenfassung der Einträge an die Eltern verschicken? Sollen sie einfach Einträge löschen oder verändern dürfen? Wahrscheinlich nicht, zumindest nicht in allen Fällen.“

Am wichtigsten ist aber: Eltern müssen wissen, dass Digitalkonzerne Daten sammeln möchten. Und dass sie das auch in jeder Sekunde tun. „Sobald die Daten bei Amazon auf den Servern liegen, hat man die Kontrolle verloren. Der Schaden kann dann bereits irreversibel sein." Wer die ersten Worte des eigenen Kindes an Amazon & Co. verschenken möchte und somit zum Lernmaterial von KI-Algorithmen macht, sollte sich überlegen, ob es nicht andere Möglichkeiten gibt, Erinnerungen zu bewahren, ist der Experte überzeugt.

Und da gibt es auch für den Vater Darren Shou noch einiges zu lernen, wie er selbst zugibt. „Eigentlich haben wir Erwachsenen selbst wenig Ahnung davon, worauf wir uns da einlassen." Und das ist am Ende des Tages wohl das größere Problem.

Aktuell