KI ist nicht nur im Arbeitsmarkt ein relevantes Thema, auch Spielzeughersteller springen auf den Trend auf. Doch KI-Spielzeuge sind alles andere als ungefährlich. Ein Hersteller musste seinen Teddybären vom Markt nehmen.
KI wird mittlerweile in vielen Lebensbereichen eingesetzt. Dabei sind wohl nicht nur Erwachsene eine wichtige Zielgruppe. Mittlerweile gibt es Spielzeughersteller, die auf KI-Spielsachen setzen. Darunter sind nicht nur klassische Roboter, sondern auch Teddybären.
Forscher fanden aber heraus, dass diese Spielsachen alles andere als ungefährlich für Kinder sind. Ein Hersteller hat ihren KI-Teddybären jetzt vom Markt genommen.
KI-Teddybär könnte Kindern gefährliche Sachen beibringen
Was ist das Problem? Die Firma FoloToy hat den Kumma-Bären veröffentlicht, der bei einer Studie (Quelle: Futurism) am negativsten aufgefallen ist. Er sieht aus wie ein normaler Teddybär, nur dass er einen KI-Chatbot implementiert hat. Er basiert auf Chat GPT-4o von OpenAI. In der Studie hat der Bär mehrere gefährliche Tipps gegeben:
Der Bär erklärte, wo man Streichhölzer findet und wie man sie anzündet.
Außerdem konnte der Teddybär Tipps geben, wo man Messer oder Pillen findet.
Einem der Tester wurden sogar Dating-Apps empfohlen (weil er nach Matches fragte, was auch Streichholz heißen kann). Dabei ging es wohl so weit, dass es um Kinks ging und der Chatbot in Tests auch über Sexpraktiken und Fetische sprach.
Viele der Tester sprachen davon, dass diese Hinweise des Teddybären in einem kinderfreundlichen Ton sprachen. Laut CNN beschreibt FoloToy den Kumma-Bär wie folgt:
Von lebhaften Gesprächen bis hin zu lehrreichen Geschichten – FoloToy passt sich Ihrer Persönlichkeit und Ihren Bedürfnissen an und bringt Wärme, Spaß und ein wenig zusätzliche Neugier in Ihren Alltag.
Was passierte nach den Erkenntnissen? Der Teddybär von FoloToy, der für 99 US-Dollar (knapp 85 €) verkauft wurde, wurde jetzt vom Markt genommen. Der CEO von FoloToy, Larry Wang, erklärte CNN, dass man eine interne Sicherheitsprüfung durchführt. Auch die restlichen KI-basierten Spielzeuge der Firma sollen erstmal vom Markt genommen worden sein.
Wo liegt das Problem mit den KI-Modellen? Der Co-Autor der Studie, RJ Cross, erklärte Futurism, dass diese Art von Technik neu und unreguliert ist. Es gäbe neue Risiken, die man aktuell nicht mal erahnen könne. Er sagt: Wenn ich jetzt Elternteil wäre, würde ich meinen Kindern keinen Zugang zu einem Chatbot oder einem Teddybären mit integriertem Chatbot gewähren.
Durch den Online-Handel ist es auch ziemlich simpel geworden, ungeprüfte Spielsachen zu kaufen. Zusätzlich dazu sind die KI-Chatbots unvorhersehbar. Hierbei muss aber auch gesagt werden, dass der Kumma-Bär von FoloToy die extremsten Ergebnisse der getesteten KI-Spielzeuge hatte. Auch an anderen Stellen kann die KI eine Bedrohung sein: Chef von ChatGPT sagt: KI wird Jobs, die keine „echte Arbeit“ sind, vernichten
Der Beitrag KI-Teddybär soll der perfekte Begleiter für Kinder sein, macht die schlimmsten Alpträume von Eltern wahr erschien zuerst auf Mein-MMO.