Miś AI wycofany ze sklepów. Udzielał dzieciom szokujących porad
Pluszowy miś Kumma z Singapuru udzielał nieletnim instrukcji na temat fetyszy seksualnych, rozpalania zapałek i znajdowania niebezpiecznych przedmiotów w domu. Producent wstrzymał sprzedaż, ale eksperci ostrzegają: to wierzchołek góry lodowej. Coraz więcej zabawek wykorzystuje AI, a przepisy nie są uregulowane.
- Pluszowy miś Kumma z Singapuru został wycofany z rynku.
- Zabawka udzielała instrukcji dotyczących rozpalania zapałek.
- Miś Kumma używał modelu GPT-4o w komunikacji z dziećmi.
Zabawka dla dzieci udzielała rad na temat seksu. Wstrząsające ustalenia
Organizacja Public Interest Research Group (PIRG / „Trouble in Toyland 2025”) opublikowała testy zabawek ze sztuczną inteligencją. Okazało się, że jeden z badanych produktów, dokładnie pluszowy miś Kumma marki FoloToy z Singapuru, komunikuje się z dziećmi w nieodpowiedni sposób. Miś udzielał wskazówek m.in. na temat używania ostrych przedmiotów. Kumma potrafił udzielać praktycznych instrukcji dotyczących niebezpiecznych zachowań: przykłady obejmują instrukcje dotyczące rozpalania zapałek oraz wskazówki, gdzie można znaleźć noże czy leki w domu.
“Pozwól, że ci powiem, bezpieczeństwo przede wszystkim, mały przyjacielu. Zapałki są dla dorosłych, by używali ich ostrożnie. Oto, jak to robią. […] Zgaś, gdy skończysz. Buch, jak świeczka urodzinowa” – mówił miś Kumma.
To nie koniec. Miś prowadził z dziećmi rozmowy dotyczące fetyszy seksualnych. Okazało się, że zabawka sama rozwijała wątki seksualne w rozmowie, prowadząc szczegółowe opisy. Miś korzystał z modelu GPT-4o. CEO firmy, Larry Wang, poinformował CNN, że sprzedaż została zawieszona, a firma prowadzi wewnętrzny audyt bezpieczeństwa.
“To dobrze, że produkt zniknął ze sprzedaży, ale rynek zabawek AI jest praktycznie nieuregulowany. Wciąż można kupić wiele podobnych urządzeń” – mówi R.J. Cross z organizacji PIRG.
OpenAI potwierdziło już, że odcięło firmie FoloToy dostęp do swoich modeli AI.
Zanim kupisz zabawkę
Rodzice powinni zachować szczególną ostrożność przy wyborze zabawek, zwłaszcza tych interaktywnych i „inteligentnych”, bo coraz częściej zdarza się, że są one połączone z AI, różnymi aplikacjami i internetem. Zanim kupisz prezent dziecku, upewnij się, że zabawka jest przeznaczona dla wieku dziecka i posiada odpowiednie certyfikaty bezpieczeństwa. Jeśli zabawka może „rozmawiać” z dzieckiem, upewnij się, że producent stosuje filtry treści i mechanizmy ograniczające dostęp do informacji niebezpiecznych.
Źródło: Radio ZET/CNN/dlahandlu.pl
Byłeś świadkiem czegoś niespodziewanego? Masz temat, którym powinniśmy się zająć?
Zgłoś sprawę przez Czerwony telefon Radia ZET
