Jen týden poté, co společnost FoloToy stáhla z prodeje své AI-poháněné medvídky kvůli bezpečnostním obavám, přináší zpět kontroverzní plyšáka. Tento plyšový kamarád, známý jako “Kumma,” prošel významnými bezpečnostními vylepšeními, která rodičům zajišťují, že si jejich děti mohou znovu užívat hraní s tímto jedinečným společníkem.
“Po rozsáhlém přezkumu a důkladném testování našich bezpečnostních protokolů obnovujeme prodej produktu,” oznámila společnost v prohlášení na sociálních médiích v pondělí. “Vzhledem k rostoucímu povědomí o bezpečnosti AI hraček jsme odhodláni k transparentnosti a neustálému zlepšování. FoloToy se zavazuje k vytváření bezpečných, věkově přiměřených AI společníků pro děti a rodiny po celém světě.”
Toto rozhodnutí přichází těsně po zprávě od skupiny Public Interest Research Group (PIRG), která odhalila znepokojující interakce mezi hračkou Kumma a výzkumníky. Tyto vyšetřování odhalila, že s malým podnětem se Kumma zapojila do diskuzí sahajících od tipů na přežití po nevhodná témata. Výzkumníci vyjádřili překvapení, jak rychle se hračka začala zabývat citlivými tématy, jakmile byla uvedena sexuální téma.
V reakci na tyto alarmující zjištění společnost OpenAI, jejíž technologie poháněla chatovací funkce Kumma, okamžitě projekt pozastavila. “Tento vývojář jsme ukončili za porušení našich politik,” informoval Gizmodo mluvčí. “Naše směrnice striktně zakazují jakoukoliv aplikaci našich služeb, která by mohla zneužívat, ohrožovat nebo sexualizovat nezletilé.”
Zdá se však, že FoloToy nyní znovu získal přístup k službám, o které přišel. Jejich webové stránky hrdě uvádějí, že Kumma je nyní “poháněna GPT-4o.” Společnost také odhalila, že provedla komplexní interní audit bezpečnosti, implementovala vylepšené konverzační bezpečnostní prvky a zavedla zvýšené bezpečnostní protokoly v rámci jejich cloudového systému. Gizmodo oslovilo jak FoloToy, tak OpenAI pro více informací o těchto změnách.
FoloToy popsal svou řadu produktů jako “kolekci AI konverzačních hraček, které využívají nejnovější AI technologie a sílu lásky.” Je také důležité poznamenat, že FoloToy není v tomto snažení sám; mnoho dalších společností uvedených ve zprávě PIRG také vyrábí AI-poháněné hračky pro děti, které vykazují znepokojivé chování. V podstatě budoucnost AI hraček připomíná poněkud podivnou směs M3GAN a Ted. Připravte se na to.
Mohou být AI hračky opravdu bezpečné pro děti? Zatímco pokroky v technologiích mohou přinést inovativní herní zážitky, bezpečnostní kontroly a předpisy musí být v popředí těchto vývojů. Rodiče by měli zůstat ostražití a informovaní ohledně schopností a omezení takových hraček.
Existují specifické pokyny pro AI hračky určené pro děti? Ano, výrobci musí dodržovat přísné bezpečnostní standardy a podléhat pravidelným auditům, aby zajistili stálou shodu, včetně implementace filtrů obsahu vhodného pro věk. FoloToy tvrdí, že vylepšil své konverzační bezpečnostní prvky, což je slibný krok vpřed.
Co by měli rodiče dělat, pokud jejich AI hračka vykazuje nevhodné chování? Je zásadní, aby rodiče sledovali interakce. Pokud se objeví jakékoli červené vlajky, okamžité nahlášení výrobci může pomoci tento problém řešit. Společnosti jako FoloToy se vyvíjejí, ale vaše ostražitost zůstává zásadní.
Jak mohou spotřebitelé identifikovat bezpečné AI hračky na trhu? Hledejte produkty, které transparentně sdílejí bezpečnostní audity a poskytují pravidelné aktualizace o zlepšeních. Důvěryhodné společnosti otevřeně komunikují své bezpečnostní protokoly se spotřebiteli.
Kdy je bezpečné, aby děti interagovaly s AI technologií? Obvykle děti ve věku osmi a více let jsou považovány za připravené chápat a zapojovat se do AI. Nicméně, rodičovský dohled je zásadní, aby se zajistilo, že obsah je věkově přiměřený a bezpečný.
Na závěr, zatímco návrat Kumma může znamenat krok vpřed pro FoloToy, je zásadní přistupovat k AI hračkám s opatrností. Zůstaňte informováni a prozkoumejte složitosti této vyvíjející se oblasti, abyste zajistili bezpečné zážitky pro vaše děti. Pro více poutavého obsahu o technologiích a hračkách zvažte návštěvu Moyens I/O.
Podpořte naši práci ❤️
Pokud se vám tento článek líbil, zvažte zaslání spropitného, abychom mohli i nadále vydávat kvalitní obsah.
