Nedávné hodnocení rizik od Common Sense Media zjistilo, že AI chatbot Grok, vyvinutý společností xAI a integrovaný do sociální platformy X (dříve Twitter), není vhodný pro uživatele mladší 18 let. Zjištění poukazují na rostoucí obavy z nekontrolovaného přístupu mladých lidí k potenciálně škodlivému obsahu a interakcí v prostředích řízených umělou inteligencí.
Problém s Grokem: dokonalá smršť rizik
To, čím se Grok liší od ostatních nástrojů AI, není to, že je jedinečně nebezpečný, ale to, že kombinuje mnoho vysoce rizikových faktorů do jednoho cenově dostupného balíčku. Výzkumníci z Common Sense Media provedli testování pomocí simulovaných profilů teenagerů v různých nastaveních, včetně výchozího režimu platformy, takzvaného „Kid Mode“ a alternativního nastavení chování.
Hodnocení zjistilo kritické nedostatky v ověřování věku: Grok spolehlivě nezjišťuje ani neomezuje přístup nezletilým uživatelům. To znamená, že dospívající mohou interagovat s funkcemi určenými pro dospělé, včetně erotického hraní rolí, sexuálně explicitních konverzací a vytváření znepokojivého obsahu. I když je aktivován „Dětský režim“, chatbot generuje nevhodný a škodlivý obsah, jako jsou sexuálně násilné výrazy, zaujaté odpovědi a podrobné pokyny pro nebezpečné aktivity.
Deepfakes a virové poškození
Rizika přesahují přímé interakce. Protože Grok běží jako účet v X, lze obsah generovaný umělou inteligencí – včetně obrázků a odpovědí – snadno veřejně sdílet. Toto rychlé šíření již vedlo k případům vytváření a distribuce hluboce falešných obrázků, včetně obrázků nezletilých, prostřednictvím platformy.
Ještě horší je reakce xAI: namísto odstranění závadných funkcí byly některé z nich jednoduše umístěny za platební zeď, což naznačuje, že monetizace má přednost před bezpečností.
Proč na tom záleží: Tempo vývoje umělé inteligence předčí kontrolu
Případ Grok ukazuje širší trend: Vývoj umělé inteligence předbíhá etickou a regulační ochranu. Zatímco mnoho platforem se snaží obsah moderovat, integrovaná povaha Groka do velké sociální sítě značně zvyšuje potenciál škod. Studie vyvolává naléhavé otázky, jak chránit mladé uživatele v prostředí, kde jsou nástroje umělé inteligence navrženy tak, aby je přesvědčovaly, přizpůsobovaly a snadno sdílely.
„Neefektivní dětský režim Groku, který umožňuje vytváření obsahu a okamžité veřejné sdílení, vytváří dokonalou smršť škod, když jsou do toho zapojeni teenageři,“ říká Robbie Torney, vedoucí oddělení umělé inteligence a digitálního hodnocení společnosti Common Sense Media.
Co by rodiče měli vědět
Common Sense Media doporučuje, aby se rodiny zcela vyhýbaly používání Groku nezletilými. Rodiče by měli se svými dětmi otevřeně komunikovat o sociálních médiích a používání umělé inteligence, stanovovat jasné hranice a poskytovat vzdělání. Odpovědnost padá na opatrovníky, protože mnoho společností zabývajících se umělou inteligencí zatím neupřednostňuje bezpečnost dětí.
