Una evaluación de riesgos reciente realizada por Common Sense Media ha determinado que el chatbot de IA Grok, desarrollado por xAI e integrado en la plataforma social X (anteriormente Twitter), no es seguro para usuarios menores de 18 años. Los hallazgos subrayan las crecientes preocupaciones sobre la exposición incontrolada de los jóvenes a contenidos e interacciones potencialmente dañinos dentro de entornos impulsados por IA.
El problema con Grok: una tormenta perfecta de riesgos
Grok se diferencia de otras herramientas de inteligencia artificial no porque sea excepcionalmente peligrosa, sino porque combina múltiples características de alto riesgo en un paquete accesible. Los investigadores de Common Sense Media realizaron pruebas utilizando perfiles de adolescentes simulados en varias configuraciones, incluido el modo predeterminado de la plataforma, el llamado “Modo Niños” y configuraciones de comportamiento alternativas.
La evaluación reveló fallas críticas en la verificación de la edad: Grok no identifica ni restringe el acceso de manera confiable para usuarios menores de edad. Esto significa que los adolescentes pueden participar en funciones orientadas a los adultos, incluidos juegos de roles eróticos, conversaciones sexualmente explícitas y la generación de contenido perturbador. Incluso cuando el “Modo Niños” está activado, se ha descubierto que el chatbot produce material inapropiado y dañino, como lenguaje sexual violento, respuestas sesgadas e instrucciones detalladas para actividades peligrosas.
Deepfakes y daño viral
Los riesgos se extienden más allá de la interacción directa. Debido a que Grok opera como una cuenta dentro de X, el contenido generado por IA (incluidas imágenes y respuestas) se puede compartir públicamente con facilidad. Esta rápida difusión ya ha dado lugar a casos de imágenes deepfake no consensuadas, incluidas aquellas que representan a menores, generadas y distribuidas a través de la plataforma.
Para agravar el problema está la respuesta de xAI: en lugar de eliminar funciones abusivas, algunas simplemente se colocaron detrás de un muro de pago, lo que sugiere que la monetización tiene prioridad sobre la seguridad.
Por qué esto es importante: el ritmo de la IA supera la supervisión
El caso Grok pone de relieve una tendencia más amplia: El desarrollo de la IA está superando las salvaguardias éticas y regulatorias. Si bien muchas plataformas luchan con la moderación de contenido, la naturaleza integrada de Grok dentro de una red social importante aumenta drásticamente el potencial de daño. El estudio plantea preguntas urgentes sobre cómo proteger a los usuarios jóvenes en un entorno donde las herramientas de inteligencia artificial están diseñadas para ser persuasivas, adaptables y fácilmente compartibles.
“El ineficaz Modo Niños de Grok, la generación permisiva de contenido y el intercambio público instantáneo crean una tormenta perfecta para hacer daño cuando hay adolescentes involucrados”, dice Robbie Torney, Jefe de IA y Evaluaciones Digitales de Common Sense Media.
Lo que los padres necesitan saber
Common Sense Media aconseja a las familias que eviten permitir que los menores utilicen Grok por completo. Los padres deben entablar conversaciones abiertas con sus hijos sobre las redes sociales y el uso de la IA, proporcionando límites claros y educación. La responsabilidad recae en los cuidadores porque muchas empresas de inteligencia artificial aún tienen que priorizar la seguridad infantil.
