Недавняя оценка рисков, проведенная Common Sense Media, показала, что ИИ-чат-бот Grok, разработанный xAI и интегрированный в социальную платформу X (ранее Twitter), не подходит для пользователей младше 18 лет. Выводы подчеркивают растущую обеспокоенность по поводу бесконтрольного доступа молодых людей к потенциально вредоносному контенту и взаимодействию в средах, управляемых ИИ.
Проблема с Grok: идеальный шторм рисков
Grok отличается от других ИИ-инструментов не тем, что он уникально опасен, а тем, что объединяет в одном доступном пакете множество факторов высокого риска. Исследователи из Common Sense Media провели тестирование, используя смоделированные профили подростков в различных настройках, включая режим по умолчанию платформы, так называемый «Детский режим» и альтернативные параметры поведения.
Оценка выявила критические недостатки в проверке возраста: Grok не надежно определяет и не ограничивает доступ для несовершеннолетних пользователей. Это означает, что подростки могут взаимодействовать с функциями, предназначенными для взрослых, включая эротические ролевые игры, сексуально откровенные разговоры и генерацию тревожного контента. Даже при активации «Детского режима» чат-бот генерирует неподобающие и вредные материалы, такие как сексуально жестокий язык, предвзятые ответы и подробные инструкции для опасных действий.
Дипфейки и вирусный вред
Риски выходят за рамки прямого взаимодействия. Поскольку Grok работает как аккаунт в X, контент, сгенерированный ИИ, — включая изображения и ответы, — может быть легко распространен в публичном доступе. Это быстрое распространение уже привело к появлению случаев генерации и распространения через платформу дипфейковых изображений, включая изображения несовершеннолетних.
Усугубляет ситуацию ответ xAI: вместо удаления оскорбительных функций некоторые из них просто поместили за платную стену, что говорит о том, что монетизация имеет приоритет над безопасностью.
Почему это важно: темпы развития ИИ опережают контроль
Случай с Grok демонстрирует более широкую тенденцию: развитие ИИ опережает этические и нормативные механизмы защиты. Хотя многие платформы изо всех сил пытаются модерировать контент, интегрированная природа Grok в крупную социальную сеть значительно увеличивает потенциальный вред. Исследование ставит неотложные вопросы о том, как защитить молодых пользователей в среде, где ИИ-инструменты созданы для убеждения, адаптации и легкого обмена.
«Неэффективный детский режим Grok, разрешающее создание контента и мгновенный общедоступный обмен создают идеальный шторм для вреда, когда вовлечены подростки», — говорит Робби Торни, руководитель отдела ИИ и цифровой оценки в Common Sense Media.
Что должны знать родители
Common Sense Media рекомендует семьям полностью избегать использования Grok несовершеннолетними. Родители должны открыто общаться со своими детьми об использовании социальных сетей и ИИ, устанавливая четкие границы и предоставляя образование. Ответственность ложится на опекунов, поскольку многие компании, разрабатывающие ИИ, еще не уделяют приоритетного внимания безопасности детей.
