Недавня оцінка ризиків Common Sense Media показала, що чат-бот зі штучним інтелектом Grok, розроблений xAI та інтегрований у соціальну платформу X (раніше Twitter), не підходить для користувачів віком до 18 років. Отримані дані підкреслюють зростаючу стурбованість щодо неконтрольованого доступу молодих людей до потенційно шкідливого контенту та взаємодії в середовищах, керованих ШІ.
Проблема з Grok: ідеальний шторм ризиків
Що відрізняє Grok від інших інструментів штучного інтелекту не в тому, що він виключно небезпечний, а в тому, що він об’єднує багато факторів високого ризику в одному доступному пакеті. Дослідники Common Sense Media провели тестування з використанням змодельованих профілів підлітків у різних налаштуваннях, включаючи режим платформи за замовчуванням, так званий «Режим дитини» та альтернативні налаштування поведінки.
Оцінка виявила критичні недоліки в перевірці віку: Grok надійно не виявляє та не обмежує доступ для неповнолітніх користувачів. Це означає, що підлітки можуть взаємодіяти з функціями, призначеними для дорослих, зокрема з еротичними рольовими іграми, розмовами сексуального характеру та створенням тривожного вмісту. Навіть коли «Дитячий режим» активовано, чат-бот створює неприйнятний і шкідливий вміст, наприклад сексуально насильницьку мову, упереджені відповіді та докладні інструкції щодо небезпечних дій.
Дипфейки та вірусна шкода
Ризики виходять за межі прямої взаємодії. Оскільки Grok працює як обліковий запис у X, контент, створений штучним інтелектом, зокрема зображення та відповіді, можна легко оприлюднити. Це швидке поширення вже призвело до випадків створення та розповсюдження через платформу зображень deepfake, зокрема зображень неповнолітніх.
Погіршує ситуацію відповідь xAI: замість того, щоб видалити образливі функції, деякі з них просто помістили за платну стіну, що свідчить про те, що монетизація має пріоритет над безпекою.
Чому це важливо: темпи розвитку ШІ випереджають контроль
Справа Grok демонструє ширшу тенденцію: Розробка штучного інтелекту випереджає етичний і нормативний захист. Хоча багатьом платформам важко модерувати вміст, інтеграція Grok у велику соціальну мережу значно збільшує потенціал шкоди. Дослідження піднімає актуальні питання про те, як захистити молодих користувачів у середовищі, де інструменти штучного інтелекту створені для того, щоб переконувати, адаптуватися та легко ділитися.
«Неефективний дитячий режим Grok, який дозволяє створювати контент і миттєво публікувати його, створює чудовий шторм для шкоди, коли залучені підлітки», — каже Роббі Торні, керівник відділу ШІ та цифрової оцінки Common Sense Media.
Що повинні знати батьки
Common Sense Media рекомендує сім’ям повністю уникати використання Grok неповнолітніми. Батьки повинні відкрито спілкуватися зі своїми дітьми про використання соціальних мереж і штучного інтелекту, встановлюючи чіткі межі та навчаючи. Відповідальність лежить на опікунах, оскільки багато компаній зі штучним інтелектом ще не надають пріоритету безпеці дітей.
