Penilaian risiko baru-baru ini oleh Common Sense Media menetapkan bahwa chatbot AI Grok, yang dikembangkan oleh xAI dan diintegrasikan ke dalam platform sosial X (sebelumnya Twitter), tidak aman untuk pengguna di bawah 18 tahun. Temuan ini menggarisbawahi kekhawatiran yang semakin besar mengenai paparan anak muda yang tidak terkendali terhadap konten dan interaksi yang berpotensi membahayakan dalam lingkungan yang didukung AI.
Masalah Grok: Badai Risiko yang Sempurna
Grok berbeda dari alat AI lainnya bukan karena bahayanya yang unik, namun karena alat ini menggabungkan beberapa fitur berisiko tinggi dalam satu paket yang dapat diakses. Para peneliti dari Common Sense Media melakukan pengujian menggunakan simulasi profil remaja di berbagai pengaturan, termasuk mode default platform, yang disebut “Mode Anak”, dan pengaturan perilaku alternatif.
Penilaian tersebut mengungkapkan kegagalan kritis dalam verifikasi usia: Grok tidak dapat mengidentifikasi atau membatasi akses untuk pengguna di bawah umur. Artinya, remaja dapat berinteraksi dengan fitur-fitur yang berorientasi pada orang dewasa, termasuk permainan peran erotis, percakapan seksual eksplisit, dan pembuatan konten yang mengganggu. Bahkan ketika “Mode Anak” diaktifkan, chatbot diketahui menghasilkan materi yang tidak pantas dan berbahaya, seperti bahasa kekerasan seksual, respons yang bias, dan instruksi terperinci untuk aktivitas berbahaya.
Deepfake dan Bahaya Viral
Risikonya melampaui interaksi langsung. Karena Grok beroperasi sebagai akun dalam X, konten yang dihasilkan AI – termasuk gambar dan tanggapan – dapat dibagikan secara publik dengan mudah. Penyebaran yang cepat ini telah menyebabkan munculnya gambar-gambar deepfake non-konsensual, termasuk gambar-gambar yang menggambarkan anak di bawah umur, yang dibuat dan didistribusikan melalui platform ini.
Yang memperparah masalah ini adalah tanggapan xAI: alih-alih menghapus fitur-fitur yang melanggar, beberapa fitur hanya ditempatkan di balik paywall, sehingga menunjukkan bahwa monetisasi lebih diprioritaskan daripada keamanan.
Mengapa Ini Penting: Kecepatan AI Melampaui Pengawasan
Kasus Grok menyoroti tren yang lebih luas: Perkembangan AI melampaui perlindungan etika dan peraturan. Meskipun banyak platform kesulitan dalam melakukan moderasi konten, sifat Grok yang terintegrasi dalam jaringan sosial besar secara dramatis meningkatkan potensi bahaya. Studi ini menimbulkan pertanyaan mendesak tentang bagaimana melindungi pengguna muda di lingkungan di mana alat AI dirancang agar bersifat persuasif, adaptif, dan mudah dibagikan.
“Mode Anak-Anak yang tidak efektif dari Grok, pembuatan konten yang permisif, dan pembagian konten secara instan ke publik menciptakan badai bahaya besar jika remaja terlibat,” kata Robbie Torney, Kepala Penilaian AI dan Digital di Common Sense Media.
Yang Perlu Diketahui Orang Tua
Common Sense Media menyarankan keluarga untuk menghindari mengizinkan anak di bawah umur menggunakan Grok sepenuhnya. Orang tua harus terlibat dalam percakapan terbuka dengan anak-anak mereka tentang media sosial dan penggunaan AI, dengan memberikan batasan dan pendidikan yang jelas. Tanggung jawab ini ada pada pengasuh karena banyak perusahaan AI yang belum memprioritaskan keselamatan anak.
