Instagram akan meluncurkan fitur keamanan baru untuk remaja, termasuk kemampuan bagi orang tua untuk mencegah anak-anak mereka mengobrol dengan karakter AI platform tersebut, perusahaan induk Meta mengumumkan pada hari Jumat . Ini adalah salah satu dari beberapa fitur keamanan baru dari Meta dan OpenAI yang dirancang untuk mengatasi kekhawatiran yang berkembang tentang bagaimana AI dapat memengaruhi kesehatan mental remaja.
Orang tua dapat menonaktifkan akses remaja ke obrolan individual dengan karakter AI atau memblokir akses ke karakter tertentu, ungkap raksasa media sosial tersebut dalam sebuah postingan blog. Aplikasi ini juga akan menampilkan informasi kepada orang tua tentang topik yang sedang dibicarakan remaja dengan karakter AI. Perusahaan tersebut menyatakan sedang mengembangkan kontrolnya dan pengguna akan mulai melihatnya awal tahun depan.
Langkah ini diambil setelah Meta dan industri teknologi secara luas bergulat dengan kritik dari para orang tua dan pembuat undang-undang bahwa platform daring tidak melakukan upaya yang cukup untuk melindungi anak-anak daring.
Kekhawatiran juga muncul mengenai apakah orang-orang mengandalkan AI untuk dukungan emosional dan persahabatan. Gelombang laporan tahun ini menunjukkan bahwa beberapa orang mengalami tekanan emosional dan mengisolasi diri dari anggota keluarga setelah menjalin hubungan dekat dengan chatbot seperti ChatGPT.
Beberapa gugatan hukum telah diajukan terhadap perusahaan di balik Character.AI , aplikasi populer lainnya untuk mengobrol dengan persona AI, atas tuduhan bahwa platform tersebut berperan dalam perilaku menyakiti diri sendiri dan bunuh diri di kalangan remaja. Gugatan hukum juga diajukan terhadap OpenAI pada bulan Agustus atas tuduhan bahwa ChatGPT berkontribusi pada bunuh diri Adam Raine yang berusia 16 tahun. Investigasi Wall Street Journal pada bulan April menemukan bahwa chatbot Meta dan chatbot AI lainnya di platformnya terlibat dalam percakapan seksual bahkan dengan akun yang mengidentifikasi diri sebagai anak di bawah umur.
Meta menyatakan bahwa karakter AI-nya “dirancang untuk tidak terlibat” dalam percakapan dengan remaja tentang “melukai diri sendiri, bunuh diri, atau gangguan makan” atau topik-topik yang “mendorong, mempromosikan, atau mendukung” topik-topik tersebut. Remaja juga hanya dapat mengobrol dengan karakter AI tertentu yang terkait dengan konten seperti pendidikan dan olahraga, demikian menurut postingan blog tersebut.
Kontrol orang tua baru Instagram mengikuti pembaruan lain yang baru-baru ini dilakukan perusahaan untuk melindungi remaja dengan lebih baik. Awal pekan ini, Instagram menyesuaikan pengaturan “Akun Remaja” agar sesuai dengan peringkat PG-13 , yang berarti tidak akan menampilkan atau mempromosikan unggahan yang mengandung bahasa kasar atau yang dapat mendorong “perilaku berbahaya”. Pada akhir September, OpenAI mengumumkan kontrol orang tua untuk ChatGPT yang mengurangi “konten grafis, tantangan viral, roleplay seksual, romantis, atau kekerasan, dan standar kecantikan yang ekstrem.”
Leave a Reply