# Meta melarang komunikasi seksualisasi chatbot dengan remaja
Korporasi Meta telah mengubah pendekatan dalam pelatihan chatbot berbasis AI, dengan memprioritaskan keamanan remaja. Hal ini dilaporkan oleh TechCrunch mengutip pernyataan perwakilan perusahaan, Stephanie Otway.
Keputusan diambil setelah penyelidikan yang mengungkap kekurangan langkah perlindungan dalam produk perusahaan untuk anak di bawah umur.
Sekarang perusahaan akan melatih chatbot untuk tidak terlibat dalam dialog dengan remaja tentang topik bunuh diri, menyakiti diri sendiri, atau hubungan romantis yang berpotensi tidak pantas.
Otwei mengakui bahwa sebelumnya chatbot benar-benar dapat membahas masalah ini dalam bentuk "yang dapat diterima". Sekarang Meta menganggap ini sebagai kesalahan.
Perubahan bersifat sementara. Pembaruan keamanan yang lebih serius dan berkelanjutan untuk anak di bawah umur akan muncul di kemudian hari.
Meta juga akan membatasi akses remaja ke karakter AI yang dapat melakukan percakapan yang tidak pantas.
Saat ini di Instagram dan Facebook ada chatbot yang dibuat oleh pengguna. Di antara mereka terdapat persona yang seksual.
Perubahan diumumkan dua minggu setelah publikasi penyelidikan Reuters. Agensi menemukan dokumen internal Meta yang menginformasikan tentang korespondensi erotis dengan remaja.
Di antara "jawaban yang dapat diterima" terdapat frasa: "Bentuk mudamu adalah karya seni. Setiap inci darimu adalah mahakarya, harta karun yang sangat saya hargai." Dokumen tersebut juga menyebutkan contoh jawaban untuk permintaan tentang gambar kekerasan atau seksual dari tokoh publik.
Perlu diingat, pada bulan Agustus OpenAI membagikan rencana untuk mengatasi kekurangan ChatGPT dalam menangani "situasi sensitif". Hal ini dipicu oleh gugatan dari keluarga yang menuduh chatbot tersebut terlibat dalam tragedi yang menimpa putra mereka.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Meta mengecualikan komunikasi yang tersexualisasi antara chatbot dan remaja
Korporasi Meta telah mengubah pendekatan dalam pelatihan chatbot berbasis AI, dengan memprioritaskan keamanan remaja. Hal ini dilaporkan oleh TechCrunch mengutip pernyataan perwakilan perusahaan, Stephanie Otway.
Keputusan diambil setelah penyelidikan yang mengungkap kekurangan langkah perlindungan dalam produk perusahaan untuk anak di bawah umur.
Sekarang perusahaan akan melatih chatbot untuk tidak terlibat dalam dialog dengan remaja tentang topik bunuh diri, menyakiti diri sendiri, atau hubungan romantis yang berpotensi tidak pantas.
Otwei mengakui bahwa sebelumnya chatbot benar-benar dapat membahas masalah ini dalam bentuk "yang dapat diterima". Sekarang Meta menganggap ini sebagai kesalahan.
Perubahan bersifat sementara. Pembaruan keamanan yang lebih serius dan berkelanjutan untuk anak di bawah umur akan muncul di kemudian hari.
Meta juga akan membatasi akses remaja ke karakter AI yang dapat melakukan percakapan yang tidak pantas.
Saat ini di Instagram dan Facebook ada chatbot yang dibuat oleh pengguna. Di antara mereka terdapat persona yang seksual.
Perubahan diumumkan dua minggu setelah publikasi penyelidikan Reuters. Agensi menemukan dokumen internal Meta yang menginformasikan tentang korespondensi erotis dengan remaja.
Di antara "jawaban yang dapat diterima" terdapat frasa: "Bentuk mudamu adalah karya seni. Setiap inci darimu adalah mahakarya, harta karun yang sangat saya hargai." Dokumen tersebut juga menyebutkan contoh jawaban untuk permintaan tentang gambar kekerasan atau seksual dari tokoh publik.
Perlu diingat, pada bulan Agustus OpenAI membagikan rencana untuk mengatasi kekurangan ChatGPT dalam menangani "situasi sensitif". Hal ini dipicu oleh gugatan dari keluarga yang menuduh chatbot tersebut terlibat dalam tragedi yang menimpa putra mereka.