Meta diselidiki atas AI yang memiliki obrolan 'sensual' dengan anak -anak

Seorang senator AS membuka penyelidikan ke meta setelah dokumen yang bocor dilaporkan menunjukkan kecerdasan buatan raksasa teknologi (AI) diizinkan untuk mengobrol “sensual” dan “romantis” dengan anak -anak.

Dokumen internal, yang diperoleh oleh Reuters, dilaporkan berjudul “Genai: Standar Risiko Konten”.

Senator Partai Republik Josh Hawley menyebut dokumen itu “tercela dan keterlaluan” dan telah meminta untuk melihat dokumen di samping daftar produk yang berkaitan dengan itu.

Seorang juru bicara meta mengatakan kepada BBC: “Contoh dan catatan yang dimaksud adalah dan salah dan tidak konsisten dengan kebijakan kami, dan telah dihapus.”

Mereka mengatakan raksasa teknologi itu memiliki “kebijakan yang jelas” tentang tanggapan apa yang dapat ditawarkan oleh chatbots AI -nya, dan mengatakan kebijakannya “melarang konten yang melakukan seksual anak -anak dan permainan peran seksual antara orang dewasa dan anak di bawah umur”.

“Terpisah dari kebijakan, ada ratusan contoh, catatan, dan anotasi yang mencerminkan tim yang bergulat dengan skenario hipotetis yang berbeda,” kata mereka.

Senator Josh Hawley, seorang Republikan dari Missouri, mengumumkan bahwa ia sedang menyelidiki meta di sebuah pos pada X pada 15 Agustus.

“Apakah ada apa pun – apa pun – teknologi besar tidak akan melakukan untuk uang cepat,” katanya.

“Sekarang kita belajar chatbot meta diprogram untuk melanjutkan pembicaraan eksplisit dan” sensual “dengan anak -anak berusia 8 tahun. Sakit. Saya meluncurkan penyelidikan penuh untuk mendapatkan jawaban. Teknologi besar: Tinggalkan anak -anak kita sendirian.”

Facebook, WhatsApp, dan Instagram semuanya dimiliki oleh Meta.

Dokumen kebijakan meta platform internal juga mengatakan chatbot raksasa media sosial dapat memberikan informasi medis palsu dan memiliki interaksi provokatif seputar topik termasuk seks, ras, dan selebriti.

Dokumen ini dikatakan telah dimaksudkan untuk membahas standar yang akan memandu asisten generatif AI raksasa teknologi, Meta AI, dan chatbots lain yang tersedia di platform media sosial milik meta.

“Orang tua pantas mendapatkan kebenaran, dan anak -anak pantas mendapatkan perlindungan,” tulis Hawley dalam surat yang ditujukan kepada meta dan kepala eksekutif Mark Zuckerberg.

“Untuk mengambil satu contoh, aturan internal Anda konon mengizinkan al chatbot untuk berkomentar bahwa tubuh seorang anak berusia delapan tahun adalah 'sebuah karya seni' yang 'setiap inci … adalah sebuah mahakarya-harta karun yang sangat saya hargai secara mendalam'.”

Reuters juga melaporkan keputusan kontroversial lain yang katanya dianggap dapat diterima oleh departemen hukum Meta.

Ini termasuk klaim bahwa Meta AI diizinkan untuk menyebarkan informasi palsu tentang selebriti, selama itu memberikan penafian yang mengatakan informasi yang diberikan tidak akurat.