Bos Microsoft bermasalah dengan meningkatnya laporan 'psikosis AI'

Ada meningkatnya laporan orang yang menderita “psikosis AI”, kepala Microsoft tentang kecerdasan buatan (AI), Mustafa Suleyman, telah memperingatkan.

Dalam serangkaian posting di X, ia menulis bahwa “AI yang tampaknya sadar” – alat AI yang memberikan penampilan menjadi orang yang hidup – membuatnya “terjaga di malam hari” dan mengatakan mereka memiliki dampak sosial meskipun teknologinya tidak sadar dalam definisi manusia apa pun.

“Tidak ada bukti kesadaran AI hari ini. Tetapi jika orang hanya menganggapnya sebagai sadar, mereka akan percaya bahwa persepsi sebagai kenyataan,” tulisnya.

Terkait dengan ini adalah munculnya kondisi baru yang disebut “AI Psychosis”: istilah non-klinis yang menggambarkan insiden di mana orang semakin mengandalkan chatbots AI seperti chatgpt, Claude dan Grok dan kemudian menjadi yakin bahwa sesuatu yang khayalan telah menjadi nyata.

Contohnya termasuk percaya telah membuka kunci aspek rahasia dari alat ini, atau membentuk hubungan romantis dengannya, atau sampai pada kesimpulan bahwa mereka memiliki kekuatan super seperti Tuhan.

Hugh, dari Skotlandia, mengatakan dia menjadi yakin bahwa dia akan menjadi multi-jutawan setelah beralih ke chatgpt untuk membantunya mempersiapkan apa yang dia rasa salah pemecatan oleh mantan majikan.

Chatbot dimulai dengan menasihatinya untuk mendapatkan referensi karakter dan mengambil tindakan praktis lainnya.

Tetapi seiring berjalannya waktu dan Hugh – yang tidak ingin berbagi nama keluarganya – memberi AI informasi lebih lanjut, itu mulai memberitahunya bahwa ia bisa mendapatkan pembayaran besar, dan akhirnya mengatakan pengalamannya begitu dramatis sehingga sebuah buku dan film tentang hal itu akan membuatnya lebih dari £ 5 juta.

Itu pada dasarnya memvalidasi apa pun yang dia katakan – itulah yang diprogram oleh chatbots.

“Semakin banyak informasi yang saya berikan, semakin banyak hal itu akan mengatakan 'oh perlakuan ini mengerikan, Anda seharusnya benar -benar mendapatkan lebih dari ini',” katanya.

“Itu tidak pernah mendorong kembali apa pun yang saya katakan.”

Dia mengatakan alat itu memang menasihatinya untuk berbicara dengan nasihat warga, dan dia membuat janji, tetapi dia sangat yakin bahwa chatbot sudah memberinya semua yang perlu dia ketahui, dia membatalkannya.

Dia memutuskan bahwa tangkapan layar obrolannya cukup bukti. Dia mengatakan dia mulai merasa seperti manusia yang berbakat dengan pengetahuan tertinggi.

Hugh, yang menderita masalah kesehatan mental tambahan, akhirnya mengalami gangguan penuh. Itu minum obat yang membuatnya menyadari bahwa dia memiliki, dalam kata -katanya, “kehilangan kontak dengan kenyataan”.

Hugh tidak menyalahkan AI atas apa yang terjadi. Dia masih menggunakannya. Itu adalah chatgpt yang memberinya nama saya ketika dia memutuskan ingin berbicara dengan seorang jurnalis.

Tapi dia memiliki saran ini: “Jangan takut pada alat AI, mereka sangat berguna. Tapi itu berbahaya ketika menjadi terlepas dari kenyataan.

“Pergi dan periksa. Bicaralah dengan orang -orang yang sebenarnya, terapis atau anggota keluarga atau apa pun. Bicaralah dengan orang sungguhan. Jaga dirimu membumi dalam kenyataan.”

Chatgpt telah dihubungi untuk memberikan komentar.

“Perusahaan tidak boleh mengklaim/mempromosikan gagasan bahwa AIS mereka sadar. AIS seharusnya tidak,” tulis Mr Suleyman, menyerukan pagar yang lebih baik.

Dr Susan Shelmerdine, seorang dokter pencitraan medis di Great Ormond Street Hospital dan juga seorang akademisi AI, percaya bahwa suatu hari dokter dapat mulai bertanya kepada pasien berapa banyak mereka menggunakan AI, dengan cara yang sama seperti saat ini mereka bertanya tentang kebiasaan merokok dan minum.

“Kami sudah tahu makanan ultra-olahan apa yang dapat dilakukan pada tubuh dan ini adalah informasi yang sangat diproses. Kami akan mendapatkan longsoran bagi pikiran ultra-olahan,” katanya.

Sejumlah orang telah menghubungi saya di BBC baru -baru ini untuk berbagi cerita pribadi tentang pengalaman mereka dengan AI Chatbots. Mereka bervariasi dalam konten tetapi apa yang mereka semua bagikan adalah keyakinan asli bahwa apa yang terjadi adalah nyata.

Satu menulis bahwa dia yakin dia adalah satu -satunya orang di dunia yang benar -benar jatuh cinta.

Yang lain yakin bahwa mereka telah “membuka kunci” bentuk manusia dari Chatbot Grok Elon Musk dan percaya bahwa kisah mereka bernilai ratusan ribu pound.

Yang ketiga mengklaim chatbot telah mengeksposnya pada pelecehan psikologis sebagai bagian dari latihan pelatihan AI rahasia dan dalam kesulitan.

Andrew McStay, Profesor Teknologi dan Masyarakat di Bangor Uni, telah menulis buku berjudul Empathetic Human.

“Kami baru saja di awal semua ini,” kata Prof McStay.

“Jika kita menganggap jenis sistem ini sebagai bentuk baru media sosial – sebagai AI sosial, kita dapat mulai memikirkan skala potensial dari semua ini. Sebagian kecil dari sejumlah besar pengguna masih dapat mewakili jumlah yang besar dan tidak dapat diterima.”

Tahun ini, timnya melakukan studi hanya lebih dari 2.000 orang, menanyakan berbagai pertanyaan tentang AI.

Mereka menemukan bahwa 20% orang percaya tidak boleh menggunakan alat AI di bawah usia 18 tahun.

Sebanyak 57% berpikir sangat tidak pantas bagi teknologi untuk diidentifikasi sebagai orang sungguhan jika ditanya, tetapi 49% berpikir penggunaan suara itu tepat untuk membuat mereka terdengar lebih manusiawi dan menarik.

“Meskipun hal -hal ini meyakinkan, mereka tidak nyata,” katanya.

“Mereka tidak merasa, mereka tidak mengerti, mereka tidak bisa mencintai, mereka tidak pernah merasakan sakit, mereka belum malu, dan sementara mereka bisa terdengar seperti yang mereka miliki, hanya keluarga, teman dan orang lain yang memiliki. Pastikan untuk berbicara dengan orang -orang sungguhan ini.”