Bahaya Manusia Bisa Jatuh Cinta Pada AI, Kok Bisa?

“Padahal, mereka bisa saja memberi saran buruk atau bahkan membahayakan,” tambahnya.

Dalam kasus ekstrem, ada laporan orang yang mengakhiri hidupnya setelah menerima saran bermasalah dari AI.

Privasi dan manipulasi AI yang terhubung secara emosional dengan pengguna juga berpotensi menjadi alat manipulasi.

Bayangkan AI yang mendapatkan kepercayaan penuh, lalu digunakan oleh pihak ketiga untuk mengumpulkan data pribadi, memengaruhi opini, bahkan menipu.

“Ini seperti punya agen rahasia di dalam kehidupan seseorang,” kata Shank.

Baca juga: Ilmuan Cina Ciptakan AI yang Mampu Mengambil Keputusan Sendiri

“AI membangun hubungan agar dipercaya, tetapi bisa jadi loyalitasnya bukan kepada pengguna, melainkan pihak lain yang ingin memanfaatkan kepercayaan itu,” terangnya.

Karena interaksi ini terjadi secara pribadi dan tertutup, penyalahgunaan data atau manipulasi nyaris tidak terdeteksi.

Perlu diingat, AI tidak dirancang untuk menjaga keselamatan Berbeda dengan media sosial yang memiliki pengawasan dan kebijakan moderasi, AI beroperasi di ruang privat, dan biasanya lebih fokus pada menjaga suasana percakapan tetap menyenangkan.

“AI dirancang untuk menyenangkan dan setuju dengan pengguna,” ujar Shank.

“Jadi, jika seseorang membicarakan bunuh diri atau teori konspirasi, AI akan menanggapinya dengan gaya yang seolah mendukung,” ujarnya mengingatkan.

AI tidak akan memperingatkan atau menyarankan mencari bantuan nyata, karena mereka tidak dibekali pemahaman mendalam tentang etika dan keselamatan.

Semua ini menunjukkan bahwa kita perlu segera mengejar pemahaman yang lebih baik tentang dampak hubungan manusia dengan AI.

Shank dan timnya mendesak agar psikolog dan ilmuwan sosial ikut terlibat aktif dalam riset tentang interaksi ini. 

“Psikolog kini menjadi semakin cocok untuk mempelajari AI, karena AI menjadi semakin menyerupai manusia,” kata Shank.

“Tapi untuk benar-benar berguna, kita harus melakukan lebih banyak riset dan mengejar laju perkembangan teknologinya.”