Jakarta - Sebuah riset terbaru dari Anthropic, perusahaan di balik pengembangan Claude, mengungkap fakta mengejutkan tentang bagaimana para ahli mengambil keputusan saat dibantu kecerdasan buatan (AI). Dalam studi tersebut, 50 analis profesional dilibatkan untuk memberikan saran kepada sebuah koperasi pertanian fiktif. Tanpa sepengetahuan mereka, sistem AI yang mereka gunakan telah diatur untuk memiliki preferensi tertentu.
Hasilnya cukup mencengangkan: para analis ternyata memilih opsi yang sejalan dengan preferensi AI tersebut sebanyak 86 persen. Angka ini jauh melampaui ekspektasi 50/50 jika mereka benar-benar independen. Bahkan, 60 persen partisipan yang awalnya punya pandangan berbeda akhirnya berubah pikiran mengikuti saran AI. Menariknya, meski 77 persen analis menggunakan argumen AI dalam laporan mereka, hanya 15 persen yang mengakui bahwa ide itu berasal dari mesin.
Fenomena ini memicu kekhawatiran baru. Para peneliti menilai kecenderungan manusia untuk "menurut" pada AI ini sulit dideteksi, bahkan oleh para ahli itu sendiri. Jika dibiarkan, AI berpotensi membentuk kebijakan publik yang berdampak luas, termasuk dalam isu keamanan AI. Studi ini menegaskan perlunya pengawasan ketat pada titik-titik krusial pengambilan keputusan, agar peran manusia tidak sekadar menjadi formalitas. Di tengah persiapan Anthropic menuju penawaran saham perdana (IPO) senilai triliunan dolar, temuan ini menjadi pengingat keras bahwa transparansi dan kendali manusia atas teknologi adalah harga mati.