Makin Mirip Manusia, AI Juga Bisa Berhalusinasi

Jakarta –

Kecerdasan buatan atau Ai (AI) Lebih menjadi sumber mencari informasi Untuk kebanyakan orang. Tindakan ini muncul lantaran perkembangan AI yang Lebih pesat.

Akan Tetapi, Studi yang dilakukan Dari OpenAI menemukan model penalaran terbaru dan terkuatnya, o3 dan o4-mini bisa berhalusinasi. Mereka Memperoleh tingkat halusinasi masing-masing 33% dan 48%. Angka tersebut lebih Untuk dua kali lipat Untuk model o1 yang lama.

Hal ini menimbulkan kekhawatiran atas akurasi dan keandalan model bahasa besar (LLM) seperti chatbot AI, kata anggota Institute of Electrical and Electronics Engineers (IEEE) dan insinyur etika AI Ke Singularity University, Eleanor Watson.

“Ketika sistem Menerbitkan informasi yang dibuat-buat seperti fakta, kutipan, atau peristiwa yang dibuat-buat Di kelancaran dan koherensi yang sama yang digunakannya Sebagai konten yang akurat, sistem tersebut berisiko menyesatkan Pemakai Di cara yang halus dan berdampak,” kata Watson Untuk Live Science.

Seperti Apa Halusinasi Ke AI?

Inti Untuk model penalaran AI adalah ia dapat menangani tugas-tugas kompleks dan menghasilkan solusi Sebagai mengatasinya. Daripada Berusaha Menerbitkan jawaban berdasarkan probabilitas statistik, model penalaran menghasilkan strategi Sebagai memecahkan masalah, seperti halnya cara manusia berpikir.

Sebagai Menyusun solusi yang kreatif, dan Berpeluang Terbaru, AI perlu berhalusinasi. Jika tidak, ia dibatasi Dari data kaku yang diserap Dari LLM.

“Penting Sebagai dicatat bahwa halusinasi adalah fitur, bukan bug, Untuk AI,” kata seorang peneliti AI Ke Vectra AI, Sohrob Kazerounian.

“Mengutip seorang kolega saya, ‘Semua yang dihasilkan LLM adalah halusinasi. Hanya saja beberapa Untuk halusinasi itu benar.’ Jika AI hanya menghasilkan keluaran kata Untuk kata yang telah dilihatnya Di pelatihan, semua AI Akansegera berkurang menjadi masalah pencarian yang sangat besar,” sambungnya.

Sistem AI yang mereka gunakan perlu berhalusinasi Sebagai menciptakan, daripada sekadar menyajikan informasi yang ada. Secara konseptual, hal ini mirip Di cara manusia bermimpi atau membayangkan skenario Pada memunculkan ide-ide Terbaru.

Sisi Negatif Untuk Halusinasi AI

Akan Tetapi, halusinasi AI Memperkenalkan masalah Pada menyampaikan informasi yang akurat dan benar, terutama jika Pemakai Memperoleh informasi tersebut apa adanya tanpa pemeriksaan Di Detail.

“Hal ini khususnya bermasalah Untuk domain Ke mana keputusan bergantung Ke ketepatan fakta, seperti kedokteran, hukum, atau keuangan,” kata Watson.

“Kendati model yang lebih maju dapat Mengurangi frekuensi Kesalahan Individu fakta yang jelas, masalah ini tetap ada Untuk bentuk yang lebih halus. Seiring waktu, konfabulasi mengikis persepsi sistem AI sebagai instrumen yang dapat dipercaya dan dapat menghasilkan kerugian material Pada konten yang tidak diverifikasi ditindaklanjuti,” imbuhnya.

Watson melihat jika masalah ini tampaknya Lebih parah seiring kemajuan AI. Hal ini lantaran seiring peningkatan kemampuan model, Kesalahan Individu sering kali menjadi kurang kentara tetapi lebih sulit dideteksi.

“Pemakai Mungkin Saja tidak Mengetahui adanya Kesalahan Individu dan Mungkin Saja menganggap keluaran sebagai sesuatu yang pasti padahal sebenarnya tidak,” ujarnya.

Situasi Lebih rumit Sebab sangat sulit Sebagai memastikan bagaimana LLM menghasilkan jawaban mereka. Untuk esainya, CEO perusahaan AI Anthropic, Dario Amodei menyoroti kurangnya pemahaman tentang bagaimana AI menghasilkan jawaban dan informasi.

“Ketika sistem AI generatif melakukan sesuatu, seperti meringkas dokumen keuangan, kita tidak Memperoleh ide, Ke tingkat tertentu atau tepat, mengapa ia membuat pilihan tersebut,” tulisnya.

“Itulah sebabnya mengapa AI memilih kata-kata tertentu daripada kata-kata lain, atau mengapa AI terkadang membuat Kesalahan Individu Kendati biasanya akurat,” imbuhnya.

(nir/nah)