Alat AI Ucapan-ke-Teks OpenAI Ketahuan Membuat Cerita

Raksasa teknologi OpenAI telah menggembar-gemborkan alat pengubah ucapan menjadi teks miliknya, Whisper, sebagai AI dengan "akurasi dan ketahanan seperti manusia." Namun, Whisper memiliki satu kelemahan utama: ia menghasilkan teks dan kalimat yang sepenuhnya palsu.

Beberapa teks yang dihasilkan AI — disebut “halusinasi” — dapat mencakup komentar rasial, bahasa kekerasan, dan bahkan perawatan medis imajiner — Foto: AP

Beberapa teks yang dihasilkan AI tidak nyata, disebut "halusinasi," menurut AP, dan mencakup komentar rasial, bahasa kekerasan, dan bahkan perawatan medis imajiner.

Tingkat "ilusi" yang tinggi dalam teks yang dihasilkan AI

Para ahli khususnya prihatin karena Whisper digunakan secara luas di banyak industri di seluruh dunia untuk menerjemahkan dan menyalin wawancara, menghasilkan teks dalam teknologi konsumen populer, dan membuat subtitle untuk video.

Yang lebih mengkhawatirkan, banyak pusat medis menggunakan Whisper untuk mentransfer konsultasi antara dokter dan pasien, meskipun OpenAI telah memperingatkan bahwa alat tersebut tidak boleh digunakan di area “berisiko tinggi”.

Sulit untuk menentukan seberapa parah masalahnya, tetapi para peneliti dan teknisi mengatakan mereka sering menemui "halusinasi" Whisper dalam pekerjaan mereka.

Seorang peneliti di Universitas Michigan mengatakan ia menemukan "halusinasi" dalam delapan dari sepuluh transkripsi audio yang ia periksa. Seorang insinyur komputer menemukan "halusinasi" dalam sekitar setengah dari transkripsi audio berdurasi lebih dari 100 jam yang ia analisis. Pengembang lain mengatakan ia menemukan "halusinasi" dalam hampir semua dari 26.000 rekaman yang ia buat menggunakan Whisper.

Masalah ini tetap ada bahkan dengan sampel audio pendek yang direkam dengan jelas. Sebuah studi terbaru oleh para ilmuwan komputer menemukan 187 "ilusi" dalam lebih dari 13.000 klip audio jernih yang mereka periksa. Tren ini akan menyebabkan puluhan ribu transkripsi palsu dalam jutaan rekaman, kata para peneliti.

Kesalahan semacam itu dapat menimbulkan "konsekuensi yang sangat serius," terutama di lingkungan rumah sakit, menurut Alondra Nelson, yang mengepalai Kantor Sains dan Teknologi Gedung Putih di pemerintahan Biden hingga tahun lalu.

"Tidak ada yang menginginkan kesalahan diagnosis," kata Nelson, yang kini menjadi profesor di Institute for Advanced Study di Princeton, New Jersey. "Perlu ada standar yang lebih tinggi."

Bisikan juga digunakan untuk membuat teks bagi tuna rungu dan tuna rungu—populasi yang sangat rentan terhadap kesalahan penerjemahan. Hal ini karena tuna rungu dan tuna rungu tidak memiliki cara untuk mengidentifikasi bagian-bagian yang direkayasa "yang tersembunyi di dalam teks lainnya," kata Christian Vogler, seorang tuna rungu dan direktur Program Aksesibilitas Teknologi di Universitas Gallaudet.

OpenAI dipanggil untuk memecahkan masalah tersebut

Maraknya "halusinasi" semacam itu telah mendorong para ahli, advokat, dan mantan karyawan OpenAI untuk mendesak pemerintah federal mempertimbangkan regulasi AI. Setidaknya, OpenAI perlu mengatasi kelemahan ini.

“Masalah ini dapat dipecahkan jika perusahaan bersedia memprioritaskannya,” kata William Saunders, seorang insinyur riset di San Francisco yang meninggalkan OpenAI pada bulan Februari karena kekhawatiran tentang arah perusahaan.

"Ini masalah jika Anda merilisnya dan orang-orang menjadi begitu yakin tentang apa yang dapat dilakukannya sehingga mereka mengintegrasikannya ke dalam semua sistem lain," kata seorang juru bicara OpenAI. Perusahaan terus berupaya untuk mengurangi "ilusi" ini dan menghargai temuan para peneliti, seraya menambahkan bahwa OpenAI memasukkan umpan balik ke dalam pembaruan model.

Sementara sebagian besar pengembang berasumsi bahwa mesin text-to-speech dapat membuat kesalahan ketik atau kesalahan lainnya, para insinyur dan peneliti mengatakan bahwa mereka belum pernah melihat mesin text-to-speech bertenaga AI yang "berhalusinasi" sebanyak Whisper.

Source: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm