Pengguna media sosial mengeluh bahwa generator gambar AI telah menghasilkan gambar tokoh-tokoh sejarah, seperti para pendiri Amerika, sebagai orang kulit berwarna.
Dalam sebuah posting di jejaring sosial X, Google mengatakan fitur AI-nya “digunakan di seluruh dunia ,” tetapi telah menciptakan produk yang “tidak pantas” dan bahwa perusahaan tersebut “segera memperbaiki deskripsi tersebut.”
Untuk saat ini, raksasa pencarian itu akan menghentikan sementara fitur pembuatan gambar manusia Gemini dan merilis ulang versi yang "disempurnakan" sesegera mungkin.
Google meluncurkan generator gambar AI pada bulan Februari melalui platform Gemini AI-nya, sebelumnya Bard, pada saat perusahaan tersebut mencoba mengejar ketertinggalan dari OpenAI — perusahaan rintisan yang memiliki ChatGPT, yang baru saja meluncurkan model generatif baru yang mampu menghasilkan video dari perintah teks pengguna yang disebut Sora minggu lalu.
Sora adalah model AI generatif baru OpenAI yang bekerja serupa dengan generator gambar Dall-E milik perusahaan. Pengguna cukup meminta konten video, dan Sora akan menampilkan klip video berkualitas tinggi. Sora juga dapat menghasilkan video dari gambar diam, meregangkan video, atau mengisi bingkai kosong.
Meskipun disambut baik oleh para penggemar AI, teknologi baru ini juga menimbulkan kekhawatiran serius tentang misinformasi menjelang pemilihan umum politik global. Menurut data dari perusahaan pembelajaran mesin Clarity, jumlah deepfake yang dihasilkan AI telah meningkat 900% dari tahun ke tahun.
Hingga saat ini, raksasa teknologi seperti Meta dan Google memiliki perangkat pembuat video AI, bersama dengan produk dari perusahaan rintisan seperti Stability AI. Amazon juga telah meluncurkan Create with Alexa, sebuah model yang khusus membuat konten animasi berdurasi pendek untuk anak-anak berdasarkan perintah.
(Menurut CNBC)
[iklan_2]
Sumber
Komentar (0)