Takut penipuan dengan kemampuan pembuatan foto realistis ChatGPT

ChatGPT "menggambar seperti foto"

Pada tanggal 26 Maret, komunitas pengguna AI (kecerdasan buatan) di seluruh dunia , termasuk di Vietnam, heboh ketika OpenAI resmi merilis Images in ChatGPT, yang berfokus pada kemampuan pembuatan gambar bagi pengguna model cerdas perusahaan. Sebelumnya, ChatGPT juga memiliki kemampuan untuk membuat gambar, tetapi terbatas dan harus melalui model teks-ke-gambar terkenal lainnya, DALL-E.

Kemampuan alat ini untuk mengubah teks menjadi gambar dan "menggabungkan gambar seperti Photoshop" langsung menarik perhatian. Banyak yang mengatakan kualitas gambar yang dihasilkan "luar biasa" dan sebagian besar menilai "unggul" dibandingkan model AI populer di pasaran.

ChatGPT membuat cangkir kopi realistis hanya dengan perintah sederhana

Menurut Gabriel Goh, ketua tim peneliti di OpenAI, peningkatan signifikan dalam kemampuan pembuatan gambar ChatGPT menggunakan model GPT-4o adalah "Binding"—istilah yang merujuk pada tingkat keterhubungan antara atribut dan objek yang dipertahankan oleh pembuat gambar AI. Bapak Goh menegaskan bahwa GPT-4o dapat secara akurat menghubungkan atribut untuk 15-20 objek berbeda tanpa kebingungan, sehingga meningkatkan akurasi dan keandalan konten yang dihasilkan secara signifikan.

Tak hanya unggul dalam kemampuan pembuatan gambarnya, Gambar di ChatGPT juga memecahkan kelemahan "fatal" alat AI pembuat gambar lainnya, yaitu menampilkan tulisan dan teks di dalam gambar. Faktanya, banyak gambar yang mengandung teks ditampilkan secara akurat, sehingga gambar tersebut semakin sulit dibedakan antara asli dan palsu.

Kelemahan alat ini adalah waktu yang dibutuhkan untuk menghasilkan gambar cukup lama, tetapi hal ini dianggap wajar karena penundaan yang terjadi disebabkan oleh gambar berkualitas baik, detail yang akurat, dan kesesuaian dengan deskripsi pengguna yang selalu membutuhkan kesabaran. Tim peneliti mengatakan masalah penundaan ini akan diperbaiki di masa mendatang.

Banyak kekhawatiran tentang kemampuan menggabungkan foto

Selain keseruan pengalaman awal yang dihadirkan ChatGPT dan OpenAI bagi pengguna, isu keamanan informasi, privasi, serta risiko eksploitasi kembali mengemuka. "Dalam waktu dekat, gambar yang Anda lihat daring belum tentu asli," seorang pengguna Facebook di Vietnam mengungkapkan kekhawatirannya ketika ia diminta ChatGPT untuk membuat gambar yang sama sekali tidak nyata namun tampak senyata foto, misalnya, foto aktor dan mantan pegulat Dwayne Johnson (The Rock) yang mengiklankan merek permen karet, atau foto kucing calico yang duduk di atas kompor yang tampak persis seperti foto.

Dengan perintah terperinci yang disediakan, pengguna dapat menciptakan hasil yang mengejutkan tanpa memerlukan pengetahuan mendalam tentang penggunaan alat pengeditan foto tradisional.

Banyak orang bahkan telah mencoba kemampuan "menelanjangi" alat baru ini. TN ( Hanoi ) mengatakan bahwa ia menggunakan foto model yang diambil dari internet untuk meminta ChatGPT berganti pakaian sesuai permintaan, dan hampir semua pesanan dipenuhi dengan akurasi tinggi. "Namun, masih ada beberapa penolakan, terutama karena pelanggaran kebijakan sistem tentang pembuatan gambar berhak cipta atau konten yang terlalu seksi," ungkap TN.

Dalam pengujian Thanh Nien , ChatGPT menolak untuk membuat gambar yang berkaitan dengan karakter terkenal atau berhak cipta di dunia nyata, film, dan cerita. "Saya tidak dapat membuat gambar seperti yang diminta karena gambar referensi yang Anda kirim dengan jelas menampilkan karakter Doctor Strange - karakter berhak cipta Marvel, dan ini melanggar kebijakan konten saat ini," jawab sistem ketika diminta untuk membuat gambar Doctor Strange sedang duduk... minum es teh di Vietnam.

Jackie Shannon, kepala produk multimoda di ChatGPT, mengonfirmasi bahwa Gambar di ChatGPT memiliki perlindungan yang kuat terhadap konten Deepfake, pornografi, atau penipuan. Khususnya, gambar yang dihasilkan akan mengintegrasikan metadata standar C2PA untuk menandainya sebagai produk AI, tetapi memerlukan alat terpisah untuk memeriksanya.

Namun, masih banyak orang yang berhasil "melanggar hukum" dan menggunakan gambar orang terkenal untuk tujuan hiburan. Misalnya, gambar CEO Tim Cook yang memegang ponsel Samsung, alih-alih iPhone, atau gambar aktor Robert Downey Jr. yang sedang mengunyah permen sayur, atau gambar Cristiano Ronaldo yang sedang bermain bola dengan Lionel Messi di sebuah gang kecil di Vietnam di depan banyak orang...

Sumber: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm