Para pembuat undang-undang akan terus membahas peraturan terperinci dalam beberapa minggu mendatang dengan tujuan menyelesaikan prosesnya awal tahun depan, dengan rencana untuk diterapkan mulai tahun 2026.

Hingga saat itu, perusahaan didorong untuk mendaftar pada Pakta AI sukarela untuk memenuhi kewajiban utama peraturan tersebut.

Berikut ini adalah isi utama perjanjian yang disetujui oleh UE.

Sistem berisiko tinggi

Sistem AI yang disebut berisiko tinggi – sistem yang dianggap mungkin menyebabkan kerugian signifikan terhadap kesehatan, keselamatan, hak asasi, lingkungan, demokrasi, pemilu, dan supremasi hukum – harus mematuhi berbagai persyaratan, seperti menjalani penilaian dampak terhadap hak asasi dan kewajiban akses pasar UE.

eltqxowexvjbnmywubkxiyj3ha.jpg
Huenit, kamera AI yang dipasang pada lengan robot di pameran teknologi konsumen yang diadakan di Berlin pada 1 September 2023. Foto: Reuters

Sementara itu, sistem berisiko rendah akan tunduk pada kewajiban transparansi yang lebih ringan, seperti memberi label konten yang dihasilkan AI sehingga pengguna dapat mempertimbangkan untuk menggunakannya.

AI dalam penegakan hukum

Badan penegak hukum hanya diizinkan menggunakan sistem identifikasi biometrik jarak jauh waktu nyata di tempat umum, untuk mengidentifikasi korban penculikan, perdagangan manusia, eksploitasi seksual, dan untuk mencegah ancaman teroris tertentu dan yang akan segera terjadi.

Pihak berwenang juga akan diizinkan menggunakan teknologi AI untuk melacak tersangka terorisme, perdagangan manusia, eksploitasi seksual, pembunuhan, penculikan, pemerkosaan, perampokan bersenjata, partisipasi dalam organisasi kriminal, dan kejahatan lingkungan.

Sistem AI Umum dan Platform (GPAI)

GPAI dan model yang mendasarinya akan tunduk pada persyaratan transparansi seperti menyiapkan dokumentasi teknis, mematuhi hukum hak cipta Uni Eropa, dan menerbitkan ringkasan terperinci tentang konten yang digunakan untuk melatih algoritma.

Model platform yang termasuk dalam kategori berpotensi menciptakan risiko sistemik dan GPAI berdampak tinggi akan diharuskan melakukan penilaian model umum, meninjau dan mengurangi risiko, melakukan pengujian rekayasa balik, memberi tahu Komisi Eropa tentang insiden serius, memastikan keamanan siber, dan melaporkan konsumsi energi.

owaad7543vnahei6k3ozfuuo5u.jpg
Robot "Rmeca" di Good Global Summit di Jenewa, Swiss. Foto: Reuters

Sampai standar harmonisasi UE diterbitkan, GPAI menghadapi risiko sistemik karena bergantung pada kode praktik untuk mematuhi peraturan.

Sistem AI dilarang

Perilaku dan konten yang dilarang meliputi: Sistem klasifikasi biometrik yang menggunakan karakteristik sensitif seperti politik , agama, keyakinan filosofis, orientasi seksual, dan ras;

Pemindaian non-target pada gambar wajah dari Internet atau rekaman CCTV untuk membuat basis data pengenalan wajah;

Pengenalan emosi di tempat kerja dan lingkungan pendidikan ;

Penilaian sosial berdasarkan perilaku sosial atau karakteristik pribadi;

Sistem AI memanipulasi perilaku manusia untuk menumbangkan kehendak bebas mereka;

AI digunakan untuk mengeksploitasi kelemahan manusia karena usia, disabilitas, kondisi ekonomi , atau sosialnya.

Sanksi

Bergantung pada pelanggaran dan ukuran perusahaan yang terlibat, denda akan dimulai dari €7,5 juta ($8 juta) atau 1,5% dari omzet global tahunan, meningkat hingga €35 juta atau 7% dari omzet global.

(Menurut Reuters)

Uni Eropa mencapai kesepakatan bersejarah untuk mengatur kecerdasan buatan

Uni Eropa mencapai kesepakatan bersejarah untuk mengatur kecerdasan buatan

Perjanjian antara Parlemen Eropa dan negara-negara anggota akan mengatur kecerdasan buatan (AI), media sosial, dan mesin pencari.
Uni Eropa mencapai kesepakatan tentang Undang-Undang Perlindungan Perangkat Pintar

Uni Eropa mencapai kesepakatan tentang Undang-Undang Perlindungan Perangkat Pintar

Pada tanggal 30 November, anggota parlemen Uni Eropa mencapai kesepakatan awal mengenai proposal untuk melindungi perangkat yang terhubung, yang mewajibkan jaminan keamanan siber untuk produk dengan elemen digital sebelum digunakan di pasar ini.
Uni Eropa bersikap tegas terhadap raksasa teknologi, mengancam membubarkan perusahaan yang melanggar

Uni Eropa bersikap tegas terhadap raksasa teknologi, mengancam membubarkan perusahaan yang melanggar

Uni Eropa (UE) terus memperketat manajemen perusahaan teknologi besar dengan sanksi ketat, yang dapat mendenda 10%-20% dari pendapatan global, dan bahkan memaksa pemisahan perusahaan yang tidak mematuhi peraturan.