Menemukan standar keamanan untuk kecerdasan buatan

[iklan_1]

SGGP Tanggal 31/07/2023 pukul 09.35

Setelah Eropa mulai merancang dan segera meluncurkan undang-undang pertama di dunia tentang kecerdasan buatan (AI), empat "raksasa" penambangan data internet terkemuka AS baru saja meluncurkan sebuah kelompok yang disebut Frontier Model Forum.

Tujuan utama Forum Model Frontier adalah untuk mempromosikan AI yang bertanggung jawab. Foto: THINKWITHNICHE

Para pihak bersatu

Kelompok tersebut, yang beranggotakan Anthropic, Google, Microsoft, dan OpenAI, pemilik ChatGPT, menyatakan bahwa tujuan utama Frontier Model Forum adalah untuk membantu mengurangi risiko yang ditimbulkan oleh platform AI dan mengembangkan standar industri. Frontier Model Forum akan membentuk forum baru dengan tujuan utama berikut: Mempromosikan riset keselamatan AI untuk mendukung pengembangan, mengurangi risiko, dan menstandardisasi penilaian serta tingkat keselamatan; mengidentifikasi praktik terbaik untuk pengembangan dan penerapan model, serta membantu publik memahami sifat, kapabilitas, keterbatasan, dan dampak teknologi; dan berkolaborasi dengan para pembuat kebijakan, akademisi, masyarakat sipil, dan perusahaan untuk berbagi pengetahuan tentang risiko dan keselamatan.

Raksasa teknologi secara tradisional menolak peningkatan regulasi, tetapi kali ini, industri teknologi telah banyak mengubah pendiriannya terhadap risiko yang ditimbulkan oleh AI. Perusahaan-perusahaan yang terlibat dalam inisiatif Frontier Model Forum telah berjanji untuk berbagi praktik terbaik antar perusahaan dan menyediakan informasi yang tersedia untuk umum bagi pemerintah dan masyarakat sipil.

Secara spesifik, Forum Model Frontier akan berfokus pada platform pembelajaran mesin berskala besar, namun masih dalam tahap awal, yang membawa AI ke tingkat kecanggihan baru – yang juga merupakan faktor risiko potensial. Selain itu, Forum Model Frontier juga akan mendukung pengembangan aplikasi yang menjawab tantangan sosial utama seperti: mitigasi dan adaptasi perubahan iklim, deteksi dan pencegahan kanker dini, serta perlindungan terhadap ancaman siber.

Ruang untuk potensi kehancuran

Pengumuman Forum Model Frontier oleh perusahaan-perusahaan AS muncul beberapa hari setelah para senator AS pada 25 Juli memperingatkan tentang risiko penggunaan AI untuk serangan biologis dalam sidang dengar pendapat di hadapan subkomite Komite Kehakiman Senat AS. Baru-baru ini, tujuh perusahaan teknologi besar, termasuk OpenAI, Alphabet, dan Meta, telah secara sukarela berkomitmen kepada Gedung Putih untuk mengembangkan sistem pelabelan semua konten, mulai dari teks, gambar, audio, hingga video yang dibuat oleh AI, guna memberikan transparansi informasi kepada pengguna, guna memastikan teknologi ini lebih aman.

Meskipun AI belum mampu menciptakan senjata biologis, hal itu merupakan risiko "jangka menengah" yang dapat menimbulkan ancaman serius bagi keamanan nasional AS dalam dua hingga tiga tahun ke depan, ujar Dario Amodei, CEO AI Anthropic. Hal ini dikarenakan pelaku yang melakukan serangan biologis skala besar tidak lagi terbatas pada mereka yang memiliki pengetahuan khusus di bidang tersebut.

Dunia sedang menghadapi ledakan konten yang diciptakan oleh teknologi AI generatif. Dari AS, Eropa, hingga Asia, langkah-langkah regulasi secara bertahap diperketat. Menurut CNN, mulai September, Senat AS akan menyelenggarakan serangkaian sembilan lokakarya tambahan bagi para anggota untuk mempelajari bagaimana AI dapat memengaruhi lapangan kerja, keamanan nasional, dan kekayaan intelektual. Sebelum AS, jika kesepakatan tercapai, Uni Eropa akan memiliki undang-undang pertama di dunia tentang manajemen AI tahun depan, yang diperkirakan akan berlaku pada tahun 2026.

Manfaat AI bagi masyarakat memang tak terbantahkan, tetapi peringatan tentang potensi risiko teknologi baru ini semakin meningkat. Pada bulan Juni, Sekretaris Jenderal PBB Antonio Guterres mendukung usulan beberapa eksekutif AI untuk membentuk badan pengawas AI internasional, serupa dengan Badan Tenaga Atom Internasional (IAEA).

Kembali di Forum Model Frontier, Presiden Microsoft Brad Smith mengatakan inisiatif ini merupakan langkah penting dalam menyatukan perusahaan-perusahaan teknologi untuk mendorong penggunaan AI yang bertanggung jawab demi kepentingan seluruh umat manusia. Senada dengan itu, Wakil Presiden Urusan Global OpenAI, Anna Makanju, mengatakan teknologi AI canggih berpotensi memberikan manfaat besar bagi masyarakat, dan hal ini membutuhkan pengawasan dan tata kelola.

[iklan_2]
Sumber