Perlakukan AI seperti senjata biologis, bukan bom nuklir!

Baru-baru ini, Gizmodo.com, situs web teknologi informasi yang mengkhususkan diri dalam memperbarui berita hangat tentang tren teknologi terkenal di dunia , telah menerbitkan analisis tentang bagaimana orang harus memperlakukan teknologi kecerdasan buatan (AI).

Ilustrasi seruan untuk memperlakukan AI sebagai senjata biologis. (Sumber: gizmodo.com)

Dalam artikel Perlakukan AI sebagai senjata biologis, bukan senjata nuklir oleh Emilia Javorsky, seorang ilmuwan -dokter dan Direktur Future of Life Institute (USA), penulis berpendapat bahwa meskipun dunia baru-baru ini berulang kali membandingkan AI dengan bom nuklir, ada pendekatan yang lebih cocok, yaitu mengatur jenis teknologi ini sebagai senjata biologis atau bioteknologi.

Menurut penulis, AI mungkin merupakan teknologi paling canggih dalam sejarah manusia yang sedang dikembangkan manusia saat ini. Dampak buruk AI, termasuk diskriminasi, ancaman terhadap demokrasi, dan pemusatan pengaruh, telah terdokumentasi dengan baik.

Namun, perusahaan-perusahaan AI terkemuka berlomba-lomba membangun sistem AI yang semakin canggih, meningkatkan risiko pada tingkat yang belum pernah terjadi sebelumnya dalam sejarah manusia.

Saat para pemimpin bergulat dengan cara membendung dan mengendalikan munculnya AI dan berbagai risiko terkaitnya, mereka perlu mempertimbangkan penyesuaian dan standar yang telah dimanfaatkan manusia untuk menciptakannya di masa lalu.

Penyesuaian dan inovasi dapat hidup berdampingan, terutama ketika nyawa manusia dipertaruhkan.

Peringatan dari teknologi nuklir

Meskipun energi nuklir 600 kali lebih aman daripada minyak dalam hal kematian dan sangat efisien, hanya sedikit negara yang menyentuhnya karena konsekuensi yang mereka lihat dari pendekatan jangka panjang terhadap nuklir.

Dunia mempelajari teknologi nuklir dalam bentuk bom atom dan bom hidrogen. Dengan senjata-senjata ini, untuk pertama kalinya dalam sejarah, manusia mengembangkan teknologi yang mampu mengakhiri peradaban manusia, hasil dari perlombaan senjata yang mengutamakan kecepatan dan inovasi daripada keselamatan dan kendali.

Kegagalan berikutnya dalam keselamatan teknis dan manajemen risiko, yang terkenal sebagai penyebab bencana nuklir di Chernobyl dan Fukushima, menghancurkan peluang orang untuk menerima aspek positif dari energi nuklir.

Meskipun penilaian risiko tenaga nuklir secara keseluruhan menguntungkan dan para ilmuwan selama puluhan tahun berusaha meyakinkan dunia tentang kelayakannya, konsep 'nuklir' itu sendiri tetap…ternoda.

Ketika suatu teknologi menyebabkan kerusakan pada tahap awal, kesadaran sosial dan reaksi berlebihan dapat membatasi potensi manfaatnya secara permanen. Akibat kesalahan langkah awal dalam penggunaan tenaga nuklir, umat manusia belum mampu memanfaatkan sumber energi bersih dan amannya, dan netralitas karbon serta stabilitas energi tetap menjadi angan-angan belaka.

Pendekatan yang tepat terhadap bioteknologi

Namun, di beberapa bidang, manusia telah berhasil. Bioteknologi adalah salah satu bidang tersebut, yang didorong untuk berkembang pesat dalam konteks di mana banyak pasien menderita dan banyak yang meninggal setiap hari akibat penyakit yang belum ada obatnya.

Etos penelitian ini bukanlah untuk 'bergerak cepat dan merusak segalanya', melainkan untuk berinovasi secepat dan seaman mungkin. Manusia membatasi laju inovasi di bidang ini melalui sistem regulasi, etika, dan norma yang melindungi kesejahteraan masyarakat dan individu, serta melindungi industri dari kelumpuhan akibat reaksi balik yang dapat menyebabkan bencana.

Ketika senjata biologis dilarang di Konvensi Senjata Biologi selama Perang Dingin, negara-negara adidaya yang berseberangan sepakat bahwa pengembangan senjata semacam itu tidak akan menguntungkan siapa pun. Para pemimpin dunia memandang bahwa teknologi yang sulit dikendalikan namun sangat mudah diakses ini tidak boleh dipandang sebagai mekanisme untuk memenangkan perlombaan senjata, melainkan sebagai ancaman bagi umat manusia itu sendiri.

Emilia Javorsky adalah salah satu ilmuwan yang baru-baru ini menandatangani surat terbuka yang menyerukan moratorium pengembangan AI selama enam bulan. Ia juga menandatangani pernyataan yang memperingatkan bahwa AI menimbulkan "risiko kepunahan" bagi umat manusia.

Jeda dalam perlombaan senjata biologis memungkinkan manusia untuk mengembangkannya dengan kecepatan yang bertanggung jawab. Para ilmuwan dan regulator menerapkan standar ketat terhadap setiap inovasi baru yang berpotensi membahayakan manusia.

Penyesuaian ini bukannya tanpa biaya tetapi telah membentuk bioekonomi , dengan banyak aplikasi di berbagai bidang mulai dari energi bersih hingga pertanian.

Selama pandemi Covid-19, para ahli biologi telah menerapkan teknologi mRNA untuk menghasilkan vaksin yang efektif dengan kecepatan yang belum pernah terjadi sebelumnya dalam sejarah manusia.

Survei terbaru terhadap peneliti AI menemukan bahwa 36% responden merasa AI dapat menyebabkan bencana setara nuklir. Namun, respons dan regulasi pemerintah lambat dalam mengimbangi laju adopsi teknologi, dengan aplikasi ChatGPT yang kini telah melampaui 100 juta pengguna.

Risiko AI yang meningkat pesat telah mendorong 1.800 CEO dan 1.500 profesor di AS untuk menandatangani surat yang menyerukan penghentian sementara pengembangan AI selama enam bulan dan proses regulasi serta mitigasi risiko yang mendesak. Penghentian sementara ini akan memberi waktu bagi komunitas global untuk membatasi dampak buruk AI dan mencegah risiko bencana yang tak terelakkan bagi masyarakat kita.

Sembari menilai risiko dan potensi bahaya AI, kita juga harus mempertimbangkan bagaimana agar potensi positif teknologi ini tidak terlupakan. Jika kita mengembangkan AI secara bertanggung jawab sekarang, kita akan dapat meraup manfaat luar biasa dari teknologi ini. Misalnya, manfaat penerapan AI dalam penemuan dan pengembangan obat, peningkatan kualitas dan biaya perawatan kesehatan, serta peningkatan akses ke dokter dan perawatan medis.

DeepMind milik Google telah menunjukkan bahwa AI berpotensi memecahkan masalah-masalah fundamental dalam biologi yang selama ini dihindari manusia. Menurut studi tersebut, AI dapat mempercepat pencapaian semua Tujuan Pembangunan Berkelanjutan Perserikatan Bangsa-Bangsa, menggerakkan umat manusia menuju masa depan yang lebih baik dalam hal kesehatan, kesetaraan, kesejahteraan, dan perdamaian.

Kini saatnya komunitas global bersatu, sebagaimana yang telah dilakukan 50 tahun lalu di Konvensi Senjata Biologi, untuk memastikan pengembangan AI aman dan bertanggung jawab. Jika kita tidak segera bertindak, kita berisiko menghancurkan masa depan AI yang cerah dan masyarakat kita saat ini.

Sumber: https://baoquocte.vn/chuyen-gia-my-hay-doi-xu-voi-ai-nhu-vu-khi-sinh-hoc-khong-phai-bom-hat-nhan-230623.html