PBB Dukung Peringatan Paus Leo soal Risiko AI

Jakarta, CNN Indonesia --

Kepala Hak Asasi Manusia (HAM) Perserikatan Bangsa-Bangsa (PBB) menyambut baik manifesto Paus Leo XIV yang memperingatkan risiko besar di balik pemanfaatan kecerdasan buatan (AI).

Dukungan kepada Pemimpin Tertinggi Gereja Katolik itu mengalir di tengah masifnya perlombaan teknologi global yang mengancam nilai-nilai kemanusiaan.

Melalui surat ensiklik bertajuk Magnifica Humanitas (Kemanusiaan yang Agung) yang terbit pada Senin (25/5), Paus pertama asal Amerika Serikat itu menjabarkan sejumlah batasan penting guna meredam dampak negatif teknologi terhadap peradaban modern.

Ia secara khusus memberikan peringatan keras terhadap "perlombaan algoritma yang semakin kuat dan kumpulan data yang lebih besar, yang didorong oleh keinginan untuk mengamankan dominasi geopolitik atau komersial."

Komisaris Tinggi PBB untuk HAM, Volker Turk, memuji langkah Paus dengan menyebut manifesto tersebut sebagai imbauan yang krusial untuk menjaga martabat dan keadilan di era kecerdasan buatan.

"Kompas kita harus tetap pada kemanusiaan kita bersama," tegas Turk.

[Gambas:Video CNN]

Dalam ensikliknya, Paus Leo XIV juga menegaskan bahwa AI harus segera dibebaskan dari logika yang mengubahnya menjadi instrumen dominasi, pengucilan, dan kematian.

Sorotan tajam dialamatkan pada adopsi teknologi pintar dalam sektor militer, dengan penekanan bahwa keputusan yang menyangkut nyawa manusia sama sekali tidak boleh diserahkan kepada mesin.

Oleh sebab itu, ia menyerukan gerakan untuk melucuti AI dari fungsi militer, yang berarti membebaskan teknologi ini dari mentalitas persaingan bersenjata.

Ia menuliskan bahwa teori "perang yang adil" yang belakangan ini dianut pemerintahan Presiden AS Donald Trump kini sudah "ketinggalan jaman," dan menegaskan "tidak ada algoritma yang dapat membuat perang dapat diterima secara moral."

Meski bersikap kritis, Vatikan menegaskan bahwa pembatasan ini bukan bentuk resistensi terhadap modernisasi.

"Melucuti senjata tidak berarti menolak teknologi, melainkan mencegahnya mendominasi umat manusia," tulis Paus Leo XIV dalam ensikliknya.

Pandangan itu sejalan dengan prinsip dasar yang dipegang oleh PBB mengenai arah inovasi digital. Turk pun menyepakati hal tersebut dengan menekankan peran utama dari perkembangan teknologi saat ini.

"Teknologi harus melayani manusia, bukan menggantikan atau mengendalikan mereka," pungkas Turk.

Peluncuran manifesto tersebut disertai para pakar teknologi, termasuk Christopher Olah yang merupakan salah satu pendiri raksasa AI asal AS, Anthropic.

Keterlibatan Olah menarik perhatian publik mengingat perusahaannya saat ini sedang menghadapi konfrontasi hukum dengan militer AS akibat menolak pengembangan teknologi untuk sistem perang otonom yang mematikan dan pengawasan massal.

Di hadapan otoritas Vatikan, Olah mengakui dilema moral industri dengan menyebut bahwa perusahaan AI sering kali beroperasi dalam serangkaian insentif dan kendala yang terkadang bertentangan dengan tindakan yang benar.

Merespons keterbukaan tersebut, Paus menyatakan menerima ajakan Olah untuk berjalan bersama, mendengarkan, berbicara, serta berkolaborasi dalam menemukan solusi terbaik bagi masa depan umat manusia.

Sinergi antara PBB dan Vatikan ini terasa kian mendesak jika merujuk pada data perkembangan global.

Proyeksi PBB menunjukkan nilai pasar kecerdasan buatan berpotensi menembus angka fantastis sebesar US$4,8 triliun pada 2033, menandai lonjakan masif hingga 25 kali lipat hanya dalam kurun waktu satu dekade.

(chri)

Add as a preferred
source on Google