"Melucuti senjata bukan berarti menolak teknologi, tetapi mencegahnya mendominasi umat manusia," tulis Leo.
Vatikan, Suarathailand- Paus Leo XIV pada hari Senin menyerukan "pelumpuhan" kecerdasan buatan dalam manifesto yang telah lama ditunggu-tunggu tentang teknologi yang berkembang pesat ini, dan memperingatkan tentang "bentuk-bentuk perbudakan baru" di balik kebangkitannya.
Ia juga mengatakan teori "perang yang adil" -- yang baru-baru ini dianut oleh pemerintahan Trump -- sudah "usang" dalam ensiklik pertamanya, yang ia sampaikan secara langsung di Vatikan bersama para ahli AI termasuk salah satu pendiri raksasa AS, Anthropic.
Paus AS pertama yang telah berselisih dengan Gedung Putih mengenai perang Iran dan penggunaan agama untuk membenarkan konflik, membunyikan alarm tentang persenjataan yang diarahkan AI, dengan mengatakan bahwa "tidak diperbolehkan untuk mempercayakan keputusan mematikan" kepada teknologi.
Raksasa Amerika, Anthropic, yang telah memposisikan dirinya sebagai perusahaan AI yang etis, terlibat dalam pertempuran hukum dengan militer AS setelah menentang penggunaan teknologinya untuk perang otonom yang mematikan atau pengawasan massal.
Tanpa menyebut nama Presiden AS Donald Trump, Leo menekankan bahwa "penting untuk menegaskan kembali bahwa teori 'perang yang adil', yang terlalu sering digunakan untuk membenarkan segala jenis perang, kini sudah usang".
Persaingan AI untuk Perang
AI bisa bernilai hingga US$4,8 triliun pada tahun 2033, peningkatan 25 kali lipat dalam satu dekade, sementara keuntungan terkonsentrasi di tangan segelintir orang, menurut Perserikatan Bangsa-Bangsa.
"Melucuti senjata AI berarti membebaskannya dari mentalitas persaingan 'bersenjata'," tulis Paus dalam "Magnifica Humanitas" (Kemanusiaan yang Agung), sebuah upaya untuk mengatasi tantangan etika dan sosial di balik AI.
Ia mengecam "perlombaan untuk algoritma yang semakin kuat dan kumpulan data yang lebih besar, yang didorong oleh keinginan untuk mengamankan dominasi geopolitik atau komersial".
"Melucuti senjata bukan berarti menolak teknologi, tetapi mencegahnya mendominasi umat manusia," tulis Leo.
AI harus "ramah manusia", dapat diakses oleh semua orang dan terbuka untuk diskusi dan debat, tambahnya.
Pemimpin umat Katolik Roma di dunia yang berjumlah 1,4 miliar jiwa telah menjadikan isu sensitif ini sebagai landasan kepausannya dengan mendedikasikannya pada ensiklik pertamanya—sebuah dokumen yang meletakkan dasar bagi ajaran Gereja dan perdebatan jangka panjang.
Manifesto tersebut merujuk pada berbagai tokoh budaya besar, dari filsuf Yunani Plato hingga Beethoven dan Simfoni Kesembilannya, bahkan mengutip karakter dari "The Lord of the Rings" karya JRR Tolkien.
"Magnifica Humanitas"
"Magnifica Humanitas" ditandatangani pada 15 Mei, peringatan ke-135 ensiklik tahun 1891 oleh Leo XIII yang meletakkan dasar doktrin sosial Gereja selama Revolusi Industri.
Leo memperingatkan tentang bentuk-bentuk perbudakan baru yang memicu revolusi teknologi, dengan mencatat "tidak ada sesuatu pun di dunia AI yang tidak berwujud atau ajaib".
"Setiap respons yang tampak instan dan sempurna... bergantung pada kerja diam-diam jutaan orang", mulai dari moderator konten yang dipaksa menonton materi yang mengganggu, hingga anak-anak yang mengekstrak unsur-unsur tanah jarang yang menjadi dasar AI.
Mereka "terluka, cedera, dan kelelahan agar aliran komputasi dapat terus berlanjut tanpa gangguan", tulisnya.
Efisiensi atau inovasi yang lebih besar tidak membenarkan "rantai eksploitasi yang sengaja disembunyikan", tulisnya, sementara lebih banyak yang harus dilakukan untuk mengurangi dampak lingkungan AI dan "melindungi rumah kita bersama".
Rilis teks ini menyusul beberapa tahun studi oleh Gereja tentang teknologi terkait AI.
Sejak tahun 2020, Takhta Suci meluncurkan "Seruan Roma untuk Etika AI", yang menyerukan agar teknologi baru menghormati martabat manusia.
Para ahli mengatakan "Magnifica Humanitas" dapat terbukti sama berpengaruhnya dengan "Laudato Si" Paus Fransiskus, sebuah manifesto iklim tahun 2015 yang memicu reaksi politik dan sipil di seluruh dunia.
