>Sekretaris Jenderal PBB António Guterres mendesak pemerintah untuk bertindak cepat soal AI.
?“Potensinya besar, tetapi risikonya nyata, dan biaya penundaan semakin meningkat.”
Jenewa, Suarathailand- Laporan Panel PBB menyebut kompleksitas tugas AI meningkat dua kali lipat setiap 4 hingga 7 bulan.
“Dengan semakin banyaknya bukti perilaku AI yang menipu, sains saat ini tidak dapat menjamin bahwa seiring dengan terus meningkatnya kemampuan, AI tidak akan menyebabkan kerusakan yang dahsyat, baik secara mandiri maupun karena pengguna yang jahat.”
Digambarkan sebagai penilaian independen global pertama tentang risiko dan peluang AI, laporan ini bertujuan untuk memberikan evaluasi terkini tentang sains untuk membantu memandu pengambilan keputusan saat pemerintah menghadapi sistem yang berkembang pesat.
Dalam jangka pendek, diperkirakan akan terjadi pergeseran menuju sistem AI yang mampu melakukan tugas-tugas dunia nyata, meskipun pertumbuhan mungkin dibatasi oleh kekurangan energi dan data berkualitas tinggi.
Seiring waktu, diperkirakan AI yang mampu meningkatkan diri sendiri akan semakin terintegrasi dalam perekonomian dan menyatu dengan teknologi seperti komputasi kuantum dan bioteknologi.
AI Agentik
AI telah menunjukkan penalaran tingkat ahli dalam matematika dan sains dan mempercepat pengembangan obat dan vaksin, dan kompleksitas tugasnya berlipat ganda setiap empat hingga tujuh bulan, berpotensi memungkinkan sistem untuk menyelesaikan pekerjaan yang membutuhkan waktu berhari-hari atau berminggu-minggu bagi manusia, menurut laporan tersebut.
Meskipun ini dapat memberikan manfaat ekonomi yang signifikan, masih belum jelas apakah peningkatan produktivitas dari penggunaan AI akan diterjemahkan ke dalam pertumbuhan yang lebih luas atau memengaruhi lapangan kerja.
Panel tersebut juga menguraikan berbagai kekhawatiran keselamatan, seperti risiko kehilangan kendali atas sistem AI karena semakin otonom dan menipu.
AI sudah digunakan untuk menghasilkan informasi yang salah dan konten berbahaya lainnya dan dapat dieksploitasi untuk penipuan, serangan siber, dan ancaman biologis.
Tata kelola tetap terfragmentasi, dengan banyak negara yang kekurangan kapasitas untuk menilai atau membentuk sistem AI canggih, sehingga mereka bergantung pada teknologi yang tidak dapat mereka pahami atau kendalikan sepenuhnya. Alat keselamatan yang ada seringkali bergantung pada data pengujian terbatas yang diungkapkan oleh perusahaan, kata laporan itu.
Sekretaris Jenderal PBB António Guterres mendesak pemerintah untuk bertindak cepat.
“Dunia tidak dapat mengatur apa yang tidak dapat dipahaminya,” kata Guterres dalam sebuah pernyataan.
“Potensinya besar, tetapi risikonya nyata, dan biaya penundaan semakin meningkat,” tambahnya.
Para pemimpin politik dan teknologi global, bersama dengan badan teknologi digital PBB, mengumumkan pada hari Rabu pembentukan komisi baru untuk menangani pengembangan AI di tengah meningkatnya kekhawatiran atas potensi risikonya.
Komisi Global AI untuk Kebaikan akan diketuai bersama oleh Presiden Rwanda Paul Kagame dan CEO Salesforce Marc Benioff, menurut dokumen tinjauan strategis di situs web komisi tersebut.
Sekretaris Jenderal Uni Telekomunikasi Internasional Doreen Bogdan-Martin akan menjadi wakil ketua tetap. Badan-badan PBB lainnya juga diharapkan untuk berpartisipasi.
