Kurangnya standar AI global memaksa strategi khusus kawasan, menghambat skalabilitas
Gartner, Suarathailand- Pada tahun 2027, lebih dari 40% pelanggaran data terkait kecerdasan buatan (AI) akan berasal dari penggunaan AI generatif (GenAI) yang tidak tepat lintas batas internasional, menurut analisis oleh Gartner, Inc.
Penerapan teknologi GenAI yang cepat telah melampaui pengembangan tata kelola data dan langkah-langkah keamanan yang kuat. Hal ini telah menimbulkan kekhawatiran signifikan terkait lokalisasi data, konsekuensi dari daya komputasi terpusat yang diperlukan untuk mendukung teknologi ini.
"Transfer data lintas batas yang tidak diinginkan sering terjadi karena pengawasan yang tidak memadai, terutama ketika GenAI diintegrasikan ke dalam produk yang ada tanpa penjelasan atau pengumuman yang jelas," kata Joerg Fritsch, VP Analyst di Gartner.
"Organisasi mengamati perubahan dalam konten yang diproduksi oleh karyawan yang memanfaatkan perangkat GenAI. Meskipun perangkat ini dapat digunakan untuk aplikasi bisnis yang disetujui, perangkat ini menghadirkan risiko keamanan jika permintaan sensitif dikirim ke perangkat AI dan antarmuka pemrograman aplikasi (API) yang dihosting di lokasi yang tidak diketahui."
Tidak adanya praktik terbaik dan standar global yang konsisten untuk tata kelola AI dan data memperburuk tantangan ini, yang mengakibatkan fragmentasi pasar dan memaksa perusahaan untuk mengembangkan strategi khusus wilayah. Hal ini, pada gilirannya, dapat membatasi kemampuan mereka untuk meningkatkan skala operasi secara global dan memanfaatkan manfaat produk dan layanan AI.
"Kompleksitas pengelolaan aliran data dan pemeliharaan kualitas data karena kebijakan AI yang dilokalkan dapat menyebabkan inefisiensi operasional," kata Fritsch.
"Organisasi harus berinvestasi dalam tata kelola dan keamanan AI tingkat lanjut untuk melindungi data sensitif dan memastikan kepatuhan. Kebutuhan ini kemungkinan akan mendorong pertumbuhan di pasar layanan keamanan, tata kelola, dan kepatuhan AI, serta solusi teknologi yang meningkatkan transparansi dan kontrol atas proses AI."
Gartner memperkirakan bahwa pada tahun 2027, tata kelola AI akan menjadi persyaratan wajib dari semua hukum dan peraturan AI yang berdaulat di seluruh dunia.
"Organisasi yang gagal mengintegrasikan model dan kontrol tata kelola yang diperlukan dapat mengalami kerugian kompetitif, khususnya yang kekurangan sumber daya untuk segera memperluas kerangka tata kelola data yang ada," kata Fritsch.
Untuk mengurangi risiko pelanggaran data AI, khususnya yang timbul dari penyalahgunaan GenAI lintas batas, dan untuk memastikan kepatuhan, Gartner merekomendasikan tindakan strategis berikut untuk perusahaan:
Meningkatkan tata kelola data: Organisasi harus memastikan kepatuhan terhadap peraturan internasional dan memantau transfer data lintas batas yang tidak diinginkan dengan memperluas kerangka tata kelola data untuk memasukkan pedoman bagi data yang diproses AI. Ini melibatkan pengintegrasian penilaian dampak garis keturunan dan transfer data dalam penilaian dampak privasi rutin.
Tetapkan komite tata kelola: Bentuk komite untuk memperkuat pengawasan AI dan memastikan komunikasi yang transparan terkait penerapan AI dan penanganan data. Komite ini harus bertanggung jawab atas pengawasan teknis, manajemen risiko dan kepatuhan, serta komunikasi dan pelaporan keputusan.
Perkuat keamanan data: Terapkan teknologi canggih, enkripsi, dan anonimisasi untuk melindungi data sensitif. Misalnya, verifikasi Trusted Execution Environment di wilayah geografis tertentu dan terapkan teknologi anonimisasi canggih, seperti Differential Privacy, saat data harus meninggalkan wilayah ini.
Berinvestasilah dalam produk TRiSM: Rencanakan dan alokasikan anggaran untuk produk dan kapabilitas trust, risk, and security management (TRiSM) yang disesuaikan dengan teknologi AI. Ini mencakup tata kelola AI, tata kelola keamanan data, penyaringan dan penyuntingan cepat, dan pembuatan data tidak terstruktur secara sintetis.
Gartner memperkirakan bahwa pada tahun 2026, perusahaan yang menerapkan kontrol AI TRiSM akan mengonsumsi setidaknya 50% lebih sedikit informasi yang tidak akurat atau tidak sah, sehingga mengurangi pengambilan keputusan yang salah.
