BRICS mengadvokasi kerangka tata kelola AI yang dipimpin PBB, mendorong pembangunan inklusif, kedaulatan data, dan keadilan teknologi, mendukung pembangunan ekonomi digital dan pencegahan risiko negara-negara Global Selatan.
Sumber: Kementerian Luar Negeri
Kecerdasan buatan mewakili peluang penting untuk mendorong dunia menuju masa depan yang lebih adil, yang akan memicu inovasi, meningkatkan produktivitas, mempromosikan praktik pembangunan berkelanjutan, dan secara nyata meningkatkan kesejahteraan umat manusia.
Untuk mewujudkan visi ini, tata kelola global kecerdasan buatan harus mengurangi risiko potensial dan berfokus pada kebutuhan negara-negara, terutama negara-negara Global Selatan. Tata kelola harus dilakukan di bawah Piagam PBB dan kerangka regulasi nasional, menghormati kedaulatan negara, dan mengikuti prinsip-prinsip representatif, berorientasi pembangunan, aksesibilitas, inklusivitas, pembaruan dinamis, dan kelincahan. Tata kelola harus secara nyata memperhatikan perlindungan data pribadi, menjamin hak asasi manusia, memastikan keamanan, transparansi, keberlanjutan, dan berkontribusi pada penutupan kesenjangan digital dan data yang semakin melebar di dalam dan antar negara. Negara-negara di dunia harus bekerja sama untuk membangun sistem tata kelola kecerdasan buatan yang berpusat pada PBB, mempromosikan nilai-nilai bersama, mengatasi risiko, membangun kepercayaan, memastikan kerja sama internasional dan aksesibilitas kecerdasan buatan yang inklusif, termasuk memperkuat pembangunan kapasitas kecerdasan buatan di negara berkembang.
Di tingkat internasional, proliferasi berbagai inisiatif tata kelola dan perbedaan dalam koordinasi multilateral dapat memperburuk asimetri yang ada dan defisit legitimasi tata kelola digital global, yang selanjutnya melemahkan multilateralisme.
Untuk mendukung dialog konstruktif dan mencapai jalur tata kelola yang lebih seimbang, kami, para pemimpin BRICS, sepakat untuk menyusun seperangkat pedoman guna mempromosikan pengembangan, penyebaran, dan penerapan teknologi kecerdasan buatan secara bertanggung jawab, untuk mendukung pembangunan berkelanjutan dan pertumbuhan inklusif. Pedoman ini terbatas pada kecerdasan buatan di bidang non-militer dan harus diimplementasikan melalui kerangka domestik atau internasional yang berlaku serta standar dan protokol yang dapat dioperasikan, dengan cara yang inklusif, transparan, dan berbasis konsensus.
1. Multilateralisme, Legitimasi, dan Kedaulatan Digital
PBB adalah inti dari tata kelola global kecerdasan buatan.Tata kelola kecerdasan buatan global harus menghindari fragmentasi dan duplikasi dengan segala cara. Kita harus memanfaatkan sistem PBB sebagai kerangka internasional yang sepenuhnya inklusif dan representatif untuk memajukan tata kelola internasional kecerdasan buatan. Dalam proses pengambilan keputusan terkait inisiatif PBB, kita harus mendorong partisipasi dan peran bermakna dari pasar berkembang dan negara berkembang serta negara-negara Global Selatan, sambil mengakui peran pelengkap dari kerangka regional dan multi-pemangku kepentingan, mendorong pertukaran kebijakan dan dialog tentang kecerdasan buatan, serta memicu dinamika inovasi dan pertumbuhan ekonomi.
Tata kelola kolaboratif kecerdasan buatan rumit tetapi menjanjikan.Jaringan pemangku kepentingan terkait di negara maju dan berkembang harus memberikan keahlian, perspektif, dan sumber daya sesuai dengan peran dan tanggung jawab masing-masing. Menegaskan kembali peran mendasar dan dominan pemerintah dalam tata kelola kecerdasan buatan, kami siap bekerja sama erat dengan sektor swasta, lembaga sipil, organisasi internasional, komunitas penelitian dan akademik, serta pemangku kepentingan lainnya untuk mencapai representasi dan inklusivitas.
Kedaulatan digital dan hak pembangunan adalah kunci dalam tata kelola kecerdasan buatan global.Kami dengan tegas mendukung hak setiap negara untuk memanfaatkan sepenuhnya dividen pembangunan dari ekonomi digital dan teknologi baru, terutama kecerdasan buatan, sambil mempertahankan hak-hak dasar, dengan memperkuat infrastruktur digital, mengembangkan talenta teknologi lokal, memastikan perlindungan warga negara dari risiko kecerdasan buatan, menyusun kerangka regulasi kecerdasan buatan dalam yurisdiksi hukum nasional, meningkatkan kapasitas penelitian kecerdasan buatan, mengembangkan inovasi teknologi mandiri, memastikan keamanan data, dan memajukan ekonomi digital nasional.
2. Norma Pasar, Tata Kelola Data, dan Aksesibilitas Teknologi
Persaingan yang adil dan norma pasar adalah fondasi untuk kecerdasan buatan menuju masa depan yang adil.Ekonomi digital harus menetapkan hak dan kewajiban negara, perusahaan, dan pengguna sesuai dengan kerangka hukum dan peraturan domestik serta perjanjian internasional yang berlaku, membangun lingkungan pasar yang adil, dan mendorong inovasi serta pertumbuhan ekonomi. Kami menekankan pentingnya menghindari fragmentasi sistem regulasi, mempromosikan norma pasar yang adil dan transparan, mendorong persaingan, meningkatkan daya saing, menghindari segala bentuk distorsi, dan menciptakan lingkungan pasar yang berkelanjutan dan sehat.
Tata kelola data adalah kunci dari tata kelola kecerdasan buatan yang inklusif.Kami menekankan bahwa tata kelola data yang adil, inklusif, dan adil sangat penting bagi negara berkembang untuk memanfaatkan ekonomi digital dan teknologi baru seperti kecerdasan buatan. Kami juga menyadari perlunya membangun kerangka tata kelola data berdasarkan Memorandum BRICS tentang Tata Kelola Ekonomi Digital untuk membangun kepercayaan, dengan menghormati kerangka hukum terkait privasi, perlindungan data pribadi, transparansi algoritma, hak kekayaan intelektual, dan keamanan nasional, sambil menyediakan data berkualitas tinggi yang adil, konsisten, aman, dan andal bagi negara berkembang.
Akses terhadap teknologi kecerdasan buatan harus mengikuti prinsip-prinsip keadilan, kesetaraan, pemberdayaan, dan inklusivitas.Semua negara, terlepas dari tahap perkembangan ekonominya, memiliki hak untuk mengembangkan, menggunakan, dan memperoleh manfaat dari kecerdasan buatan. Kami menekankan pentingnya mempromosikan akses terhadap teknologi kecerdasan buatan dan komponen kunci melalui kerja sama internasional, menghilangkan hambatan pendanaan untuk penelitian dan inovasi kecerdasan buatan, dan membangun kerangka pengetahuan, keterampilan, dan manajemen risiko yang diperlukan di negara berpenghasilan rendah dan menengah untuk memanfaatkan teknologi kecerdasan buatan secara efektif.
Perlu keseimbangan antara perlindungan hak kekayaan intelektual dan kepentingan publik.Harus ada keseimbangan antara hak paten, transparansi, dan akuntabilitas untuk melindungi kepentingan publik, mempromosikan transfer teknologi internasional, dan mematuhi hukum domestik dan hukum internasional yang berlaku. Untuk penggunaan kecerdasan buatan yang tidak sah, harus ada mekanisme perlindungan hak kekayaan intelektual, terutama hak cipta, untuk mencegah ekstraksi data yang merugikan dan pelanggaran privasi, sambil membangun mekanisme kompensasi yang adil. Tindakan perlindungan terkait harus mencakup mekanisme akuntabilitas yang jelas dan mematuhi persyaratan hukum terkait transparansi input dan output model kecerdasan buatan.
Pengembangan kecerdasan buatan harus berpegang pada prinsip keterbukaan dan mendorong ekosistem inovasi.Sesuai dengan kebijakan dan prioritas nasional, kami mendorong pengembangan sumber terbuka dan kerja sama sains dan teknologi internasional melalui mekanisme sains terbuka dan inovasi terbuka sebagai mesin kunci untuk meningkatkan penelitian, pengembangan, inovasi, perlindungan data, kedaulatan data, dan kapasitas penyebaran kecerdasan buatan, memungkinkan peneliti, pengembang, dan organisasi terkait untuk melakukan tinjauan dan audit, sehingga membangun sistem kecerdasan buatan yang aman, dapat dipercaya, dan transparan. Kami harus memastikan partisipasi substantif dan mengembangkan cara kolaborasi yang inklusif, mencegah hambatan dalam pengembangan kecerdasan buatan global dan rantai pasokan. Kami mendorong pengembangan model dasar yang efisien sumber daya, profesional, dan terbuka untuk memajukan ekosistem inovasi kecerdasan buatan.
Standar internasional harus mendukung terwujudnya kecerdasan buatan yang inklusif, representatif, dan dapat diakses.Penyusunan standar teknis, norma, dan protokol untuk sistem kecerdasan buatan harus melibatkan sektor publik, organisasi penyusun standar, dan badan khusus PBB untuk memastikan kredibilitas, interoperabilitas, keamanan, dan keandalan dalam seluruh siklus pengembangan teknologi kecerdasan buatan dan aplikasi lintas platform. Kami harus mencegah penggunaan standar sebagai hambatan terselubung untuk masuk pasar bagi usaha kecil dan menengah serta ekonomi berkembang.
3. Keadilan dan Pembangunan Berkelanjutan
Kecerdasan buatan harus inklusif dan dapat diakses oleh semua.Infrastruktur yang sehat, konektivitas yang bermakna, dan inklusi digital adalah prasyarat bagi setiap negara untuk menerapkan kecerdasan buatan. Layanan pemerintahan digital yang dibangun di atas infrastruktur publik digital dapat menjadi katalis untuk pembangunan ekonomi digital yang inklusif dan perlindungan hak serta kesejahteraan warga negara. Kebijakan domestik dan bank pembangunan multilateral harus digunakan untuk mengatasi kesenjangan kemampuan dan infrastruktur yang ada, guna memajukan penerapan dan pengembangan kecerdasan buatan di negara-negara pasar berkembang dan berkembang.
Kecerdasan buatan memimpin pembangunan berkelanjutan yang kolaboratif.Kami berkomitmen untuk mendukung penerapan kecerdasan buatan melalui sumber terbuka dan cara lainnya, untuk mengatasi tantangan pembangunan kunci di bidang kesehatan, pendidikan, keamanan, transportasi, energi, pertanian, lingkungan, manajemen air dan limbah, dengan pekerjaan yang sesuai dengan hukum dan prioritas setiap negara. Manfaat kecerdasan buatan untuk pembangunan berkelanjutan harus terus dipromosikan. Kami akan fokus pada inisiatif penelitian, pengembangan, dan inovasi yang membina dan memberdayakan kemampuan teknis lokal serta aspirasi, untuk menjembatani kesenjangan teknologi antara negara maju dan berkembang.
Keberlanjutan lingkungan adalah prasyarat bagi pengembangan kecerdasan buatan.Kecerdasan buatan harus membantu mengurangi emisi, beradaptasi dengan perubahan iklim, melindungi lingkungan, mendorong manajemen sumber daya yang berkelanjutan dan optimalisasi, menjaga keseimbangan ekologis, serta mendukung pembangunan ekonomi dan sosial yang berkelanjutan, selaras dengan prioritas setiap negara. Pengembangan dan penerapan kecerdasan buatan harus berkelanjutan, meminimalkan dampak lingkungan, dan mengatasi emisi gas rumah kaca, konsumsi energi dan air, penggunaan material, serta limbah elektronik. Negara berkembang harus memanfaatkan peluang transisi ekonomi rendah karbon dan memimpin pembangunan melalui kemajuan teknologi di bidang kecerdasan buatan.
Kecerdasan buatan harus menjamin pekerjaan yang layak dan meningkatkan produktivitas.Sistem kecerdasan buatan memiliki potensi untuk meningkatkan produktivitas, merangsang inovasi, dan menciptakan lapangan kerja, tetapi juga menimbulkan tantangan, kekhawatiran, dan risiko terhadap lingkungan kerja, intensitas pekerjaan, dan penggantian pekerjaan, yang mengancam pekerjaan dan martabat pekerja. Dengan pesatnya perkembangan platform digital dan dampak struktural kecerdasan buatan generatif terhadap pasar tenaga kerja, kami harus menjamin hak dan kesejahteraan semua pekerja, terutama kelompok yang terkena dampak langsung transformasi digital. Desain, penerapan, dan penggunaan kecerdasan buatan harus mempertimbangkan adaptabilitas dan kompatibilitas sumber daya manusia, memanfaatkan keunggulan teknologi seperti kecerdasan buatan untuk mempromosikan pekerjaan yang layak dan lapangan kerja yang penuh dan produktif.
Kecerdasan buatan harus menjadi alat transformasi pendidikan dan pembelajaran.Sistem kecerdasan buatan dapat mengatur informasi, menyesuaikan pengalaman pribadi, dan memberikan rekomendasi, tetapi kami khawatir ketergantungan berlebihan pada sistem ini dapat memengaruhi kognisi manusia, proses pengambilan keputusan, dan kemampuan menghadapi lingkungan informasi yang kompleks. Kami berkomitmen untuk meningkatkan literasi digital masyarakat, terutama guru dan siswa, agar dapat mengevaluasi konten yang dihasilkan kecerdasan buatan dengan kritis, memahami bias algoritma, dan mengembangkan kesadaran otonomi pengetahuan serta kemampuan berpikir kritis.
4. Kecerdasan buatan yang etis, dapat dipercaya, dan bertanggung jawab untuk kebaikan semua orang
Kecerdasan buatan harus inklusif.Kami menyadari bahwa dalam kumpulan data dan model kecerdasan buatan, kurangnya pengetahuan, warisan budaya, dan nilai budaya berisiko disalahgunakan dan disalahartikan. Kami menegaskan pentingnya membangun kerangka kerja yang etis, transparan, dan bertanggung jawab, seperti Rekomendasi UNESCO tentang Etika Kecerdasan Buatan. Pengembangan sistem kecerdasan buatan harus sepenuhnya menghormati keragaman bahasa, budaya, ras, geografi, dan demografi setiap negara. Untuk ini, kami akan melakukan kerja sama internasional untuk melatih kumpulan data berkualitas yang komprehensif, multibahasa, dan inklusif, serta membina talenta kecerdasan buatan lokal.
Diskriminasi dan bias harus dikurangi.Kami membutuhkan alat yang kuat untuk mengidentifikasi dan mengurangi kesalahan serta bias algoritma negatif, memastikan mekanisme audit independen untuk menjaga keadilan, dan menetapkan standar evaluasi risiko bias untuk menghindari diskriminasi dan eksklusi. Sistem kecerdasan buatan yang dilatih dengan data diskriminatif sering kali berdampak paling parah pada perempuan, kelompok minoritas, penyandang disabilitas, serta kelompok rentan seperti anak-anak, remaja, dan lansia. Mendorong kolaborasi interdisipliner dari berbagai latar belakang sangat penting untuk menetapkan standar, meningkatkan interpretabilitas model, dan mengembangkan strategi tata kelola yang praktis, guna mencegah bias negatif dan mendukung pengembangan sistem kecerdasan buatan yang bertanggung jawab dan adil.
Kepentingan publik harus diutamakan.Kami akan memegang prinsip manusia sebagai pusat, membangun hubungan interaksi manusia-mesin yang harmonis, dan selalu menjadikan kecerdasan buatan sebagai alat untuk meningkatkan kemampuan manusia, dengan memastikan kontrol dan pengawasan akhir tetap di tangan manusia. Kami akan memprioritaskan pembangunan mekanisme pengawasan manusia, meningkatkan transparansi pengambilan keputusan kecerdasan buatan, dan memperkuat sistem akuntabilitas yang efektif, untuk memajukan pengembangan dan penerapan teknologi secara bertanggung jawab dan aman, mengurangi risiko, dan memaksimalkan manfaat sosial.
Kecerdasan buatan harus berbasis fakta.Konten teks, gambar, audio, dan video palsu yang dihasilkan kecerdasan buatan merupakan ancaman serius terhadap keaslian dan integritas informasi, yang dapat memicu manipulasi opini publik, gejolak sosial, dan merusak kepercayaan pada lembaga publik. Kami akan mengambil pendekatan tata kelola multidimensi untuk meningkatkan integritas informasi, memperkuat strategi pendidikan media dan kerja komunikasi lokal, termasuk mengembangkan alat untuk mengidentifikasi informasi palsu dan salah dengan cepat, meningkatkan literasi digital dan pemikiran kritis individu untuk memperkuat kemampuan mengidentifikasi konten online, serta menetapkan pedoman etika dan regulasi yang jelas, dengan tetap melindungi privasi dan keamanan data dalam pengembangan dan penerapan kecerdasan buatan di bidang penyebaran informasi.
Sistem kecerdasan buatan harus memegang keamanan dan kepercayaan.Kami menyadari pentingnya mencapai pengembangan kecerdasan buatan yang aman, etis, dapat dipercaya, dan bertanggung jawab untuk kebaikan umat manusia. Negara-negara harus bekerja sama untuk memajukan inovasi dan aksesibilitas teknologi kecerdasan buatan sambil mengatasi risiko langsung dan jangka panjang yang ditimbulkannya, dengan tetap mematuhi kebijakan dan pertimbangan keamanan nasional. Kami menegaskan pentingnya bekerja sama untuk mengatasi dan mencegah risiko penyalahgunaan teknologi kecerdasan buatan. Sistem kecerdasan buatan dan teknologi informasi dan komunikasi lainnya harus dirancang dengan hati-hati untuk mendeteksi dan mencegah penyalahgunaan, seperti penipuan, serangan komputer, kejahatan cyber, atau manipulasi data.
5. Jalan ke Depan
Kecerdasan buatan umum harus dikembangkan dengan hati-hati.Sangat penting bahwa penelitian kecerdasan buatan umum mengikuti pedoman etika dan diterapkan secara bertanggung jawab dan dapat dipercaya, untuk mendukung pertumbuhan ekonomi negara-negara, terutama pasar berkembang dan ekonomi berkembang, serta mengatasi tantangan mendesak dalam pembangunan ekonomi dan sosial. Jika hanya sedikit entitas yang mengendalikan kecerdasan buatan umum, ketidaksetaraan akan meningkat, menciptakan ketergantungan teknologi baru dan tantangan serius bagi pembangunan berkelanjutan.
Menuju kecerdasan buatan yang adil dan inklusif.Negara-negara BRICS akan mengambil langkah bersama yang proaktif untuk menciptakan lingkungan digital yang adil bagi semua, menentukan pandangan bersama, memperkuat kerja sama global, memajukan dialog tata kelola kecerdasan buatan global PBB dan kelompok sains kecerdasan buatan internasional, serta memastikan partisipasi dan peran berarti negara berkembang dalam proses terkait. Kami akan menyatukan kekuatan semua pihak untuk mempromosikan prinsip-prinsip bersama, termasuk pedoman di atas, di platform internasional. Kami menyambut kontribusi, terutama dari negara berkembang, untuk menyempurnakan pedoman ini, dan akan terus menyempurnakannya dengan sikap terbuka.