Jakarta | Pada September 2026, kecerdasan buatan (AI) menjadi salah satu pokok pembahasan dalam sidang Majelis Umum Perserikatan Bangsa-Bangsa di New York. Para pemimpin dan perwakilan negara menyoroti laju perkembangan teknologi yang kian memengaruhi ekonomi, layanan publik, pendidikan, kesehatan, serta kehidupan sehari-hari. Mereka sama-sama mengakui bahwa AI berpotensi mempercepat inovasi dan membantu menjawab sejumlah tantangan global. Namun, pengakuan atas peluang tersebut belum berarti telah tercapai kesepakatan mengenai tata kelola yang diperlukan. Perbedaan pandangan tetap terlihat dalam pembahasan tentang batas pengembangan, pengawasan sistem berisiko, tanggung jawab perusahaan dan pemerintah, serta mekanisme untuk memastikan teknologi digunakan secara aman dan bertanggung jawab.
Sekretaris Jenderal PBB António Guterres menekankan bahwa kecerdasan buatan dapat membawa manfaat nyata bagi manusia apabila dikembangkan dan diterapkan secara tepat. Dalam bidang kedokteran, AI dapat membantu tenaga kesehatan mengolah informasi, mendukung diagnosis, dan mempercepat penelitian untuk menemukan pendekatan perawatan baru. Di ranah ilmiah, teknologi ini berpotensi menganalisis data dalam skala besar sehingga peneliti dapat menguji gagasan dan membuat penemuan dengan lebih efisien. Guterres juga melihat AI sebagai sarana untuk memperluas peluang, meningkatkan produktivitas, dan memperbaiki kualitas hidup. Potensi tersebut menjadikan teknologi ini penting dalam upaya pembangunan, tetapi hasilnya bergantung pada keputusan yang dibuat oleh negara, lembaga, dan pelaku industri.
Persoalannya, manfaat AI tidak otomatis tersebar merata. Negara dengan infrastruktur digital yang kuat, akses komputasi, tenaga ahli, dan investasi besar dapat bergerak lebih cepat dibandingkan negara yang masih menghadapi keterbatasan konektivitas maupun sumber daya. Ketimpangan serupa juga dapat muncul di dalam suatu negara, ketika hanya sebagian kelompok masyarakat mampu mengakses layanan dan keterampilan yang dibutuhkan. Karena itu, perdebatan di PBB mencakup bukan hanya cara mengurangi risiko seperti penyalahgunaan data, bias, dan dampak terhadap pekerjaan, tetapi juga cara membagikan keuntungan teknologi secara adil. Tanpa kerja sama internasional, pedoman yang inklusif, dan investasi pada kemampuan digital masyarakat, kemajuan AI berisiko memperlebar kesenjangan yang sudah ada. Tantangan utamanya ialah memastikan inovasi tetap berkembang sambil melindungi hak, keselamatan, dan kesempatan semua orang.
Perhatian Perserikatan Bangsa-Bangsa terhadap perkembangan kecerdasan buatan (AI) berangkat dari perlunya memastikan manfaat teknologi ini tidak dibarengi risiko yang diabaikan. Kemajuan AI dapat mendukung produktivitas, layanan publik, dan kegiatan ekonomi, tetapi dampaknya bergantung pada cara teknologi dirancang, diterapkan, dan diawasi. Tanpa pengamanan yang memadai, perubahan cepat tersebut berpotensi menimbulkan tekanan bagi pekerja, memperbesar ketimpangan akses, atau membuka peluang penyalahgunaan. Risiko-risiko ini merupakan kemungkinan yang perlu diantisipasi, bukan bukti bahwa seluruh dampak tersebut telah terjadi.
Salah satu kekhawatiran adalah perubahan kebutuhan tenaga kerja. Otomatisasi tugas tertentu dapat mengurangi permintaan terhadap sejumlah jenis pekerjaan atau mengubah keterampilan yang dibutuhkan, sehingga sebagian pekerja mungkin kesulitan menyesuaikan diri. Dampaknya tidak akan sama bagi semua orang: akses terhadap pelatihan, perlindungan sosial, dan pekerjaan baru dapat memengaruhi kemampuan untuk beradaptasi. Pada saat yang sama, jurang digital negara maju dan berkembang berpotensi melebar apabila teknologi, infrastruktur, keterampilan, serta investasi AI terkonsentrasi di wilayah yang sudah memiliki sumber daya kuat. Indonesia juga menghadapi tantangan untuk memastikan masyarakat dan pelaku usaha di berbagai daerah dapat memperoleh akses serta kemampuan yang memadai, bukan hanya menjadi pengguna teknologi yang dikembangkan pihak lain.
Peluang penyalahgunaan menjadi perhatian lain. Sistem AI dapat dimanfaatkan untuk membuat konten menyesatkan, mendukung penipuan, atau mengolah data secara tidak bertanggung jawab. Seberapa besar risikonya bergantung pada konteks penggunaan dan efektivitas perlindungan yang diterapkan. Karena itu, tantangan kebijakan bukan sekadar mempercepat adopsi atau membatasi inovasi, melainkan menjaga keduanya tetap seimbang. Pemerintah, perusahaan, peneliti, dan masyarakat perlu mempertimbangkan standar keselamatan, transparansi, perlindungan data, serta mekanisme pertanggungjawaban yang sesuai. Pengawasan yang memadai dapat membantu mengurangi bahaya tanpa menutup ruang bagi penelitian dan manfaat ekonomi. Dengan langkah antisipatif, perkembangan AI dapat diarahkan agar peluangnya lebih luas dan risiko terhadap pekerjaan, kesetaraan digital, serta keamanan publik tidak dibiarkan tanpa penanganan.
Dalam pembahasan Perserikatan Bangsa-Bangsa mengenai tata kelola kecerdasan buatan, sejumlah negara menyampaikan pendekatan yang berbeda, tetapi memiliki perhatian bersama terhadap manfaat dan risiko teknologi. Swiss menekankan perlunya regulasi yang dapat membangun kepercayaan publik tanpa menghambat inovasi atau menutup akses terhadap manfaat AI. Kerangka aturan, menurut pendekatan ini, perlu memberi kepastian bagi pengembang dan pengguna sekaligus melindungi masyarakat. Regulasi yang proporsional dapat membantu memastikan teknologi digunakan secara aman, serta memungkinkan manfaatnya dirasakan lebih luas, termasuk oleh negara dan kelompok yang belum memiliki kapasitas teknologi setara.
Jepang mendorong penguatan kerja sama internasional untuk memastikan keamanan sistem AI mutakhir. Karena kemampuan dan dampak teknologi tersebut dapat melintasi batas negara, upaya pengamanan dinilai tidak cukup dilakukan secara terpisah. Pertukaran informasi, dialog, dan penyelarasan langkah antarnegara dapat membantu mengurangi risiko sekaligus mempertahankan ruang bagi inovasi. Sementara itu, Arab Saudi menyoroti pentingnya etika dan penggunaan AI secara bertanggung jawab. Perhatian tersebut mencakup bagaimana teknologi dirancang, diterapkan, dan diawasi agar penggunaannya sejalan dengan prinsip yang melindungi manusia serta mendukung kepentingan masyarakat.
Singapura menempatkan pengujian teknologi dan pembangunan kepercayaan sebagai unsur penting dalam tata kelola AI. Pengujian dapat membantu mengidentifikasi kelemahan sebelum sistem digunakan secara luas, sedangkan keterbukaan dan akuntabilitas berperan dalam memperkuat keyakinan publik. Negara itu juga mendorong pelaporan insiden lintas negara, sehingga pengalaman mengenai kegagalan atau dampak berbahaya dapat dibagikan dan ditangani bersama. Singapura turut memperingatkan risiko ketika sistem AI memiliki kemampuan untuk beroperasi secara otonom. Sistem yang dapat mengambil tindakan dengan campur tangan manusia yang terbatas menuntut pengawasan dan langkah pengamanan yang sesuai. Ragam pandangan ini menunjukkan bahwa tata kelola AI memerlukan keseimbangan: aturan yang mendukung kepercayaan, kerja sama untuk menghadapi risiko lintas batas, serta praktik pengujian dan pelaporan yang dapat dipertanggungjawabkan. Pendekatan bersama juga penting agar negara-negara dapat merespons perkembangan teknologi tanpa mengabaikan perbedaan kapasitas dan kebutuhan masing-masing.
Pesan Presiden Majelis Umum PBB Khalilur Rahman menegaskan bahwa dunia tidak seharusnya menutup pintu bagi inovasi kecerdasan buatan. Teknologi ini dapat mendukung layanan publik, pendidikan, kesehatan, dan produktivitas, sekaligus membuka peluang ekonomi baru. Namun, manfaat tersebut tidak muncul secara otomatis. Pemerintah dan lembaga terkait perlu menyiapkan aturan yang mampu mengantisipasi risiko tanpa menghambat penelitian maupun pemanfaatan yang bertanggung jawab. Kerangka kebijakan yang jelas dapat memberi kepastian bagi pengembang, pengguna, dan masyarakat yang terdampak. Aturan juga perlu terus diperbarui seiring perubahan kemampuan sistem AI, agar perlindungan tidak tertinggal dari laju penerapan teknologi.
Pengawasan dan akuntabilitas menjadi bagian penting dari kerangka tersebut. Masyarakat perlu mengetahui bagaimana sistem AI mengolah data, menghasilkan rekomendasi, dan memengaruhi keputusan yang berdampak pada kehidupan mereka. Ketika keputusan otomatis menimbulkan kerugian, harus ada pihak yang dapat dimintai penjelasan dan bertanggung jawab untuk memperbaikinya. Prinsip transparansi tidak berarti semua rincian teknis harus dibuka tanpa batas, tetapi proses dan dasar keputusan penting perlu dapat diperiksa. Pengujian terhadap bias, keamanan, privasi, serta ketepatan sistem juga diperlukan sebelum dan selama teknologi digunakan. Dengan demikian, inovasi dapat dikembangkan tanpa mengabaikan hak, keselamatan, dan kepentingan publik.
Penekanan Sekretaris Jenderal PBB António Guterres sejalan dengan kebutuhan itu bahaya utama bukanlah.
Baca juga: Peringatan Kekeringan di Jakarta: Warga Dihimbau untuk Hemat Air | Transformasi Energi dan Digital: IEE Series 2026 di Jakarta
