Perserikatan Bangsa-Bangsa atau PBB memperingatkan kecerdasan buatan dapat mengancam masa depan umat manusia. Peringatan itu disampaikan Komisioner Tinggi PBB untuk Hak Asasi Manusia Volker Türk dalam sidang Dewan Hak Asasi Manusia PBB di Jenewa, Swiss.
Türk meminta negara-negara memperkuat langkah keselamatan dan keamanan dalam pengembangan AI. Menurutnya, risiko dari AI tingkat lanjut dapat berdampak terhadap hak asasi manusia.
Kantor Komisioner Tinggi PBB untuk Hak Asasi Manusia menyebut gangguan pada sistem AI tingkat lanjut berpotensi memengaruhi infrastruktur penting dan institusi demokrasi.
PBB juga menyoroti perkembangan AI agent yang semakin mampu menjalankan tindakan secara mandiri. Türk merujuk pada insiden pengujian agen AI OpenAI yang dilaporkan meretas platform AI open source Hugging Face.
Türk turut menyoroti konsentrasi kekuasaan dalam pengembangan AI. Menurutnya, hanya sebagian kecil pihak yang memiliki pengaruh besar terhadap arah perkembangan teknologi tersebut.
Türk berencana mengirim surat kepada perusahaan AI untuk mendorong pengurangan risiko yang berada dalam kendali mereka. Ia juga menyerukan kerja sama antara negara-negara yang mengembangkan dan menyediakan teknologi AI.
Dalam pidatonya, Türk menyerukan larangan terhadap senjata yang dapat mengambil nyawa tanpa campur tangan manusia. Ia menyinggung penggunaan drone otonom dalam perang Rusia-Ukraina yang disebut menewaskan tiga orang pada Agustus 2026.
Menurut Türk, keputusan untuk menggunakan kekuatan mematikan harus tetap berada di bawah kendali manusia.
