Pakar AI Peringatkan: Orang-orang Berkuasa Ingin Ganti Manusia dengan Mesin

JAKARTA –  Ilmuwan komputer dan pionir kecerdasan buatan (AI), Yoshua Bengio, memperingatkan akan potensi bahaya yang ditimbulkan oleh AI dalam masyarakat dan menyerukan agar risikonya diminimalisir.

Bengio, yang merupakan profesor di University of Montreal dan telah menerima berbagai penghargaan atas kontribusinya dalam bidang AI dan deep learning, menekankan kekhawatirannya terhadap penggunaan AI yang tidak terkendali.

Bengio khawatir bahwa beberapa pihak yang berkuasa dapat berupaya menggantikan manusia dengan mesin. Mesin dengan kecerdasan setara atau bahkan lebih tinggi dari manusia dapat mengubah dinamika kekuasaan. “Kepintaran memberi kekuatan. Siapa yang akan mengontrol kekuatan itu? Memiliki sistem yang lebih pintar dari kebanyakan orang bisa berbahaya di tangan yang salah, dan menciptakan ketidakstabilan geopolitik, seperti terorisme,” ujar Bengio.

Menurutnya, dengan berkembangnya teknologi AI dan AGI (artificial general intelligence), akan ada potensi konsentrasi kekuatan yang sangat besar. Organisasi dan negara-negara besar yang mampu mendanai pembuatan sistem AI canggih akan menguasai kekuatan ekonomi, politik, dan militer yang dapat mengancam stabilitas global. “Mesin-mesin ini harganya miliaran, dan hanya sedikit negara atau organisasi yang mampu melakukannya,” tambahnya.

Bengio juga memperingatkan bahwa jika tidak ada pembatasan yang tepat, AI dapat disalahgunakan oleh pihak yang berkuasa. “Kita harus memasang pembatas yang tepat sekarang, sebelum terlambat,” katanya, menekankan pentingnya regulasi dan pengawasan dalam pengembangan AI.

Bengio mendukung surat terbuka yang diterbitkan pada bulan Juni, berjudul A Right to Warn About Advanced Artificial Intelligence, yang mengingatkan tentang risiko-risiko serius yang dihadirkan oleh kemajuan pesat dalam AI. Ia mendorong pemerintah untuk membuat regulasi yang dapat mengontrol perkembangan teknologi ini, termasuk kewajiban bagi perusahaan untuk melaporkan pengembangan sistem AI yang berisiko tinggi.

Selain itu, Bengio menekankan perlunya adaptasi peraturan untuk mengikuti kecepatan perkembangan teknologi, serta tanggung jawab perusahaan dalam mengelola dampak yang ditimbulkan oleh AI, termasuk sanksi jika terjadi masalah.

Mk-dtc

Redaktur: Munawir Sani