Aplikasi AI. Foto: Getty Images/alexsl
JAKARTA (marwahkepri.com) – Kekhawatiran mengenai perkembangan kecerdasan buatan (AI) dan potensi risikonya terhadap umat manusia kembali menjadi perbincangan setelah seorang peneliti senior Anthropic mengungkap perkiraan yang cukup mengkhawatirkan.
Evan Hubinger, yang memimpin bidang Alignment Science di Anthropic, mengatakan dirinya memperkirakan ada lebih dari 10% kemungkinan AI dapat membunuh seluruh manusia dalam satu dekade mendatang.
Pernyataan tersebut disampaikan Hubinger melalui X setelah rekannya, Jacob Coxon, mengumumkan pengunduran dirinya dari Anthropic. Coxon sebelumnya mengkritik perusahaan AI yang dinilainya terlalu cepat mengembangkan sistem yang mampu meningkatkan kemampuannya sendiri.
Pernyataan Hubinger kemudian memicu perbincangan luas di media sosial. Namun, ia memberikan penjelasan lebih lanjut mengenai sumber kekhawatirannya.
“Yang saya khawatirkan adalah superintelligence yang muncul dari recursive self-improvement, seperti yang telah kami katakan, terjadi lebih cepat dari perkiraan kami,” tulis Hubinger.
Apa Itu Recursive Self-Improvement?
Recursive self-improvement (RSI) merupakan konsep ketika sistem AI tidak hanya menjalankan tugas yang diberikan manusia, tetapi juga membantu meningkatkan proses pengembangan AI berikutnya.
Secara sederhana, sebuah AI yang lebih mampu dapat membantu merancang, melatih, menguji, atau memperbaiki sistem AI generasi berikutnya. Sistem baru tersebut kemudian memiliki kemampuan lebih tinggi untuk kembali membantu menciptakan penerus yang lebih canggih.
Jika proses ini berlangsung sangat cepat, kemampuan AI berpotensi meningkat secara eksponensial dan membuat manusia semakin sulit mengawasi perkembangannya.
Anthropic sendiri mengatakan mereka belum mencapai tahap RSI sepenuhnya dan proses tersebut bukan sesuatu yang pasti terjadi. Namun, perusahaan mengakui AI sudah mengambil alih semakin banyak bagian dari siklus pengembangan AI dan hal tersebut mempercepat kemajuan penelitian.
AI Sudah Mempercepat Pengembangan AI
Kekhawatiran tersebut bukan hanya berasal dari pernyataan Hubinger.
Anthropic dalam kajiannya menyebut AI telah mempercepat pekerjaan para pengembangnya secara signifikan. Perusahaan mengatakan insinyurnya kini rata-rata menghasilkan kode sekitar delapan kali lebih banyak per kuartal dibandingkan periode 2021-2025.
Anthropic juga menunjukkan contoh ketika Claude digunakan untuk menjalankan proyek penelitian AI secara lebih mandiri. Dalam eksperimen tersebut, agen AI dapat mengusulkan hipotesis, melakukan pengujian, berbagi hasil dengan agen lain, kemudian melakukan iterasi.
Meski demikian, eksperimen tersebut masih melibatkan manusia. Manusia tetap menentukan masalah yang hendak diteliti dan membuat sistem penilaian. Anthropic juga menekankan bahwa hasil eksperimen tersebut belum bisa begitu saja diterapkan pada model berskala produksi.
Artinya, AI memang semakin banyak membantu manusia membangun AI, tetapi kondisi tersebut belum berarti mesin telah sepenuhnya mengambil alih proses pengembangan dirinya sendiri.
OpenAI Juga Soroti Risiko
Kekhawatiran serupa juga muncul dari internal OpenAI.
Kepala Ilmuwan OpenAI Jakub Pachocki memperingatkan bahwa manusia belum sepenuhnya siap menghadapi konsekuensi dari peningkatan kecerdasan mesin yang berlangsung cepat.
Pachocki menilai sistem AI yang dikembangkan dalam beberapa tahun mendatang dapat mengalami lompatan kemampuan besar dan semakin mampu memengaruhi proses pengembangannya sendiri.
Peneliti OpenAI lainnya, Jasmine Wang, juga memperingatkan bahwa perkembangan menuju RSI secara terlalu cepat dapat membawa risiko serius.
Sementara itu, Anna Wang dari Anthropic mengatakan belum ada rencana ilmiah yang benar-benar layak untuk mengatasi risiko yang muncul jika AI mampu memperbaiki dirinya sendiri secara rekursif.
Bukan Berarti AI Saat Ini Akan Membunuh Manusia
Pernyataan Hubinger perlu ditempatkan dalam konteks yang tepat.
Angka lebih dari 10% merupakan perkiraan pribadi Hubinger mengenai risiko dalam satu dekade mendatang, bukan prediksi bahwa AI saat ini memiliki peluang 10% untuk memusnahkan manusia.
Hubinger sendiri menekankan bahwa kekhawatirannya terutama berkaitan dengan kemunculan superintelligence melalui proses recursive self-improvement. Ia menilai perkembangan menuju kondisi tersebut berlangsung lebih cepat daripada perkiraan sebelumnya.
Perdebatan mengenai risiko kepunahan akibat AI sendiri bukan hal baru. Sejumlah ilmuwan dan tokoh industri telah lama memperingatkan kemungkinan AI menjadi terlalu kuat untuk dikendalikan manusia.
Namun, pernyataan terbaru dari orang-orang yang bekerja langsung di perusahaan AI besar seperti Anthropic dan OpenAI kembali memperbesar perhatian terhadap persoalan tersebut.
Di satu sisi, AI dapat mempercepat penelitian, pemrograman, dan pengembangan teknologi. Di sisi lain, semakin besar kemampuan AI untuk membantu menciptakan sistem yang lebih canggih, semakin penting pula memastikan manusia tetap memiliki kendali terhadap arah perkembangannya. MK-mun
Redaktur : Munawir Sani
