Ilustrasi petani. Foto: Shutterstock
JAKARTA (marwahkepri.com) – Kecerdasan buatan atau AI memang semakin sering digunakan untuk membantu manusia mencari informasi dan mengambil keputusan. Namun, sebuah kasus di China menjadi pengingat bahwa jawaban chatbot tidak selalu bisa dipercaya begitu saja, terutama ketika menyangkut hal-hal yang memiliki risiko besar.
Seorang petani berusia 67 tahun di Chuzhou, China, harus mengalami kerugian besar setelah mengikuti saran sebuah aplikasi chatbot AI untuk mengatasi gulma dan hama di lahan pertaniannya.
Alih-alih menyelamatkan tanaman, saran tersebut justru membuat 10 hektare lahan pembibitan wijennya mati total.
Mengikuti Saran AI, Seluruh Tanaman Wijen Mati
Dikutip dari CTWANT, petani tersebut berkonsultasi dengan chatbot AI mengenai cara mengendalikan gulma dan hama.
AI kemudian memberikan rekomendasi campuran sejumlah bahan kimia, termasuk high-efficiency flupyrimethalin, flusulfasulfaether, thiamethoxazine, dan methyl salt.
Tanpa melakukan pengecekan lebih lanjut mengenai keamanan campuran tersebut terhadap tanaman wijen, sang petani mengikuti instruksi yang diberikan.
Ia mencampurkan bahan-bahan tersebut dan menyemprotkannya ke seluruh area lahan. Namun, keesokan paginya, petani tersebut menemukan sesuatu yang mengejutkan.
Bibit wijen di lahan seluas 10 hektare telah mati akibat paparan bahan kimia. Kerugian yang dialaminya pun tidak sedikit.
Ternyata Ada Bahan Kimia yang Membunuh Wijen
Setelah menyadari tanamannya mati, petani tersebut kembali berkonsultasi dengan chatbot yang sama.AI kemudian menjelaskan bahwa salah satu penyebab utamanya adalah flusulfasulfaether.
Bahan tersebut merupakan herbisida yang digunakan untuk membasmi gulma berdaun lebar di lahan tertentu. Masalahnya, tanaman wijen juga termasuk tanaman berdaun lebar.
Artinya, bahan kimia yang seharusnya digunakan untuk membunuh gulma tersebut juga dapat membahayakan tanaman wijen. Kesalahan berikutnya adalah cara penggunaannya.
Bahan tersebut seharusnya diaplikasikan secara spesifik pada gulma yang menjadi sasaran, bukan disemprotkan secara merata ke seluruh lahan.
Dengan kata lain, kesalahan bukan hanya terletak pada bahan yang digunakan, tetapi juga pada cara aplikasi yang dilakukan setelah mengikuti rekomendasi AI.
Petani Mengaku Kecewa
Petani tersebut mengaku marah karena chatbot tidak memberikan peringatan yang cukup mengenai risiko penggunaan bahan kimia tersebut terhadap tanaman wijen.
Padahal, ia mengaku sebelumnya sempat meragukan jawaban AI.
Namun setelah beberapa rekomendasi yang diberikan chatbot terbukti membantu, tingkat kepercayaannya meningkat.
Pada akhirnya, ia mengikuti saran AI tanpa melakukan pemeriksaan tambahan. Keputusan tersebut justru berujung pada kegagalan besar.
AI Bisa Memberikan Jawaban yang Terlihat Meyakinkan
Kasus tersebut memperlihatkan salah satu masalah terbesar teknologi AI generatif: jawaban yang terdengar meyakinkan belum tentu benar.
Chatbot AI bekerja dengan memproses informasi dan menghasilkan jawaban berdasarkan pola yang dipelajarinya. Dalam kondisi tertentu, sistem dapat salah memahami konteks, menggabungkan informasi yang tidak tepat, atau memberikan rekomendasi yang tidak sesuai dengan kondisi nyata.
Masalah ini sering disebut sebagai AI hallucination atau halusinasi AI.
Risikonya menjadi jauh lebih besar ketika jawaban AI digunakan untuk mengambil keputusan yang menyangkut kesehatan, keselamatan, keuangan, hukum, maupun penggunaan bahan kimia.
Bukan Kasus Pertama
Kasus petani di China tersebut bukan satu-satunya contoh dampak berbahaya ketika seseorang terlalu percaya kepada chatbot AI.
Sebelumnya, seorang pria berusia 60 tahun dilaporkan mengalami bromism, atau keracunan bromida kronis, setelah mencari alternatif garam menggunakan ChatGPT.
Pria tersebut bertanya mengenai zat yang dapat digunakan sebagai pengganti garam dalam diet. Chatbot kemudian menyarankan sodium bromide.
Masalahnya, sodium bromide bukan bahan yang aman untuk dikonsumsi sebagai pengganti garam makanan. Konsumsi zat tersebut dalam jumlah tertentu dapat menyebabkan keracunan.
Kasus itu menjadi contoh lain bahwa informasi dari chatbot tidak boleh langsung diperlakukan sebagai pengganti nasihat profesional.
AI Tetap Alat Bantu, Bukan Pengambil Keputusan
Perkembangan AI memang memberikan banyak manfaat. Teknologi tersebut dapat membantu mencari informasi, merangkum dokumen, membuat ide, menerjemahkan bahasa hingga membantu pekerjaan sehari-hari.
Namun, pengguna tetap harus memahami batasannya. AI bisa membantu memberikan informasi, tetapi tidak selalu memahami kondisi nyata di lapangan.
Dalam kasus pertanian misalnya, jenis tanaman, kondisi tanah, konsentrasi bahan kimia, cuaca, metode penyemprotan hingga karakteristik gulma merupakan faktor yang harus diperhitungkan.
Karena itu, rekomendasi yang diperoleh dari chatbot seharusnya diverifikasi kembali melalui sumber terpercaya, label resmi produk, ahli pertanian atau pihak yang memang memiliki kompetensi di bidang tersebut.
Kasus petani China ini pada akhirnya memberikan satu pelajaran penting: semakin besar dampak sebuah keputusan, semakin penting pula untuk tidak menjadikan jawaban AI sebagai satu-satunya sumber kebenaran. MK-mun
Redaktur : Munawir Sani
