Artificial Intelligence (AI) semakin sering digunakan untuk mencari informasi, belajar, membuat tulisan, menerjemahkan bahasa, menganalisis data, hingga membantu menyelesaikan berbagai pekerjaan. Kemampuannya memberikan jawaban dalam hitungan detik membuat AI terlihat seperti sumber informasi yang selalu siap memberikan jawaban.
Namun, ada satu hal penting yang sering dilupakan: jawaban AI tidak selalu benar.
AI dapat menghasilkan jawaban yang terlihat meyakinkan meskipun sebagian informasinya keliru, kurang lengkap, atau tidak sesuai dengan konteks pertanyaan. Kondisi ketika AI menghasilkan informasi yang salah tetapi disampaikan dengan percaya diri sering disebut sebagai AI hallucination.
Karena itu, memahami risiko terlalu percaya pada AI menjadi penting, terutama ketika teknologi tersebut digunakan untuk belajar, bekerja, mengambil keputusan, atau mencari informasi penting.
AI generatif tidak bekerja seperti mesin pencari yang sekadar mengambil satu halaman web dan menampilkannya kembali. Model AI menghasilkan respons berdasarkan pola yang dipelajarinya dari data dan konteks percakapan.
Akibatnya, AI dapat menyusun jawaban yang terdengar masuk akal tetapi sebenarnya tidak akurat.
Kesalahan dapat terjadi karena beberapa faktor, seperti:
Inilah alasan mengapa jawaban yang terdengar profesional belum tentu merupakan jawaban yang benar.
AI hallucination adalah kondisi ketika sistem AI menghasilkan informasi yang salah, dibuat-buat, atau tidak didukung fakta, tetapi menyampaikannya seolah-olah benar.
Contohnya, seseorang meminta AI memberikan daftar sumber untuk sebuah tugas. AI dapat memberikan judul buku, nama penelitian, atau tautan yang terlihat masuk akal tetapi ternyata tidak pernah ada.
Masalah seperti ini menjadi berbahaya ketika pengguna tidak melakukan pemeriksaan dan langsung menggunakan informasi tersebut.
AI hallucination bukan berarti AI sengaja berbohong. Sistem tersebut tidak memiliki pemahaman manusia tentang kejujuran. Kesalahan terjadi karena cara model menghasilkan respons berbeda dengan cara manusia memverifikasi fakta.
Salah satu alasan orang mudah mempercayai AI adalah cara jawabannya disusun.
AI biasanya dapat memberikan respons dengan struktur yang rapi, bahasa yang lancar, dan penjelasan yang terlihat logis. Kondisi tersebut dapat membuat pengguna menganggap semua informasi di dalamnya sudah diverifikasi.
Padahal, gaya bahasa yang meyakinkan bukan bukti bahwa informasi tersebut benar.
Karena itu, jangan menggunakan kualitas tulisan sebagai satu-satunya ukuran kebenaran jawaban AI.
| Konteks | Risiko | Yang Sebaiknya Dilakukan |
|---|---|---|
| Sekolah | Informasi tugas bisa salah | Bandingkan dengan buku dan sumber terpercaya |
| Pekerjaan | Data atau analisis dapat keliru | Periksa kembali data sebelum digunakan |
| Berita | AI dapat memberikan informasi yang tidak terbaru | Cek sumber berita dan tanggal publikasi |
| Teknologi | Spesifikasi atau fitur produk bisa tidak akurat | Periksa situs resmi produsen |
| Kesehatan | Informasi dapat tidak sesuai kondisi seseorang | Gunakan sumber kesehatan terpercaya dan konsultasikan dengan tenaga profesional |
| Hukum | Aturan dapat berbeda berdasarkan wilayah dan waktu | Periksa peraturan dan sumber hukum resmi |
AI sebaiknya digunakan sebagai alat bantu, bukan sebagai satu-satunya sumber kebenaran.
Misalnya, ketika mencari informasi tentang sebuah smartphone, AI dapat membantu menjelaskan perbedaan teknologi atau memberikan gambaran umum. Namun, informasi seperti harga, spesifikasi, ketersediaan fitur, dan tanggal peluncuran sebaiknya diperiksa kembali melalui sumber resmi.
Begitu juga ketika menggunakan AI untuk tugas sekolah. Jawaban dari AI dapat dijadikan titik awal untuk memahami materi, tetapi informasi penting tetap perlu dibandingkan dengan buku pelajaran atau sumber yang diberikan guru.
Teknologi berubah sangat cepat. Spesifikasi perangkat, harga produk, kebijakan perusahaan, fitur aplikasi, aturan layanan, dan berbagai informasi lainnya dapat berubah sewaktu-waktu.
Karena itu, jangan menganggap jawaban AI sebagai informasi real-time kecuali sistem yang digunakan memang memiliki akses dan kemampuan pencarian informasi terbaru.
Untuk informasi yang sensitif terhadap waktu, selalu periksa:
Memeriksa jawaban AI tidak harus rumit. Kamu dapat menggunakan beberapa langkah sederhana.
Baca jawaban AI dan tandai informasi yang paling penting. Misalnya nama perusahaan, angka, tanggal, harga, spesifikasi, atau pernyataan faktual.
Untuk informasi tentang produk atau layanan, prioritaskan situs resmi perusahaan. Untuk informasi akademik, gunakan sumber pendidikan, jurnal, atau institusi yang kredibel.
Jangan hanya menggunakan satu sumber ketika informasi tersebut penting. Bandingkan informasi dari beberapa sumber yang memiliki reputasi baik.
Informasi lama belum tentu masih berlaku. Hal ini terutama penting untuk teknologi, harga, software, kebijakan, dan berita.
Kamu juga dapat meminta AI menjelaskan tingkat kepastian jawabannya atau menunjukkan bagian yang membutuhkan verifikasi. Namun, jawaban AI tersebut tetap bukan pengganti pemeriksaan terhadap sumber asli.
Kamu dapat memberikan instruksi yang lebih jelas kepada AI agar responsnya lebih mudah diperiksa.
Contohnya:
"Jelaskan informasi ini berdasarkan fakta yang dapat diverifikasi. Pisahkan fakta, asumsi, dan hal yang belum pasti."
Untuk tugas sekolah:
"Jelaskan materi ini dengan bahasa sederhana. Jika ada informasi yang tidak pasti, tandai bagian tersebut dan jangan mengarang sumber."
Untuk informasi teknologi:
"Berikan informasi yang dapat diverifikasi dan sebutkan bagian yang mungkin berubah karena pembaruan produk atau software."
Prompt seperti ini dapat membantu mengarahkan AI agar lebih berhati-hati, tetapi tetap tidak menjamin semua jawaban akan benar.
Risiko menggunakan AI bukan hanya tentang jawaban yang salah. Pengguna juga perlu memperhatikan informasi yang mereka masukkan ke dalam layanan AI.
Hindari memasukkan data sensitif atau rahasia tanpa memahami bagaimana layanan tersebut menangani data pengguna.
Contohnya:
Sebelum memasukkan data ke layanan AI, periksa kebijakan privasi dan pengaturan data pada layanan yang digunakan.
AI dapat membantu manusia bekerja lebih cepat, tetapi keputusan akhir tetap perlu mempertimbangkan konteks dan sumber informasi.
Untuk keputusan yang memiliki dampak besar, jangan hanya mengandalkan satu jawaban dari chatbot.
Contohnya adalah keputusan yang berkaitan dengan kesehatan, hukum, keuangan, keamanan, pekerjaan, atau pendidikan.
Dalam situasi seperti ini, AI dapat digunakan untuk membantu memahami informasi atau menyiapkan pertanyaan, tetapi keputusan penting sebaiknya melibatkan sumber resmi atau tenaga profesional yang sesuai.
Penggunaan AI mulai menjadi masalah ketika seseorang tidak lagi mencoba memahami informasi sebelum menggunakannya.
Beberapa tanda yang perlu diperhatikan antara lain:
Jika hal tersebut mulai terjadi, gunakan AI dengan pola yang berbeda. Coba berpikir atau mencari solusi sendiri terlebih dahulu, kemudian gunakan AI untuk membandingkan atau memperbaiki pemahaman.
Untuk mempermudah mengingat cara menggunakan AI dengan aman, kamu bisa menggunakan prinsip sederhana 3C: Check, Compare, Context.
(0)