Dalam upaya untuk menjadi asisten yang membantu, Claude terkadang dapat menghasilkan respons yang tidak tepat atau menyesatkan.

Ini dikenal sebagai "berhalusinasi" informasi, dan merupakan produk sampingan dari beberapa keterbatasan saat ini pada model Kecerdasan Buatan generatif terdepan, seperti Claude. Misalnya, di beberapa bidang subjek, Claude mungkin tidak dilatih dengan informasi terbaru dan mungkin bingung ketika ditanya tentang peristiwa terkini. Contoh lain adalah Claude dapat menampilkan kutipan yang mungkin terlihat otoritatif atau terdengar meyakinkan, tetapi tidak berdasarkan fakta. Dengan kata lain, Claude dapat menulis hal-hal yang mungkin terlihat benar tetapi sangat keliru.

Pengguna tidak boleh mengandalkan Claude sebagai satu-satunya sumber kebenaran dan harus dengan cermat memeriksa setiap saran berisiko tinggi yang diberikan oleh Claude.

Anda dapat menggunakan tombol jempol ke bawah untuk memberi tahu kami jika respons tertentu tidak membantu, atau menulis kepada kami di feedback@anthropic.com dengan pemikiran atau saran Anda.

Untuk mempelajari lebih lanjut tentang bagaimana teknologi Anthropic bekerja dan penelitian kami tentang pengembangan model yang lebih aman, dapat diarahkan, dan lebih andal, kami sarankan untuk mengunjungi: https://www.anthropic.com/research