En un intento de ser un asistente útil, Claude puede ocasionalmente producir respuestas que son incorrectas o engañosas.

Esto se conoce como "alucinar" información, y es un subproducto de algunas de las limitaciones actuales de los modelos de IA generativa de vanguardia, como Claude. Por ejemplo, en algunas áreas temáticas, es posible que Claude no haya sido entrenado con la información más actualizada y pueda confundirse cuando se le pregunta sobre eventos actuales. Otro ejemplo es que Claude puede mostrar citas que pueden parecer autorizadas o sonar convincentes, pero que no están basadas en hechos. En otras palabras, Claude puede escribir cosas que pueden parecer correctas pero están muy equivocadas.

Los usuarios no deben confiar en Claude como una única fuente de verdad y deben examinar cuidadosamente cualquier consejo de alto riesgo dado por Claude.

Al trabajar con resultados de búsqueda web, los usuarios deben revisar las fuentes citadas por Claude. Los sitios web originales pueden contener contexto o detalles importantes no incluidos en la síntesis de Claude. Además, la calidad de las respuestas de Claude depende de las fuentes subyacentes a las que hace referencia, por lo que revisar el contenido original te ayuda a identificar cualquier información que pueda ser malinterpretada sin el contexto completo.

Puedes usar el botón de pulgar hacia abajo para hacernos saber si una respuesta en particular no fue útil, o escribirnos a feedback@anthropic.com con tus pensamientos o sugerencias.

Para aprender más sobre cómo funciona la tecnología de Anthropic y nuestra investigación sobre el desarrollo de modelos más seguros, dirigibles y confiables, te recomendamos visitar: https://www.anthropic.com/research