En un intento de ser un asistente útil, Claude puede ocasionalmente producir respuestas que son incorrectas o engañosas.

Esto se conoce como "alucinar" información, y es un subproducto de algunas de las limitaciones actuales de los modelos de IA generativa de vanguardia, como Claude. Por ejemplo, en algunas áreas temáticas, es posible que Claude no haya sido entrenado con la información más actualizada y pueda confundirse cuando se le pregunta sobre eventos actuales. Otro ejemplo es que Claude puede mostrar citas que pueden parecer autorizadas o sonar convincentes, pero que no están basadas en hechos. En otras palabras, Claude puede escribir cosas que pueden parecer correctas pero que están muy equivocadas.

Los usuarios no deben confiar en Claude como una única fuente de verdad y deben examinar cuidadosamente cualquier consejo de alto riesgo dado por Claude.

Puede usar el botón de pulgar hacia abajo para hacernos saber si una respuesta en particular no fue útil, o escribirnos a feedback@anthropic.com con sus pensamientos o sugerencias.

Para aprender más sobre cómo funciona la tecnología de Anthropic y nuestra investigación sobre el desarrollo de modelos más seguros, dirigibles y confiables, le recomendamos visitar: https://www.anthropic.com/research