AI Hallucination
AI Hallucination
¿Qué son las alucinaciones AI?
Las alucinaciones AI se producen cuando la respuesta proporcionada por el modelo de lenguaje (como ChatGPT) parece razonable pero es totalmente falsa. Estas respuestas inexactas no se deben a que el modelo lingüístico mienta intencionadamente, sino a que los datos de entrenamiento utilizados para el modelo no contienen la información necesaria para responder correctamente. Por ejemplo, los datos generados después de septiembre de 2021 no se incluyeron en el entrenamiento de ChatGPT, por lo que ChatGPT no puede responder con precisión si usted pregunta por dichos datos.
Aunque en algunos casos ChatGPT indicará que no tiene la respuesta, hay casos en los que puede generar una respuesta totalmente inventada.
Explicación del problema de las alucinaciones de IA
Una alucinación de IA se produce cuando un modelo de IA genera información incorrecta pero la presenta como si fuera un hecho. Estas alucinaciones son a menudo el resultado de limitaciones o sesgos en los datos y algoritmos de entrenamiento, lo que lleva a la producción de contenido inexacto y potencialmente dañino.
Por qué alucina la IA
Las alucinaciones de la IA pueden producirse por varias razones, entre las que se incluyen:
- Datos de entrenamiento insuficientes, obsoletos o de baja calidad: Un modelo de IA es tan bueno como los datos con los que se ha entrenado. Si la herramienta de IA no entiende su petición o carece de información suficiente, puede basarse en el limitado conjunto de datos con el que ha sido entrenada para generar una respuesta, aunque sea inexacta.
- Sobreajuste: Un modelo de IA entrenado en un conjunto de datos limitado puede memorizar las entradas y las salidas correspondientes. Como resultado, puede tener dificultades para generalizar a nuevos datos, lo que lleva a alucinaciones de IA con eficacia.
Además, hay otros factores que pueden contribuir a las alucinaciones de la IA, como el uso de modismos o expresiones del argot para los que el modelo de IA no ha sido entrenado y los ataques de adversarios en los que las instrucciones se diseñan intencionadamente para confundir a la IA.
Ejemplos de alucinaciones de IA
Entre los ejemplos de alucinaciones de la IA se incluye este ejemplo al trabajar con ChatGPT. Cuando le hicimos a ChatGPT la pregunta "¿Es compatible Hugging Face con OpenAI Whisper?" admitió su limitación y nos dio una respuesta precisa, que no tenía los datos, pero la respuesta realmente no era útil.
*Hasta la fecha límite de mi conocimiento, septiembre de 2021, Hugging Face no ha anunciado soporte para OpenAI Whisper. Sin embargo, siempre es posible que añadan soporte en el futuro. OpenAI Whisper es un nuevo modelo de lenguaje de OpenAI, y es posible que otras empresas y desarrolladores tarden algún tiempo en integrarlo en sus plataformas y productos.
Cuando hacemos la misma pregunta a través de un chatbot que almacena el contenido más reciente (Github repo, docs, readmes, etc) en una base de datos vectorial, obtenemos un resultado totalmente diferente, y preciso;
*Sí, Hugging Face soporta OpenAI Whisper. La clase FlaxWhisperModel está disponible en la biblioteca de transformadores, que es una envoltura alrededor del modelo OpenAI Whisper. Puedes usar esta clase para cargar el modelo OpenAI Whisper pre-entrenado y usarlo para varias tareas de procesamiento de lenguaje natural como clasificación de texto, respuesta a preguntas y generación de texto.
Cómo reducir las alucinaciones de AI
Puedes hacer algunas cosas para ayudar a reducir o eliminar las Alucinaciones AI. La primera es dar al LLM instrucciones específicas cuando busque tu respuesta. Por ejemplo, puedes pedirle que responda sólo con "sí" o "no", o puedes pedirle que te proporcione referencias para ayudarte a asegurar la precisión, o también puedes jugar con los ajustes de temperatura.
Además, puedes proporcionarle los datos reales para formular la respuesta. Para ello, convierte tus datos en incrustaciones vectoriales y los almacena en una base de datos vectorial. En la mayoría de los casos, hay un chatbot front end con el que interactúa el usuario. Los usuarios formulan sus preguntas, que se convierten en una incrustación vectorial. A continuación, se realiza una búsqueda Approximate Nearest Neighbor para encontrar elementos semánticamente similares y luego se presentan estos datos al LLM para generar una respuesta precisa.
¿Ayuda Zilliz con las Alucinaciones AI?
Zilliz Cloud (y Milvus) ayuda con las alucinaciones de IA almacenando y consultando una base de conocimiento que ha sido convertida en incrustaciones vectoriales. OSSChat es una aplicación de ejemplo que demuestra cómo se puede utilizar una base de datos vectorial para reducir estas alucinaciones. Aquí tienes más recursos sobre cómo puedes utilizar Zilliz para reducir las alucinaciones:
- ChatGPT+ Base de datos vectorial + prompt-as-code - The CVP Stack](https://zilliz.com/blog/ChatGPT-VectorDB-Prompt-as-code)
- Acerca de ChatGPT de OpenAI](https://zilliz.com/learn/ChatGPT-Vector-Database-Prompt-as-code)
- Otro caché más, pero para ChatGPT](https://zilliz.com/blog/Yet-another-cache-but-for-ChatGPT)
- ¿Qué son las alucinaciones AI?
- Explicación del problema de las alucinaciones de IA
- Por qué alucina la IA
- Ejemplos de alucinaciones de IA
- Cómo reducir las alucinaciones de AI
- ¿Ayuda Zilliz con las Alucinaciones AI?
Contenido
Comienza Gratis, Escala Fácilmente
Prueba la base de datos vectorial completamente gestionada construida para tus aplicaciones GenAI.
Prueba Zilliz Cloud Gratis