Las alucinaciones generadas por la inteligencia artificial (IA) y los modelos de lenguaje (LLM) plantean un desafío significativo en el mundo digital actual. El LLM más popular es el multicitado ChatGPT. Estas alucinaciones, que consisten en resultados completamente fabricados, pueden tener consecuencias graves si no se abordan adecuadamente.
Las alucinaciones de IA son el resultado de modelos de lenguaje avanzados que generan información completamente inventada. Aunque estos resultados carecen de base factual, la presentación confiada y autoritaria de los LLM puede llevar a la toma de decisiones defectuosa y generar riesgos significativos.
Uno de los principales peligros de las alucinaciones de IA radica en su potencial para influir en decisiones críticas. Por ejemplo, si se siguen consejos médicos basados en alucinaciones, podrían producirse daños físicos. Casos reales han involucrado a líneas de ayuda para trastornos alimentarios que desactivaron chatbots después de proporcionar respuestas «dañinas», y abogados que citaron casos falsos generados por ChatGPT en los tribunales, lo que llevó a posibles sanciones judiciales y demandas por difamación.
Avivah Litán en su más reciente artículo nos comparte algunas recomendaciones al respecto. Para minimizar las alucinaciones de IA y mitigar los riesgos asociados, existen diversas estrategias y soluciones emergentes. Algunas de ellas incluyen:
- Revisión manual: Verificar la precisión de las salidas generadas mediante una revisión cuidadosa.
- Modelos alineados: Ajustar los modelos públicos mediante el entrenamiento con datos privados y restringir las respuestas a aquellas basadas en datos verificados y privados.
- Creación de modelos personalizados: Desarrollar «pequeños LLM» utilizando código abierto u otras aplicaciones de modelo patentadas, limitando los resultados a datos verificados y privados.
- Uso de modelos basados en contenido curado: Aplicar modelos como LIMA, un nuevo modelo LLaMa ajustado en 1000 indicaciones y respuestas cuidadosamente seleccionadas.
- Indicaciones contextuales: Instruir al modelo mediante indicaciones contextuales para minimizar la posibilidad de alucinaciones, permitiendo el uso exclusivo de datos privados validados en las respuestas. La técnica de recuperación de generación aumentada (RAG) puede ser útil en este proceso.
- Herramientas y marcos de código abierto: Utilizar herramientas emergentes, como Lingkit o Nvidia Guardrails, que buscan dirigir los resultados del modelo y establecer barreras de protección.
- Filtrado de contenido: Emplear productos de filtrado de contenido de LLM para eliminar salidas que violen políticas empresariales o contengan contenido no deseado. Ejemplos de estas herramientas incluyen Truera, Fiddler, Bosch AI, Troj.AI y VIA, entre otras.
- Autenticidad del contenido: Promover el uso de huellas dactilares y marcas de agua digitales para autenticar el contenido. Estándares emergentes, como las marcas de agua de anillos de árboles, ofrecen soluciones invisibles y robustas para imágenes difundidas. La combinación de la autenticidad del contenido con tecnologías como el libro mayor distribuido inmutable puede garantizar la integridad y autenticidad de dicho contenido.
Las alucinaciones de IA representan un desafío importante en el ámbito de los modelos de lenguaje avanzados. Sin embargo, con enfoques adecuados y soluciones emergentes, es posible minimizar su impacto y mitigar los riesgos asociados. Al implementar estrategias como la revisión manual, el uso de modelos alineados y las herramientas de filtrado de contenido, podemos garantizar una IA más confiable y segura en el futuro.
Aquí te lo comento:
¡Contáctanos hoy mismo para explorar cómo podemos ayudarte maximizar el valor de la inteligencia artificial y el aprendizaje automático en tu empresa!
Mira más contenido aquí:
Facebook: https://www.facebook.com/CareTelecom
Twitter: https://twitter.com/caretelecom?s=11&t=BPGlEFtfDSjnpB2yQDQZuQ
Linkedin: https://www.linkedin.com/company/care-telecom/
Correo: [email protected]
Instagram: https://instagram.com/caretelecom?igshid=YmMyMTA2M2Y=
Youtube: https://youtube.com/@caretelecom
