Investigadores Chinos Desarrollan la Herramienta «Woodpecker» para Corregir Alucinaciones en Modelos de IA

Un equipo de científicos de la Universidad de Ciencia y Tecnología de China y el laboratorio YouTu de Tencent ha creado una herramienta revolucionaria llamada «Woodpecker» para combatir el fenómeno de «alucinación» en modelos de inteligencia artificial (IA). Esta tendencia ocurre cuando un modelo de IA genera salidas altamente confiables que no parecen basarse en la información de sus datos de entrenamiento.

Cómo funciona «Pájaro carpintero»

Esta herramienta utiliza tres modelos de IA diferentes, incluyendo GPT-3.5 turbo, Grounding DINO y BLIP-2-FlanT5, junto con el modelo de lenguaje de gran escala multimodal (MLLM) que está siendo corregido. Juntos, estos modelos actúan como evaluadores para identificar alucinaciones y guiar al modelo corregido para regenerar su salida de acuerdo con los datos reales. El proceso implica varias etapas, como extracción de conceptos clave, formulación de preguntas, validación de conocimientos visuales, generación de afirmaciones visuales y corrección de alucinaciones.

Resultados Prometedores y Facilidad de Integración

Los investigadores informaron una mejora significativa en la precisión, alcanzando un aumento del 30,66% al 24,33% en comparación con otros modelos de referencia. Evaluaron varios MLLM «listos para usar» y concluyeron que Woodpecker puede ser fácilmente integrado en otros modelos similares.

Acceso a la herramienta

Una versión de prueba de Woodpecker está disponible en Gradio Live, donde los interesados ​​pueden observar la herramienta en acción y comprender mejor su funcionamiento.

Este desarrollo marca un paso significativo hacia la mejora de la precisión y confiabilidad en los modelos de IA, brindando una solución innovadora para un problema crítico en la industria de la inteligencia artificial.