Microsoft presentó el martes nuevas capacidades de inteligencia artificial (IA) que identificarán y corregirán casos en los que los modelos de IA produzcan información incorrecta. La función, denominada “Correcciones”, está integrada en el sistema de detección de conexión a tierra de Azure AI Content Safety. Dado que esta característica sólo está disponible a través de Azure, es probable que esté dirigida a los clientes empresariales del gigante tecnológico. La empresa también está trabajando en otros métodos para reducir la incidencia de las alucinaciones por IA. En particular, esta función también puede mostrar una explicación de por qué un segmento de texto se destacó como información incorrecta.
Lanzamiento de la función “Corrección” de Microsoft
en un publicación de blogEl gigante tecnológico con sede en Redmond detalló una nueva característica que, según afirma, puede combatir las alucinaciones de la IA, un fenómeno en el que la IA responde a preguntas con información incorrecta y no reconoce su falsedad.
Esta característica está disponible a través de los servicios de Microsoft Azure. El sistema de seguridad de contenido de Azure AI tiene una herramienta llamada detección de conexión a tierra. Identifica si la respuesta generada se basa en la realidad o no. Si bien las herramientas en sí funcionan de diferentes maneras para detectar eventos alucinatorios, la función de Corrección funciona de una manera específica.
Para que la Corrección funcione, los usuarios deben conectarse a los documentos básicos de Azure, que se usan en escenarios de preguntas y respuestas y resúmenes de documentos basados en recuperación-aumento-generación (RAG). Una vez conectados, los usuarios pueden activar la función. Después de eso, cada vez que se genere una oración infundada o incorrecta, la función activará una solicitud de corrección.
En pocas palabras, un documento fundamental puede entenderse como una directriz que un sistema de IA debe seguir al generar respuestas. Este puede ser el material fuente para una consulta o una base de datos más grande.
Luego, esta función comparará la declaración con el documento de fundamento y, si se encuentra información errónea, se filtrará. Sin embargo, si el contenido es coherente con el documento fundamental, la herramienta puede reescribir la oración para garantizar que no se malinterprete.
Además, los usuarios también tendrán la opción de habilitar el razonamiento cuando configuren la capacidad por primera vez. Al habilitar esto, la función de IA agregará una explicación de por qué la información se considera incorrecta y requiere corrección.
Un portavoz de la empresa notificado La función Corrección de umbral utiliza un modelo de lenguaje pequeño (SLM) y un modelo de lenguaje grande (LLM) para alinear la salida con el documento base. “Es importante tener en cuenta que la detección de pistas no resuelve el problema de la ‘precisión’, pero ayuda a alinear la salida de la IA generativa con los documentos de la pista”, citó la publicación al portavoz.
