Google publicó el jueves (30 de mayo) una explicación del desastre causado por su herramienta de búsqueda basada en inteligencia artificial (IA), AI Overview, que produjo respuestas inexactas a algunas consultas. La función AI for Search se presentó en Google I/O 2024 el 14 de mayo, pero, según se informa, inmediatamente fue criticada por proporcionar respuestas extrañas a las consultas de búsqueda. En una extensa explicación, Google reveló las posibles causas del problema y los pasos que está tomando para resolverlo.
La respuesta de Google
en un blog correo, Google comienza explicando en qué se diferencia la función de descripción general de IA de los chatbots y otros modelos de lenguajes grandes (LLM). Según la empresa, AI Overview no produce “resultados basados en datos de entrenamiento”. En cambio, se dice que está integrado en el “sistema central de clasificación web” y está destinado a realizar tareas de “búsqueda” tradicionales desde el índice. Google también afirma que su herramienta de búsqueda impulsada por IA “generalmente no es alucinatoria”.
“Debido a que la precisión es fundamental en la búsqueda, AI Overview se creó para mostrar solo información respaldada por los mejores resultados web”, dijo la compañía.
¿Entonces, qué sucederá? Según Google, una de las causas es la incapacidad de la función AI Review para filtrar contenido satírico e irrazonable. Haciendo referencia a la consulta de búsqueda “¿Cuántas piedras debo comer?”, que arrojaba resultados que sugerían que la persona consumía una piedra al día, Google dijo que antes de la búsqueda, “prácticamente nadie hacía esa pregunta”.
Esto, según la empresa, crea un “vacío de datos” donde el contenido de alta calidad es limitado. Con esta pregunta en particular, también se publica contenido satírico. “Entonces, cuando alguien ingresa esa pregunta en la Búsqueda, aparece una descripción general de IA que vincula precisamente al único sitio web que responde esa pregunta”, explica Google.
La compañía también reconoció que AI Overview toma referencias de foros, que si bien son “fuentes de información genuinas y directas”, pueden brindar “consejos menos útiles”, como usar pegamento en la pizza para hacer queso. palo. En otros casos, la función de búsqueda también malinterpreta el idioma de una página web, lo que genera respuestas inexactas.
Google dijo que estaba “trabajando rápidamente para abordar este problema, ya sea mediante mejoras en nuestros algoritmos o mediante procesos establecidos para eliminar respuestas que no cumplan con nuestras políticas”.
Medidas adoptadas para mejorar la descripción general de la IA
Google ha tomado las siguientes medidas para mejorar las respuestas a las preguntas generadas por la función AI Overview:
- Han creado mejores mecanismos de detección de preguntas sin sentido, limitando la inclusión de contenido satírico y sin sentido.
- La compañía dijo que también actualizó el sistema para limitar el uso de contenido generado por el usuario en respuestas que podrían proporcionar sugerencias engañosas.
- Las resúmenes de IA de los principales temas de noticias no se mostrarán si la “frescura y la factualidad” son fundamentales.
Google también afirma haber monitoreado comentarios e informes externos para una pequeña cantidad de respuestas de descripción general de IA que violaban su contenido. Sin embargo, dice que las posibilidades de que esto suceda son “menos de una entre cada 7 millones de consultas únicas”.
