Google ajusta AI Overview tras errores de búsqueda y memes virales
La semana pasada, las redes sociales se llenaron de memes sobre las respuestas de inteligencia artificial (IA) en las búsquedas de Google, una funcionalidad reciente implementada en Estados Unidos.
Errores graves en resultados de AI Overview
Tras una oleada de capturas de pantalla que mostraban afirmaciones absurdas, como asegurar que Barack Obama fue el primer presidente musulmán de EE.UU., Google ha decidido restringir esta herramienta.
En una publicación el jueves, la compañía admitió varios errores flagrantes en su sistema de búsqueda potenciado por IA, explicando las causas y las medidas que tomarán al respecto.
Sin embargo, también aclararon que muchas de las capturas de pantalla que circulaban eran falsas, incluyendo una que sugería fumar a mujeres embarazadas. “La semana pasada, algunas personas compartieron reseñas extrañas y erróneas (junto con muchas capturas de pantalla falsas)”, indicaron.
Preguntas raras dan como resultado esas respuestas
A pesar de esto, Google reconoció que su IA a veces no proporciona información precisa. “Hubo algunas descripciones generales extrañas, inexactas o inútiles. Aunque generalmente eran consultas inusuales, destacaron áreas donde necesitamos mejorar”, señalaron.
Google atribuye estos problemas a que, aunque probaron exhaustivamente la función antes de su lanzamiento, los usuarios realizaron preguntas inusuales para probar los límites del sistema. Reconocieron que, para estas consultas raras, la IA recurrió a información de foros y otras fuentes no confiables.
“Observamos descripciones de IA que incluían contenido sarcástico o troll de foros. Aunque los foros pueden ser una gran fuente de información auténtica, también pueden contener consejos poco útiles, como usar pegamento para adherir queso a la pizza”, explicaron.
Muchas de estas respuestas probablemente provienen de Reddit, con el que Google firmó un acuerdo para entrenar su IA con contenido de la plataforma.
Cuatro Mejoras para la IA de Búsqueda
En respuesta, Google ha implementado cuatro cambios para mejorar las respuestas de su IA y limitar las respuestas absurdas:
- Mejora en la detección de consultas sin sentido y restricción de contenido satírico y humorístico.
- Limitación del uso de contenido generado por usuarios en respuestas que podrían ser engañosas.
- Omisión de las descripciones generales de IA para consultas en las que no sean útiles.
- Aplicación de nuevos límites de seguridad en temas de salud.
