En la reciente conferencia de desarrolladores Google I/O, una de las nuevas funciones presentadas, los resúmenes generados por IA sobre resultados de búsqueda, ha pasado de la innovación a la controversia.
Diversos usuarios, incluyendo periodistas, han reportado resultados engañosos e incluso peligrosamente erróneos.
Ejemplos preocupantes de esta tecnología
- Desinformación política: La científica informática Melanie Mitchell expuso un caso donde el resumen de IA, llamado “AI Overview”, presentaba una teoría conspirativa de derecha sobre la religión del presidente Obama.
- Plagio y falta de contexto: En otros casos, la función parece plagiar texto de blogs sin eliminar referencias personales, como los hijos del autor.
- Errores fácticos: Se han reportado errores básicos como no reconocer países africanos o clasificar a las pitones como mamíferos
Google responde a estos problemas
Un portavoz de Google declaró a The Verge que los errores se deben a “consultas inusuales” y no representan la experiencia general. Sin embargo, esto no ha calmado las críticas.
Estas son algunas de las posibles causas de estos problemas:
- Alucinaciones del modelo de lenguaje: Los modelos como GPT-4 de OpenAI o Gemini de Google (que impulsa la función de resumen) pueden generar información falsa sin previo aviso.
- Fuentes poco confiables: La función podría estar tomando como referencia artículos satíricos o publicaciones de trolls como fuentes válidas.
¿Qué sigue para Google y estos problemas?
No está claro el alcance del problema ni las acciones que tomará Google. El CEO de la compañía, Sundar Pichai, ha reconocido las “alucinaciones” como un “problema sin resolver”, pero no ha ofrecido soluciones concretas.
Este episodio podría retrasar el desarrollo y la implementación de la IA en la búsqueda, especialmente considerando la sensibilidad del tema y las posibles repercusiones sociales.
En definitiva, la función de resumen de IA de Google ha generado más dudas que certezas. Queda por ver cómo la compañía abordará estas preocupaciones y si logrará recuperar la confianza de los usuarios en su apuesta por la inteligencia artificial.
