ChatGPT sigue preocupando a los expertos por sus continuos errores

La adopción de la Inteligencia Artificial se ha vuelto una tendencia imparable en el ámbito empresarial, con numerosas compañías invirtiendo en proyectos destinados a incorporar esta innovadora tecnología que está revolucionando el panorama global.

Errores más comunes de ChatGPT

A pesar de este entusiasmo, es importante destacar que estamos en las etapas iniciales de este fenómeno, y se aconseja precaución en su implementación.

Uno de los pilares fundamentales, como es el caso de ChatGPT, ha estado bajo escrutinio por parte de expertos, quienes han identificado ciertas respuestas generadas carentes de coherencia, lo que puede conducir a resultados inapropiados en diversas situaciones.

Preocupaciones asociadas al uso de ChatGPT

Aunque ChatGPT se percibe como una tecnología capaz de realizar tareas sorprendentes que facilitan el trabajo y brindan entretenimiento, no se puede ignorar que su uso plantea inseguridades.

Según una encuesta llevada a cabo por la Organización de Consumidores y Usuarios (OCU) en julio pasado, la mitad de los usuarios ha experimentado con ChatGPT, pero solo el 11% afirma utilizarlo con regularidad, y un modesto 3% lo emplea a diario.

Adicionalmente, un 24% de los encuestados expresa desconfianza en las respuestas proporcionadas por la aplicación de inteligencia artificial, lo que ha llevado a que dejen de utilizarla.

Josep Curto, profesor en los Estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC), destaca que “ChatGPT, al ser un sistema generativo, puede introducir errores, conocidos comúnmente como alucinaciones, en un claro ejemplo de antropomorfismo”.

Las imperfecciones más comunes de ChatGPT

En la vida, la perfección es una rareza, y la Inteligencia Artificial no es una excepción. ChatGPT es un ejemplo claro, ya que, aparte de no ofrecer respuestas claras a algunas preguntas formuladas, también muestra dificultad para comprender ciertos interrogantes, desviándose hacia temas no relacionados con el contexto original.

El profesor Curto destaca que “algunos de los errores más frecuentes de ChatGPT son de gran envergadura y pueden tener un impacto significativo en las respuestas que proporciona”.

Uno de los errores más frecuentes es la emisión de respuestas incorrectas o incompletas, y también se observan fallas en relación con hechos verificables.

Temas con mayor tasa de error en la IA

Otras áreas de vulnerabilidad incluyen el razonamiento matemático, respuestas éticamente cuestionables o con sesgos humanos, así como errores técnicos o sistémicos, y malentendidos en idiomas que no sean inglés, que es el idioma principal de esta tecnología.

Para abordar esta situación mientras se esperan mejoras que actualicen la herramienta de inteligencia artificial, los expertos sugieren verificar las respuestas a través de fuentes confiables para contrastar la información de manera más segura.

También aconsejan utilizar ChatGPT siguiendo ciertas pautas al formular preguntas para obtener respuestas más precisas, como el empleo de indicaciones específicas, una práctica que probablemente se vuelva más popular en el futuro a medida que la inteligencia artificial se integre de manera más sólida en nuestra sociedad.