La inteligencia artificial desarrollada por OpenAI, conocida como ChatGPT, desencadenó una explosión de contenido en línea que era generado por este sistema y, a simple vista, resultaba prácticamente indistinguible de un texto creado por un ser humano.
No es posible identificar texto generado por humanos o una IA
Esta notable similitud ha llevado a que estudiantes lo utilicen para escribir trabajos importantes o para utilizarla en algunos trabajos que pueden aprovechar esta tecnología. Sin embargo, esta proliferación de contenido generado por IA ha generado la necesidad de implementar una herramienta adicional para detectar su origen.
En respuesta a esta situación, OpenAI lanzó una herramienta que permite a los usuarios simplemente pegar un fragmento de texto y, tras analizarlo, revelar si fue generado por una inteligencia artificial o si proviene de la imaginación humana.
Aunque existen varias opciones disponibles en la red, la herramienta desarrollada por OpenAI parece no haber alcanzado su máximo potencial y aún presenta ciertas limitaciones en su eficacia.
OpenAI ha decidido abandonar su enfoque en la detección de contenidos generados por IA. Esta decisión se tomó de manera discreta el pasado 20 de julio, ya que la empresa optó por no publicar un post en su propio blog para informar sobre esta medida. En su lugar, realizaron una pequeña actualización en el post inicial con el que presentaron la herramienta a principios de año.
La principal razón que ofrecen para esta decisión es la falta de precisión que la herramienta proporcionaba al usuario. En otras palabras, no resultaba efectiva a la hora de discernir si un contenido de texto había sido creado por una IA o por un humano, lo que generaba falsos positivos y podía tener efectos contraproducentes.
Ante las dificultades en el campo de detección de contenido de texto, OpenAI ha decidido finalmente abandonar este enfoque y centrarse exclusivamente en la detección de contenido de audio y vídeo, tal como se mencionó en una nota publicada en enero.
Marcas de identificación para imágenes
Mediante un acuerdo entre OpenAI, Google, Microsoft y Meta, se han comprometido a implementar un sistema de marca de agua para los contenidos generados con IA, pero limitándose únicamente a los formatos de audio y vídeo.
Esto nos lleva a reflexionar si incluso la creadora de ChatGPT es capaz de desarrollar un algoritmo para detectar textos generados por su propia creación.
Aunque no se puede descartar la posibilidad de que en el futuro se logre avanzar en este campo, por el momento, este proyecto se ha mantenido en suspenso y ha quedado en segundo plano mientras la empresa se concentra en otros ámbitos.
