China y Corea del Norte usaron ChatGPT para desinformar y manipular, según OpenAI
OpenAI, la empresa detrás de ChatGPT, anunció el viernes que ha eliminado cuentas de usuarios de China y Corea del Norte que, según la compañía, utilizaban su tecnología con fines maliciosos.
Entre estos fines se incluyen operaciones de vigilancia y manipulación de opinión pública. La empresa señaló que estas actividades reflejan cómo los regímenes autoritarios podrían intentar aprovechar la inteligencia artificial para afectar tanto a Estados Unidos como a sus propias poblaciones.
Detectan operaciones de influencia y fraude con IA
En un informe reciente, OpenAI detalló que utilizó herramientas de inteligencia artificial para identificar estas operaciones. Aunque no especificó cuántas cuentas fueron bloqueadas ni el período en el que ocurrieron estas acciones, la compañía reveló varios casos preocupantes.
Por ejemplo, usuarios generaron artículos en español con ChatGPT que criticaban a Estados Unidos, los cuales fueron publicados en medios de comunicación latinoamericanos bajo el nombre de una empresa china.
En otro caso, actores maliciosos, posiblemente vinculados a Corea del Norte, utilizaron la IA para crear currículos y perfiles en línea de candidatos ficticios. El objetivo era obtener empleos de manera fraudulenta en empresas occidentales.
Además, se identificó una operación de fraude financiero con base en Camboya que empleó la tecnología de OpenAI para traducir y generar comentarios en plataformas como X (antes Twitter) y Facebook.
Preocupaciones globales sobre el uso malicioso de la IA
El gobierno de Estados Unidos ha manifestado su preocupación por el supuesto uso de la inteligencia artificial por parte de China para reprimir a su población, difundir desinformación y socavar la seguridad de Estados Unidos y sus aliados.
Estas acciones resaltan los desafíos globales que plantea el uso indebido de tecnologías avanzadas como ChatGPT.
Con más de 400 millones de usuarios activos semanales, ChatGPT se ha consolidado como el chatbot de IA más popular del mundo.
OpenAI, que actualmente negocia una ronda de financiación récord de hasta $40,000 millones de dólares con una valoración de $300,000 millones, sigue enfrentando el desafío de equilibrar la innovación con la prevención de usos malintencionados de su tecnología.
Este caso subraya la importancia de establecer controles rigurosos en el desarrollo y uso de la inteligencia artificial, especialmente en un contexto donde las amenazas cibernéticas y la desinformación representan riesgos crecientes para la seguridad global.
Fuente: Reuters
