Recientemente, las autoridades chinas han detenido a un individuo por presuntamente emplear ChatGPT con el propósito de generar y difundir noticias falsas. Este arresto marca un hito en el país, ya que es la primera acción tomada contra el mal uso de herramientas impulsadas por inteligencia artificial, según informaron las autoridades locales.
Investigación y arresto
El Departamento de Seguridad Pública explicó que el 25 de abril se identificó inicialmente como falsa una noticia que afirmaba que “un tren había atropellado a trabajadores de la construcción de carreteras en Gansu, cobrándose la vida de 9 personas”. Este hecho condujo a una pronta investigación por parte de la Policía de Seguridad de Internet.
Durante la fase inicial de la investigación, se descubrió que el artículo en cuestión había sido publicado simultáneamente en 21 cuentas de Baijiahao, una plataforma similar a un blog que es propiedad del gigante de búsqueda chino, Baidu.
Además, se informó que la información falsa había recibido alrededor de 15,000 visitas. En el siguiente paso de la operación policial, se llevó a cabo una búsqueda exhaustiva de los orígenes del artículo, lo que resultó en la identificación de una empresa registrada en Shenzhen y dirigida por un individuo de apellido Hong como responsable de las cuentas sospechosas.
Difundir noticias falsas en China resulta muy peligroso
Una semana después, la policía allanó la residencia de Hong y recopiló pruebas de sus sistemas informáticos. Las autoridades informan que el sospechoso ha admitido haber utilizado ChatGPT para manipular los sistemas de seguridad de Baijiahao, los cuales evitan la publicación de noticias duplicadas.
Para lograrlo, empleaba la herramienta de inteligencia artificial de OpenAI para crear varias versiones de artículos populares en la web y obtener ganancias ilegales mediante su publicación.
El 10 de enero de este año, la Administración del Ciberespacio de China implementó nuevas regulaciones en relación con el uso de la inteligencia artificial generativa en Internet. Según estas normas, todos los contenidos generados por IA deben estar debidamente etiquetados y contar con otros recursos para prevenir la desinformación.
Es importante destacar que, a lo largo de los años, el país asiático ha sido objeto de acusaciones por parte de diversos organismos internacionales debido a sus prácticas de censura de contenidos en Internet, implementadas a través de diferentes métodos.
Estos incluyen la conocida “Gran Muralla Cortafuegos” que limita o bloquea el acceso a ciertos servicios y páginas web extranjeras, así como el estricto control ejercido sobre las plataformas digitales que operan en el país.
