Esta app para crear memes podría utilizarse para encubrir mentiras generando imágenes falsas por Inteligencia Artificial
Imagina tener una aplicación móvil que te brinde la posibilidad de generar coartadas impecables para encubrir tus engaños. Con esta herramienta, podrías crear imágenes convincentes que demuestren a tu jefe que estabas convaleciente en la cama en lugar de estar en la piscina.
Una IA para volver verdad alguna mentira
También podrías mostrarle a tu pareja una foto tuya jugando futbol con tus amigos, cuando en realidad estabas en la cama con otra persona. Pues bien, esa aplicación ya es una realidad, se llama Hotshot y utiliza la inteligencia artificial generativa para crear imágenes realistas de ti y de cualquier persona realizando cualquier actividad que se te ocurra.
Claramente, Natural Synthetics Inc., la empresa detrás de este “software”, no lo comercializa como una herramienta para engañar a otros, sino como una forma sencilla de crear memes divertidos de tus amigos.
Sin embargo, su uso real puede ser mucho más preocupante, ya que puede ser utilizado tanto para el engaño como para la creación de imágenes comprometedoras de personas, lo que puede resultar en situaciones de acoso o chantaje.
Hotshot no requiere el consentimiento de la otra persona para utilizar sus imágenes, lo que plantea una serie de problemas éticos y legales. Por el momento esta inteligencia artificial aún no puede cumplir todas sus promesas, es solo cuestión de tiempo antes de que aparezca una nueva versión que mejore su rendimiento.
Funcionamiento de la aplicación
Actualmente, la aplicación solo está disponible para iPhone. Según explica la compañía en su página de la App Store de Apple, el proceso de registro consiste en escanear tu rostro. A partir de ahí, se supone que Hotshot aprende rápidamente tus rasgos faciales, lo cual puedes ampliar añadiendo fotos de tus contactos.
Una vez que las imágenes de los protagonistas han sido cargadas, solo tienes que ingresar cualquier situación en el campo de texto, y el sistema generará fotos de ti y tus amigos en ese contexto.
Sin embargo, en algunas pruebas, la aplicación no ha funcionado tan bien como afirma Sastry. Aunque las imágenes generadas son fotorrealistas y recrean adecuadamente los escenarios que se plantean, los rostros no son muy logrados.
Queda mucho por pulir
Aunque tienen elementos que se asemejan a las caras originales, aún no son lo suficientemente convincentes como para engañar a nadie. No obstante, los resultados van mejorando con el uso y los creadores de Hotshot aseguran que la calidad aumentará a medida que más usuarios la utilicen.
Tanto Aakash como Natural Synthetics han sido bastante reservados acerca de la inteligencia artificial generativa que impulsa Hotshot. Sin embargo, es probable que estén utilizando Stable Diffusion, una IA de código abierto y gratuita que permite su integración en otras plataformas.
Las primeras versiones de Stable Diffusion presentaban los mismos errores que observamos en Hotshot, con imágenes demasiado estilizadas, como si hubieran sido suavizadas con un aerógrafo, y dificultades para representar las manos en proporciones correctas.
