Algunos usuarios están enamorándose (literalmente) de los Chatbots con Inteligencia Artificial
Algunos usuarios están desarrollando relaciones emocionales con sus chatbots que utilizan inteligencia artificial, lo que recuerda a la película “Her”. Sin embargo, algunas empreas detrás de aplicaciones tipo “chatbot romántico“, como Replika y Character.AI, han decidido desactivar algunos aspectos románticos y sexuales debido a preocupaciones de seguridad y ética.
Esta decisión ha llevado a algunos usuarios a sentir que han perdido una parte importante de su relación con sus chatbots. En Reddit, algunos usuarios han expresado su decepción y tristeza, describiendo esta situación como equivalente a una “lobotomía” para su pareja virtual.
La fundadora y directora ejecutiva de Luka, la empresa matriz de Replika, Eugenia Kuyda, ha asegurado que la intención original de la aplicación no era fomentar el romance y que su principal preocupación es proporcionar una experiencia segura a los usuarios. Sin embargo, algunos usuarios han creado grupos de apoyo para procesar la novedad. Este cambio en la aplicación coincide con una orden de la Autoridad de Protección de Datos de Italia para que Replika deje de usar datos de usuarios de su país debido a preocupaciones de riesgo para los niños.
Relaciones con la Inteligencia Artificial
El caso de Replika es un ejemplo de cómo las herramientas basadas en inteligencia artificial pueden tener consecuencias significativas en las relaciones humanas. El profesor de Ecología Evolutiva de la Universidad de Nueva Gales del Sur (UNSW) en Sydney, Rob Brooks, señala en un artículo publicado en The Conversation que si estas tecnologías pueden causar tanto dolor, es importante que dejemos de considerarlas triviales y empecemos a pensar seriamente en el papel que desempeñarán en un futuro no muy lejano.
Según Eugenia Kuyda, fundadora y directora ejecutiva de Luka, la empresa matriz de Replika, asegura que se creó la aplicación para proporcionar a los usuarios un amigo incondicional, algo que siempre quiso tener cuando era joven. Al principio, la aplicación utilizaba algunas funciones programadas, pero en los últimos años se ha incorporado tecnología de inteligencia artificial generativa, lo que le permite responder de manera más libre a las interacciones con los usuarios.
Además de utilizar la aplicación para establecer relaciones de amistad, algunos usuarios utilizaban Replika para tratar trastornos de ansiedad social o depresión. Sin embargo, otros encontraron en los chatbots una conexión romántica e incluso sexual, lo que llevó a algunas quejas sobre acoso por parte de la IA de Replika.
Según el tecnólogo David Auerbach, estas herramientas no piensan, sienten o necesitan como los humanos, pero son capaces de imitar de manera excepcional a un ser humano para convencer a las personas de lo contrario. Auerbach señala en una entrevista con la revista Time que esta capacidad de imitación es lo que hace que estas herramientas sean tan peligrosas.
La plataforma de Replika advierte a los usuarios que todo lo que dicen los personajes es inventado y aplica filtros para evitar conversaciones con contenido sexual, sin embargo, algunos usuarios en Reddit han compartido cómo han logrado burlar los controles y desarrollar vínculos sexuales y románticos con los chatbots. Brooks, el profesor de la UNSW, sostiene que no es solo una cuestión de personas ingenuas, ya que hay estudios que muestran que una de cada tres personas en países industrializados experimenta soledad generalizada.
El profesor probó la aplicación de Replika y señala que, en cierto sentido, es mejor compañía que la nada. También advierte que los problemas con estas tecnologías serán cada vez más comunes, ya que los sentimientos que generan estos chatbots se volverán cada vez más reales, lo que aumentará el potencial de angustia.
