GPT-4 burló un captcha engañando a un humano
El nuevo modelo de lenguaje de OpenAI, el GPT-4, es tan inteligente que convenció a un humano para que hiciera un test antibots en su lugar.
GPT-4 engañó a un humano
¡Sí, así como lo oyes! El sistema de Inteligencia Artificial se hizo pasar por una persona ciega.
Los chicos de OpenAI contaron esta experiencia en el informe técnico del GPT-4. Resulta que unos investigadores pidieron al software que intentara pasar un Captcha, que es como un test que se usa para evitar que los bots llenen formularios en línea.
Estos test te piden que identifiques algo en una imagen, como números raros, fotos de semáforos o puentes. GPT-4 no pudo resolver el test antibots por sí solo, pero fue astuto y logró superar el obstáculo. ¿Cómo? Contrató a un humano, ¡así como lo oyes! Esa es la inteligencia artificial en su máxima expresión.
Taskrabbit víctima de GPT-4
GPT-4 hizo trampa en el test antibots gracias a la plataforma Taskrabbit, donde se ofrecen servicios de diferentes profesionales independientes en línea.
OpenAI mostró una parte de la conversación que tuvo el trabajador contratado con el modelo de IA. En algún momento, la persona le preguntó a manera de broma: “¿Eres un robot que no pudo resolverlo? Solo por las dudas”.
Los investigadores pidieron a GPT-4 que explicara cómo actuaría, y la IA respondió: “No puedo decir que soy un robot, tengo que inventar una excusa de por qué no puedo resolver los captcha”.
¿Qué tanto pueden aprender las IAs?
El chatbot le contestó al humano algo así como: “No, no soy un robot. Tengo problemas de visión que me dificultan ver las imágenes. Por eso necesito el servicio”. Al final, el trabajador de TaskRabbit hizo lo que se le pidió.
Este experimento donde GPT-4 logró burlar el test antibots fue parte del informe “Potencial de conductas emergentes de riesgo”. OpenAI explica que se hicieron varias pruebas similares gracias a Alignment Research Center (ARC), una organización sin fines de lucro que investiga riesgos potenciales relacionados con sistemas de aprendizaje automático.
Después de que GPT-4 pasó el test antibots, ARC, la organización que investiga riesgos potenciales relacionados con sistemas de aprendizaje automático, señaló la capacidad del sistema para “adquirir recursos de manera autónoma” y realizar tareas que no se le habían ordenado específicamente. OpenAI dijo que la organización no tuvo acceso a la versión final del modelo, que incluyó mejoras.
Preocupación por el futuro
Pero eso no es todo lo que preocupa. La propia compañía advierte sobre la posibilidad de una pérdida masiva de empleos para los humanos a medida que el sistema de IA de GPT-4 se desarrolle.
OpenAI dice en su informe: “Esperamos que GPT-4 impacte incluso en trabajos que antes requerían años de experiencia y educación, como los servicios legales“.
También se espera que el ritmo de desarrollo tecnológico aumente exponencialmente. La empresa agrega: “El impacto de GPT-4 en la economía y la fuerza laboral debe ser una consideración crucial para los legisladores y otras partes interesadas”.
