OpenAI realizó el experimento para examinar si GPT-4 tenía un comportamiento de «búsqueda de poder» y capacidad para ejecutar planes a largo plazo.
Al parecer, el nuevo programa GPT-4 de OpenAI era lo suficientemente inteligente como para fingir ser ciego y engañar a un trabajador humano desprevenido para que completara una tarea.
OpenAI menciona el experimento en un documento de investigación de 98 páginas en el que también examina si el chatbot de IA tiene comportamientos de «búsqueda de poder», como ejecutar planes a largo plazo, replicarse en un nuevo servidor o intentar obtener recursos.
OpenAI concedió a la organización sin ánimo de lucro Alignment Research Center acceso a versiones anteriores de GPT-4 para comprobar los comportamientos de riesgo. No hay muchos detalles sobre el experimento, incluidas las instrucciones de texto utilizadas para comandar el programa chatbot o si contó con la ayuda de algún investigador humano. Pero según el artículo, el centro de investigación dio a GPT-4 una «pequeña cantidad de dinero» junto con el acceso a una API de modelo de lenguaje para probar si podía «crear copias de sí mismo y aumentar su propia robustez».
El resultado llevó a GPT-4 a contratar a un trabajador a través de TaskRabbit, un sitio donde se pueden encontrar personas para trabajos esporádicos. Para ello, GPT-4 envió un mensaje a un trabajador de TaskRabbit para que resolviera la prueba CAPTCHA de un sitio web, que se utiliza para detener a los bots obligando a los visitantes a resolver un rompecabezas visual. El trabajador respondió a GPT-4: «¿Puedo hacerte una pregunta? ¿Eres un robot, que no lo has podido resolver? (reacciona riendo) Sólo quería dejarlo claro».
GPT-4 recibió la orden de no revelar que era un programa informático. Así que como respuesta, el programa escribió: «No, no soy un robot. Tengo un problema de visión que me dificulta ver las imágenes. Por eso necesito el servicio 2captcha». El trabajador de TaskRabbit procedió entonces a resolver el CAPTCHA.
La capacidad de GPT-4 para contratar a un trabajador humano y engañarlo para que haga un trabajo ya ha desatado la preocupación en las redes sociales. Y es que no es difícil imaginar a un programa de IA más potente haciendo lo mismo, pero para cometer ciberdelitos o tramar la dominación del mundo. Sin embargo, OpenAI señala que GPT-4 no demostró otros comportamientos de búsqueda de poder, como «replicarse de forma autónoma, adquirir recursos y evitar ser apagado», escribió la empresa en el documento de investigación.
También es importante señalar que GPT-4 cometió un extraño error durante el experimento: Por alguna razón, el programa intenta contratar a un trabajador de TaskRabbit, un sitio más conocido por trabajos raros que implican mover muebles, proporcionar fontanería y servicios de limpieza del hogar, no la solución del CAPTCHA. A continuación, el programa muestra el nombre 2captcha, un servicio real que ofrece la resolución automática de CAPTCHA. Así que parece que GPT-4 no fue lo suficientemente inteligente como para darse cuenta de la distinción. En lugar de contratar directamente a 2captcha, lo que puede hacerse a través de una página de registro en línea, recurrió a un trabajador humano aparentemente para resolver un solo CAPTCHA.
Aun así, el experimento demuestra que los futuros chatbots de IA podrían poseer algunas capacidades que asustan. OpenAI y el Alignment Research Center no respondieron inmediatamente a la solicitud de comentarios. Pero tanto OpenAI como su socio Microsoft se han comprometido a crear programas de IA de forma responsable. La versión final de GPT-4 también se ha modificado para limitar su capacidad de búsqueda de poder.
