Algunos trabajadores dicen que los problemas podrían «inducir potencialmente incidentes cardíacos en Legal».
El pasado martes, en su conferencia anual de desarrolladores de Amazon Web Services, Amazon anunció Q, el chatbot de inteligencia artificial para empresas. Resulta que Q podría no estar del todo listo para el primetime.
Según documentos filtrados a los que ha tenido acceso el boletín tecnológico Platformer, Q está «experimentando graves alucinaciones y filtrando datos confidenciales». Algunas de esas filtraciones incluyen la ubicación de los centros de datos de AWS, programas de descuentos internos e incluso funciones no lanzadas.
En una declaración a Platformer, un representante de Amazon refutó las afirmaciones de que el chatbot está filtrando información confidencial.
«Algunos empleados están compartiendo comentarios a través de canales internos y sistemas de tickets, que es una práctica estándar en Amazon», dijo un portavoz. «No se identificó ningún problema de seguridad como resultado de esa retroalimentación. Agradecemos todos los comentarios que ya hemos recibido y seguiremos afinando Q a medida que pase de ser un producto en vista previa a estar disponible de forma general.»
Q es un chatbot centrado en los negocios que se puede personalizar para ayudar a los empleados con una variedad de diferentes funciones de trabajo, así como responder preguntas y generar contenido.
Cuando anunció el producto, Amazon dijo que varias empresas ya están utilizando Q, entre ellas Accenture, Amazon, BMW Group, Gilead, Mission Cloud, Orbit Irrigation y Wunderkind.
En lugar de extraer información de la web, como hacen muchos otros chatbots, Q extrae las respuestas de los «repositorios de información, bases de código y sistemas empresariales de la empresa», lo que hace aún más problemático que esa información sea incorrecta o se comparta con las personas equivocadas.
En noviembre, OpenAI presentó sus chatbots personalizables, llamados GPT, que pueden responder a preguntas utilizando datos internos en lugar de la web en general, aunque el lanzamiento de su GPT Store se ha retrasado debido a la agitación relacionada con el CEO.
