Hay un debate interno en OpenAI sobre si debería o no hacerse pública alguna vez.
Según se informa, OpenAI tiene una forma de detectar si ChatGPT ha creado texto con un 99,9% de certeza, pero no la ha puesto a disposición del público.
Según The Wall Street Journal, el proyecto «ha estado sumido en un debate interno» en OpenAI durante dos años, y técnicamente ha estado listo para ser lanzado durante aproximadamente un año. La decisión de retrasarlo se debe a la lucha de la empresa entre el deseo de ser transparente sobre el uso de su producto y el deseo de atraer nuevos usuarios.
La idea, por supuesto, es que si llamas la atención a un grupo de estudiantes universitarios por usar tu herramienta para escribir sus trabajos de investigación, al final no la usarán para escribir sus trabajos de investigación. Es una victoria para los profesores, pero no para los tramposos y los procrastinadores entre nosotros.
La herramienta insertaría una especie de marca de agua en el texto creado por ChatGPT. La marca de agua no sería visible para el ojo humano; sin embargo, cuando se ejecute a través de la herramienta de detección de IA más tarde, el detector podría proporcionar una puntuación sobre la probabilidad de que el texto haya sido creado por ChatGPT.
Existe la preocupación interna de que las marcas de agua podrían borrarse traduciendo el texto a otro idioma y viceversa a través de un traductor como Google. Además, los empleados advierten que si demasiadas personas tuvieran acceso a la herramienta de detección, los actores maliciosos probablemente podrían descubrir la técnica de marca de agua de OpenAI, lo que dejaría la herramienta inservible.
Un portavoz de OpenAI le dijo al Journal que otra preocupación es que la herramienta podría afectar desproporcionadamente a los hablantes no nativos de inglés. Sin embargo, quienes quieren que se lance la herramienta argumentan que el bien que podría hacer supera al mal.
Google tiene una herramienta de marca de agua que puede detectar el texto creado por su inteligencia artificial Gemini. Esa herramienta, llamada SynthID, actualmente se está probando en versión beta, pero tampoco está disponible para el público.
