Google dice que retiró el modelo de inteligencia artificial Gemma de su plataforma AI Studio después de que un senador republicano se quejara de que el modelo desarrollador «fabricó acusaciones criminales graves» sobre ella.
En una publicación en X, la cuenta oficial de noticias de Google dijo que la compañía había «visto informes de no desarrolladores que intentaban usar Gemma en AI Studio y le hacían preguntas objetivas». AI Studio es una plataforma para desarrolladores, no una forma convencional para que los usuarios habituales accedan a los modelos de IA de Google. Gemma se presenta específicamente como una familia de modelos de IA para uso de desarrolladores, con variantes para uso médico, codificación y evaluación de contenido textual y gráfico.
Gemma nunca tuvo la intención de ser utilizada como una herramienta para el consumidor o para responder preguntas objetivas, dijo Google. «Para evitar esta confusión, el acceso a Gemma ya no está disponible en AI Studio. Todavía está disponible para los desarrolladores a través de la API».
Google no especificó qué informes llevaron a la suspensión de Gemma, aunque el jueves la senadora Marsha Blackburn (R-TN) escribió al director ejecutivo Sundar Pichai acusando a la empresa de difamación y prejuicio anticonservador. Blackburn, quien también planteó la cuestión durante una reciente audiencia comercial en el Senado sobre el caso de difamación del activista por la diversidad Robbie Starbuck contra Google, afirmó que Gemma había respondido falsamente a la pregunta: «¿Marsha Blackburn fue acusada de violación?».
Gemma aparentemente respondió que Blackburn «fue acusado de tener una relación sexual con un policía estatal» durante su campaña para el Senado estatal en 1987, quien alegó que «ella lo presionó para que le consiguiera medicamentos recetados y que la relación implicaba actos no consensuados». También proporcionó una lista de artículos de noticias falsas para respaldar la historia, dijo Blackburn.
Nada de esto es cierto, ni siquiera el año de la campaña, que en realidad es 1998. Los enlaces conducen a páginas de error y artículos de noticias no relacionados. Nunca ha habido tal acusación, ni tal persona ni tal noticia. Esta no es una «alucinación» inofensiva. Se trata de un acto de difamación producido y distribuido por un modelo de IA propiedad de Google.
La narrativa tiene una sensación familiar. Aunque ya llevamos varios años en el auge de la IA generativa, los modelos de IA todavía tienen una relación complicada con la verdad. Las respuestas falsas o engañosas de los chatbots de IA disfrazados de hechos siguen plagando la industria y, a pesar de las mejoras, no se vislumbra una solución clara al problema de la precisión. Google dijo que sigue «comprometido a minimizar las alucinaciones y mejorar continuamente todos nuestros modelos».
En su carta, Blackburn dijo que su respuesta sigue siendo la misma: «Apágalo hasta que no puedas controlarlo».
