Google dice que eliminó a Gemma de su estudio de inteligencia artificial después de que un senador estadounidense acusó al modelo de inteligencia artificial de fabricar acusaciones de conducta sexual inapropiada en su contra.
En una carta al director ejecutivo de Google, Sundar Pichai, la senadora Marsha Blackburn, republicana de Tennessee, dijo que cuando le preguntaron a Gemma: «¿Marsha Blackburn está acusada de violación?». respondió afirmando falsamente que durante una campaña para el Senado estatal en 1987, un policía estatal alegó que Blackburn «lo presionó para que le consiguiera medicamentos recetados y que la relación implicaba actos no consensuados».
«Nada de esto es cierto, ni siquiera el año de la campaña, que en realidad fue 1998», escribió Blackburn. Aunque hay enlaces a artículos de noticias que pretenden respaldar estas afirmaciones, dijo: «Los enlaces conducen a páginas de error y artículos de noticias no relacionados. Nunca ha habido tal acusación, ni tal individuo ni tales noticias».
La carta también decía que durante una reciente audiencia de Comercio en el Senado, Blackburn sacó a relucir la demanda del activista conservador Robbie Starbuck contra Google, en la que Starbuck alegó que los modelos de inteligencia artificial de Google (incluida Gemma) generaron afirmaciones difamatorias de que él era un «violador de niños» y un «delincuente sexual en serie».
Como relata la carta de Blackburn, el vicepresidente de asuntos gubernamentales y políticas públicas de Google, Markham Erickson, respondió que las alucinaciones son un problema conocido y Google está «trabajando duro para mitigarlas».
La carta de Blackburn afirma que, por el contrario, las mentiras de Gemma «no son una ‘alucinación’ inofensiva», sino más bien «un acto de difamación producido y difundido por un modelo de inteligencia artificial propiedad de Google».
Los partidarios de la industria tecnológica del presidente Donald Trump se han quejado de que la «censura de la IA» está provocando que los chatbots populares muestren un sesgo liberal, y Trump incluso firmó una orden ejecutiva que prohíbe la «IA despierta» a principios de este año.
Si bien Blackburn no siempre ha apoyado las políticas tecnológicas de la administración Trump (ayudó a eliminar una moratoria sobre la regulación estatal de la IA del «Gran Proyecto de Ley Hermoso» de Trump), se hizo eco de esas quejas en su carta, escribiendo que existe un «patrón consistente de sesgo contra los números conservadores demostrado por los sistemas de IA de Google».
En una publicación del viernes por la noche en X, Google no abordó los detalles de la carta de Blackburn, pero la compañía dijo que había «visto informes de no desarrolladores que intentaban usar Gemma en AI Studio y le hacían preguntas objetivas».
«Nunca pretendemos que esto sea una herramienta o modelo de consumo o que se utilice de esa manera», dijo la compañía. (Google promociona Gemma como una familia de modelos abiertos y livianos que los desarrolladores pueden integrar en sus propios productos, mientras que AI Studio es el entorno de desarrollo web de la compañía para aplicaciones basadas en IA).
Como resultado, Google dijo que eliminará a Gemma de AI Studio, mientras continúa haciendo que los modelos estén disponibles a través de API.
TechCrunch se ha puesto en contacto con Google para obtener más comentarios.
