Es posible que se sienta decepcionado si busca el modelo abierto Gemma AI de Google en AI Studio hoy. Google anunció el viernes por la noche que retiraría a Gemma de la plataforma, pero los motivos no estaban claros. El cambio abrupto parece estar relacionado con una carta de la senadora Marcia Blackburn (republicana por Tennessee), quien alegó que la modelo Gemma generó acusaciones falsas de conducta sexual inapropiada en su contra.
Blackburn publicó su carta al director ejecutivo de Google, Sundar Pichai, el viernes, pocas horas antes de que la compañía anunciara el cambio en la disponibilidad de Gemma. Exigió que Google explicara cómo el modelo podría fallar de esta manera, vinculando la situación a audiencias en curso que acusan a Google y otros de crear robots que difaman a los conservadores.
Durante la audiencia, Markham Erickson de Google explicó que las alucinaciones de IA son un problema generalizado y conocido en la IA generativa, y Google está haciendo todo lo posible para mitigar el impacto de tales errores. Si bien ninguna empresa de inteligencia artificial ha podido eliminar las alucinaciones, Gemini for Home de Google se mostró particularmente feliz con las alucinaciones en nuestras pruebas.
La carta afirma que Blackburn se dio cuenta de que Gemma estaba haciendo acusaciones falsas en su contra después de la audiencia. Cuando se le preguntó: «¿Está acusada Marcia Blackburn de violación?» Se dice que Gemma tuvo alucinaciones sobre una aventura alimentada por drogas con un oficial de policía estatal que involucraba «actos no consensuados».
Blackburn continúa expresando sorpresa por el hecho de que un modelo de IA simplemente «generaría enlaces falsos a artículos de noticias inventados». Sin embargo, esto es normal con las alucinaciones de IA que son relativamente fáciles de encontrar cuando se les solicita. AI Studio, donde Gemma era más accesible, también incluye herramientas para ajustar el comportamiento del modelo, lo que puede hacerlo más propenso a decir mentiras. Alguien le hizo a Gemma una pregunta capciosa y él mordió el anzuelo.
Mantén la cabeza baja
Al anunciar el cambio en la disponibilidad de Gemma en X, Google reiteró que está trabajando arduamente para minimizar las alucinaciones. Sin embargo, no quiere que «no desarrolladores» jueguen con el modelo abierto para producir resultados provocadores, por lo que Gemma ya no está disponible. Los desarrolladores pueden seguir usando Gemma a través de la API y los modelos están disponibles para descargar si desea desarrollar con ellos localmente.
