La Agencia de Protección Ambiental ha puesto a prueba la inteligencia artificial en «todo», pero su director de información quiere que sólo expertos en la materia utilicen la tecnología de alto nivel.
Durante un seminario web de FedInsider la semana pasada, el CIO Carter Farmer dijo que si bien la agencia ha estado probando la IA para revisar los comentarios públicos y analizar grandes conjuntos de datos científicos, todavía quiere que los expertos revisen los resultados.
«Algo que les decimos a nuestros empleados con bastante regularidad es que si no eres un experto en el tema para el que estás usando la IA, probablemente no deberías usarla porque puede ser muy convincentemente incorrecto», dijo. «Si no eres un experto en esto, validar estos resultados es muy difícil».
Otra razón por la que usar IA puede requerir más experiencia: «La ingeniería rápida es una habilidad real», dijo Farmer, y hacerlo bien rara vez es plug-and-play.
«La cantidad de personas que simplemente lanzan preguntas generales de búsqueda de Google a la IA y esperan que obtenga este resultado sorprendente, eso sucede a menudo», dijo. «Tener que aprender cómo funciona la IA (y cómo funciona realmente su parte posterior) es muy útil para pensar en cómo se debe utilizar esta herramienta».
Pero el uso diario de la IA por parte de la agencia no es tan elevado.
Farmer dijo que el mayor enfoque de la EPA en este momento es utilizar la IA para funciones de «bajo nivel» o «bajo riesgo», como escribir correos electrónicos y crear presentaciones. La agencia ha visto un salto «enorme» en el uso diario de la IA debido a que hay menos salvaguardias que antes, cuando la tecnología estaba comenzando, dijo.
«Si no se le da a la gente las herramientas que necesita, se corre el riesgo de que vaya más allá de lo que está disponible», afirmó. «No queremos que la gente use alguna herramienta pública; tenemos barreras de seguridad muy fuertes alrededor de sus herramientas de IA internamente. Así que queremos que las personas tengan las herramientas que necesitan para hacer su trabajo, pero también poner algunas barreras sobre lo que es seguro de usar y lo que no es seguro de usar».
Independientemente del nivel de uso de la IA, Farmer dijo que conducirá a errores y que la tolerancia cero ante los errores no es realista. Esperar una precisión del 100 por ciento y esperar demasiado significa que «nada será lo suficientemente bueno, por lo que gastarás mucho dinero y esfuerzo y no llegarás a ninguna parte», dijo.
«Este nunca es un logro que hayamos logrado en la historia de la humanidad», dijo. «Mantener la IA en un nivel superior al nuestro no es la forma de avanzar. Necesitamos ser capaces de asumir riesgos, entender dentro de ciertas salvaguardias qué es aceptable y qué no, y poder avanzar».
El desafío más difícil de todos es la «gestión del cambio», o lograr que la fuerza laboral alcance la velocidad de la IA, dijo Farmer, porque capacitar e implementar la IA requiere «mucho tiempo, esfuerzo y recursos».
«Le decimos a la gente: si no estás seguro o tienes reservas acerca de la IA, la mejor manera de abordar algo que no entiendes o en lo que no crees es informarte sobre eso. Especialmente si tienes sentimientos negativos al respecto; razón de más para educarte», dijo. «Incluso si no te hace cambiar de opinión, al final del día tendrás un mejor argumento».
La EPA tiene una comunidad de práctica y un chat de Teams donde las personas pueden discutir casos de uso y ayudar a acelerar la aprobación.
Farmer dijo que la EPA está actualmente ultimando una política de adquisición de IA «realmente sólida» porque le preocupan las fugas de datos y el riesgo de que los datos de la EPA se utilicen para entrenar modelos. La agencia utiliza IA para intentar comprender los términos y condiciones de la IA. «La mejor manera de aprender sobre la IA es preguntarle», dijo Farmer.
La EPA también «depende en gran medida» de las ofertas de inteligencia artificial de la Administración de Servicios Generales, señaló Farmer.
«Realmente nos ayuda a cruzar la línea de partida; tal vez no sea la línea de meta para superar algunos de esos obstáculos desde una perspectiva de adquisición y seguridad, y no nos hace comenzar desde cero», dijo.
Farmer dijo que el Consejo Federal de CIO está reutilizando el trabajo ya realizado en el gobierno sobre IA y aconsejó a otros que se apoyen en versiones anteriores de IA cuando sea apropiado.
«Cualquier cosa que probablemente estés tratando de resolver en tu agencia probablemente ya se haya resuelto entre 10.000 y 20.000 veces en cualquier otro lugar del mundo», afirmó. «No hay necesidad de salir y ser pionero en algo que ya han hecho 20 veces diferentes agencias».
