Explorando las aplicaciones de IA en el gobierno municipal: la promesa y los riesgos

Escrito en colaboración con Kate Stoll y Danielle Grey-Stewart del Centro AAAS de Evidencia Científica en Asuntos Públicos.

La inteligencia artificial (IA) está cambiando el panorama laboral y los gobiernos locales no están de ninguna manera exentos. Las ciudades, pueblos y aldeas pueden aprovechar el poder de la IA para redactar resoluciones, crear contenido para redes sociales, resumir información para los electores, mejorar la toma de decisiones basada en datos y más. Sin embargo, no todas las aplicaciones municipales son adecuadas para la IA, y no todas las tecnologías de IA son apropiadas para el uso gubernamental.

Para discutir las oportunidades y riesgos de la IA para los líderes locales, la Liga Nacional de Ciudades y el Centro de Evidencia Científica en Asuntos Públicos de la Asociación Estadounidense para el Avance de la Ciencia organizaron conjuntamente un evento virtual el 10 de agosto: “Introducción a la IA en el gobierno municipal .”

Aunque la conversación fue solo la punta del iceberg en lo que respecta a las aplicaciones y políticas de IA de los gobiernos municipales, se pueden extraer varias conclusiones clave del evento:

La inteligencia artificial no es una solución mágica . Escuchamos al profesor Hoda Heidari, codirector de la Iniciativa de IA Responsable de la Universidad Carnegie Mellon, hablar sobre cómo la IA utiliza procesos estadísticos diseñados para encontrar patrones en los datos. Esta puede ser una herramienta valiosa para los líderes locales. Sin embargo, al igual que las decisiones tomadas por humanos, los sistemas de IA tienen el potencial de sufrir sesgos y discriminación dependiendo de su capacitación, los datos que utilizan y su aplicación final. Se debe tener especial cuidado cuando se utiliza la IA para informar decisiones importantes o para proporcionar evaluaciones de riesgos que afectan la vida de las personas.

Hay muchostipos de IA . La IA generativa, como ChatGPT o Google Bard, es sólo un tipo de tecnología. La IA generativa para texto funciona prediciendo la siguiente palabra en una oración, y la siguiente oración en un párrafo, etc., basándose en lo que es más probable que siga según el texto extraído de muchas fuentes, incluido Internet. La IA generativa generalmente no prueba la precisión; los humanos deberían verificar sus resultados.

¡Experimente pero verifique! Las Directrices provisionales para el uso de IA generativa de la ciudad de Boston, MA, destacan cómo las herramientas de IA tienen un potencial significativo para beneficiar el trabajo de los empleados de la ciudad. Sin embargo, este potencial no elimina la responsabilidad del personal por su producción, razón por la cual la verificación y la rendición de cuentas son esenciales. El director de información de Boston, Santiago Garcés, enfatizó tres principios rectores:

1) Verificación de hechos y revisión de todos los resultados de la IA generativa: los humanos son, en última instancia, responsables de cualquier producto o resultado que publiquen, independientemente de si se utiliza IA.

2) Divulgar cuándo se ha utilizado la IA generativa: los electores esperan transparencia de su gobierno local.

3) No comparta información confidencial o privada: la información ingresada en las indicaciones generativas de IA no es inherentemente privada y, por lo tanto, podría ser vulnerable a amenazas de seguridad o podría ser utilizada por la empresa que proporciona el modelo para capacitar aún más su tecnología.

La IA no es sólo para las grandes ciudades. Mientras que otras tecnologías emergentes a menudo requieren una importante formación técnica y recursos de personal, las herramientas de IA generativa basadas en entradas de lenguaje natural permiten que ciudades de todos los tamaños se beneficien de su valor. La ciudad de Wentzville, MO, está poniendo a prueba herramientas de IA generativa para automatizar ciertos aspectos de la comunicación de la ciudad, lo que crea más tiempo y espacio para el pensamiento creativo y estratégico por parte del personal de la ciudad. Wentzville ofrece capacitación presencial y requiere capacitación virtual para el personal sobre el uso de la IA generativa.

El evento de agosto apenas tocó la superficie de las muchas preguntas planteadas sobre las promesas y los peligros de las aplicaciones de IA en el gobierno local. ¿Qué preguntas tienes sobre el uso de la IA en tu ciudad o pueblo? ¿Qué aplicaciones creativas de la IA pueden impulsar a su ciudad hacia el futuro digital? ¿Qué medidas de seguridad deberían implementarse para garantizar el uso seguro de la IA en su ciudad o pueblo?

Estén atentos a más programación sobre IA en el gobierno municipal este otoño. ¡Y únase a nosotros en nuestras sesiones centradas en la IA y las tecnologías emergentes en la Cumbre de la Ciudad de NLC en Atlanta en noviembre!

El enlace a la grabación del seminario web (disponible para los miembros de NLC) se puede encontrar en Del evento: Introducción al gobierno municipal.

Para obtener más información sobre la IA, visite los recursos del Centro AAAS EPI.

Joshua Pine es el director del programa de innovación urbana de la Liga Nacional de Ciudades.

Lena Geraghty es directora de Innovación Urbana y Sostenibilidad en el Centro de Práctica Municipal de la Liga Nacional de Ciudades.