La integración de la IA generativa en las agencias gubernamentales de EE. UU. marca un cambio significativo en cómo operan los servicios públicos. A medida que se desarrollan las iniciativas, vemos la necesidad de conciencia sobre tanto el potencial como los inconvenientes de estas tecnologías. Entender cómo la IA puede afectar la eficiencia del gobierno es esencial tanto para los ciudadanos como para los empleados, especialmente cuando el país enfrenta hasta 300,000 despidos esperados para fin de año.
Con años de experiencia en el análisis del impacto de la tecnología en varios sectores, tengo la intención de arrojar luz sobre la urgencia de estos desarrollos y sus implicaciones para todos los interesados involucrados.
¿Para qué se utiliza la IA generativa en el gobierno?
Actualmente, muchas agencias gubernamentales, como la Administración de Servicios Generales (GSA) y la Administración del Seguro Social, están utilizando tecnologías de IA generativa similares a ChatGPT para tareas mundanas. Estas incluyen redactar correos electrónicos y resumir documentos extensos, con el objetivo de aumentar la productividad laboral. Sin embargo, hay planes para ampliar aún más estos usos.
Por ejemplo, el Departamento de Asuntos de Veteranos está explorando el potencial de la IA para tareas de codificación. Mientras tanto, el Ejército de EE. UU. ha lanzado CamoGPT para agilizar las revisiones de documentos, aunque con objetivos controvertidos, como minimizar las menciones de diversidad, equidad e inclusión. El Departamento de Educación también está considerando la IA generativa para agilizar la comunicación relacionada con la ayuda financiera y el reembolso de préstamos.
¿Puede la IA generativa gestionar procesos complejos como la contratación?
La GSA tiene la intención de utilizar la IA generativa para procesos de contratación, donde el gobierno obtiene bienes y servicios de proveedores privados. Sin embargo, esto plantea la cuestión de si la IA realmente puede acelerar estas negociaciones intrincadas.
La contratación implica minuciosas discusiones legales y acuerdos contractuales, asegurando que los proveedores cumplan con las regulaciones federales. Si bien la IA generativa podría ayudar a los empleados gubernamentales en la búsqueda y el resumen de documentos de casos, su precisión en cuestiones legales sigue siendo debatible. Meg Young, investigadora de Data & Society, advierte que los abogados pueden encontrar que el contenido generado por IA es poco confiable para transacciones tan significativas, lo que podría obstaculizar la eficiencia en lugar de mejorarla.
¿Cuáles son los problemas conocidos con la precisión de la IA?
Los errores generados por la IA pueden socavar significativamente la confianza. Un estudio de 2024 mostró que las herramientas de IA, incluso aquellas especializadas en investigación legal, no lograron ofrecer contenido preciso entre el 17% y el 33% de las veces. Por ejemplo, un equipo legal enfrentó sanciones después de hacer referencia a casos ficticios producidos por ChatGPT mientras demandaban a Avianca Airlines.
Estos no son incidentes aislados. Los errores pueden variar desde identificar incorrectamente la decisión de un tribunal hasta no reconocer inexactitudes en los mensajes de los usuarios. Tales errores podrían desinformar a los empleados cuando el cumplimiento legal es crucial y depende de información correcta.
¿Está la IA generativa lista para la orientación fiscal?
El IRS aún no ha ofrecido un chatbot de IA generativa para el público, aunque un informe de 2024 sugiere invertir en capacidades de IA para consultas relacionadas con impuestos. Tales desarrollos plantean preguntas válidas sobre la precisión y confianza en dicho sistema, especialmente cuando una respuesta incorrecta podría afectar las obligaciones financieras.
¿Qué pasos deben tomar las agencias gubernamentales?
Si bien la IA generativa tiene un gran potencial, es imperativo que los organismos gubernamentales la adopten con precaución. Las recomendaciones incluyen:
- Claras advertencias indicando que los usuarios están interactuando con IA, no con un humano.
- Clarificación de que el contenido generado por IA no es jurídicamente vinculante.
- Una cadena de mando definida para supervisar el desarrollo y mantenimiento de estas herramientas.
Por ejemplo, Joshua Blank de la Universidad de California, Irvine, enfatiza que involucrar a expertos en tecnología sin una colaboración más amplia del departamento puede llevar a inconsistencias en la funcionalidad del chatbot.
El panorama en evolución de la IA generativa está en sus primeras etapas, y aunque se ha avanzado significativamente, muchas preguntas permanecen sin resolver. La IA puede redactar un correo electrónico de manera eficiente o ayudar en tareas administrativas, pero los desafíos que presenta en la gobernanza son complejos.
¿Qué deben saber los ciudadanos sobre la fiabilidad de la IA generativa? Un dato clave es que, aunque la tecnología puede proporcionar respuestas rápidas, su aplicación en áreas sensibles como la orientación legal y las regulaciones financieras requiere una cuidadosa consideración.
¿Es adecuada la IA generativa para tareas gubernamentales cotidianas? Sí, pero solo si se implementa de manera reflexiva. Como señala Meg Young, la prisa por desplegar estos sistemas es preocupante, eclipsando el diálogo esencial sobre su efectividad.
¿Hay beneficios en el uso de la IA generativa en el gobierno? Absolutamente, como lo demuestra un programa piloto en Pennsylvania que ahorró a los empleados un promedio de 95 minutos al día. Sin embargo, es crucial que las agencias lo adopten con una planificación medida y un enfoque en aplicaciones precisas.
A medida que examinamos el futuro de la IA en los procesos gubernamentales, es importante reconocer sus limitaciones mientras exploramos su potencial. El diálogo sobre el papel de la IA en la gobernanza está en curso, y, como ciudadano preocupado, mantenerse informado y comprometido es vital.
Siga explorando este fascinante tema para entender cómo las tecnologías en evolución están remodelando nuestra interacción con los servicios gubernamentales. Para más información, visite Moyens I/O.
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
