Pilotaje de herramientas de Algoritmos Éticos en servicios públicos

Algoritmos Éticos es un proyecto del GobLab UAI que desarrolla herramientas gratuitas, estandarizadas, de código abierto y en español para evaluar y mitigar los riesgos éticos de los sistemas de inteligencia artificial en el sector público.

 

El GobLab UAI convoca a servicios públicos con proyectos de IA o ciencia de datos a participar en una nueva fase de pilotaje. Un piloto consiste en aplicar una de las herramientas a un caso real de la institución, de forma guiada y sin costo, para identificar riesgos éticos, técnicos y normativos, y obtener recomendaciones concretas de mitigación.

 

Las herramientas disponibles para pilotaje

Evaluación de Impacto Algorítmico. Identifica riesgos éticos desde una mirada técnica, legal y de gestión. Entrega un informe con el nivel de impacto del sistema y recomendaciones personalizadas en nueve dimensiones: proporcionalidad, normativa, protección de datos, licencia social, gobernanza, rendición de cuentas, transparencia, ciberseguridad y no discriminación.

 

Ficha de Transparencia Algorítmica. Documenta la lógica de decisión del sistema en un formato claro para el usuario, y permite cumplir con las Recomendaciones de Transparencia Algorítmica del Consejo para la Transparencia.

 

Medición de Sesgos y Equidad. Mide sesgos en las predicciones de modelos de clasificación binaria y multiclase sobre variables protegidas, en línea con la Ley N° 20.609.

 

Explicabilidad. Explica por qué el sistema llegó a una determinada conclusión, con lenguaje adaptado a tres perfiles: equipos técnicos, profesionales del dominio y usuarios generales. Aplica a modelos de clasificación y regresión con datos tabulares.

 

Cómo funciona un piloto

El proceso se estructura en cinco etapas. Primero, una capacitación en el uso de la herramienta, dirigida a un equipo que reúna perfiles técnicos, de proceso y de gestión. Luego, la ejecución sobre el caso real, que puede ser autónoma o conjunta con el equipo del GobLab. En la tercera etapa se analizan los resultados y la experiencia de uso, y se entregan recomendaciones. La cuarta consiste en el seguimiento de la implementación de esas recomendaciones. La quinta, opcional, es la difusión del piloto como experiencia destacada, resguardando la información confidencial del proyecto.

 

Postulaciones

El plazo de postulación vence el 16 de julio de 2026.

Formulario de inscripción: https://forms.gle/c5LRb9wFrhuXb2aS9

Consultas: [email protected]

 

Proyecto financiado por ANID – IT25I0161.