Informe sobre algoritmos públicos advierte brechas en transparencia y plantea urgencia de fortalecer regulación de IA en el Estado
En el marco de la presentación del Informe Anual del Repositorio de Algoritmos Públicos, elaborado por el GobLab de la Universidad Adolfo Ibáñez, expertos del mundo público, privado y académico coincidieron en la necesidad de avanzar hacia una regulación más robusta y capacidades institucionales que acompañen el uso creciente de inteligencia artificial en el Estado.
La actividad contó con un panel de conversación sobre el estado del arte de la IA en el sector público y sus implicancias regulatorias, moderado por María Paz Hermosilla, directora de GobLab UAI, y con la participación de Kenneth Pugh, exsenador; Loreto Bravo, directora del Instituto de Data Science de la UDD; Pamela Gidi, del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación; y Luz María García, gerenta general de ACTI.
Desde ACTI, se valoró el informe por aportar evidencia y visibilizar una discusión clave: cómo asegurar que la transformación digital del Estado avance con confianza, transparencia y responsabilidad. Si bien Chile ha logrado avances relevantes en modernización digital, el diagnóstico muestra que estos no han ido de la mano con niveles equivalentes de transparencia algorítmica.
“Hoy los sistemas automatizados ya no son experimentales. Están incidiendo en decisiones públicas, en beneficios sociales y en la relación del Estado con las personas. Esto eleva el estándar y exige hacernos cargo de riesgos como sesgos, opacidad y eventuales afectaciones a derechos”, señaló García.
El informe identifica una brecha crítica entre el avance tecnológico y el desarrollo de regulación, transparencia y capacidades institucionales, lo que podría impactar directamente en la confianza en el Estado.
En ese contexto, se destacaron tres desafíos prioritarios: el fortalecimiento de capacidades dentro del sector público para diseñar y auditar sistemas algorítmicos; avanzar hacia una transparencia más significativa y comprensible; y anticipar la rápida expansión de nuevas tecnologías, como los sistemas conversacionales y chatbots, aún con marcos poco desarrollados.
Respecto a las implicancias regulatorias, desde ACTI se enfatizó que Chile enfrenta un punto de inflexión. “La regulación no puede seguir avanzando más lento que la implementación tecnológica. Se requieren marcos más vinculantes, pero también proporcionales y basados en riesgo, especialmente en sistemas que impactan derechos fundamentales”, afirmó García.
Asimismo, se subrayó que una regulación efectiva debe ir acompañada de capacidades institucionales sólidas y de certezas para el ecosistema tecnológico, permitiendo resguardar derechos sin frenar la innovación.
En relación con el sector privado, se destacó que las empresas ya están avanzando en la preparación para nuevas exigencias de transparencia algorítmica, como las establecidas en la ley de protección de datos personales. Este proceso se está abordando a través de mejoras en gobernanza de datos, incorporación de principios de ética y privacidad desde el diseño, y fortalecimiento de capacidades internas.
No obstante, se advirtió que, especialmente para las pymes tecnológicas, este proceso representa un desafío relevante, por lo que será clave contar con lineamientos claros y espacios de colaboración público-privada.
El encuentro concluyó con un llamado transversal a abordar este desafío como una tarea país, donde la articulación entre Estado, industria, academia y sociedad civil será fundamental para asegurar un desarrollo de la inteligencia artificial centrado en las personas y en la confianza pública.