Regulación Algorítmica: IA y automatización de la decisión pública

Diego Muñoz Vicuña

Doctor en Derecho Público y Máster en Derecho Público, Universidad Carlos III de Madrid, España. Abogado, Pontificia Universidad Católica de Chile.

Sus áreas de especialización comprenden la mejora regulatoria, la protección de datos personales y la regulación de transportes, telecomunicaciones y sistemas algorítmicos. Su tesis doctoral abordó la metarregulación.

Cuenta con publicaciones en estas materias, entre ellas el capítulo “Modelos de Evaluación de Impacto Algorítmico para las decisiones administrativas automatizadas”, incluido en la obra colectiva sobre actuación administrativa automatizada dirigida por Marcos Vaquer Caballería. Es socio de Mozó, Muñoz y Ruiz-Tagle Abogados.

Sebastián Mozó Moreno

Máster en Derecho con mención en Derecho Regulatorio, Pontificia Universidad Católica de Chile. Máster en Regulación con mención en Regulación Ambiental, London School of Economics, Reino Unido. Abogado, Pontificia Universidad Católica de Chile.

Sus áreas de interés comprenden el derecho regulatorio, la mejora regulatoria y la inteligencia artificial aplicada a procesos regulatorios.

Es director del Centro de Mejora Regulatoria (CEMRE) y miembro de la mesa de expertos en inteligencia artificial de la Oficina de Autorizaciones Sectoriales e Inversión del Ministerio de Economía de Chile. Cuenta con artículos en materias regulatorias y es socio de Mozó, Muñoz y Ruiz-Tagle Abogados

Este curso aborda la regulación algorítmica desde el punto de vista del Derecho Público y Administrativo. Así, a diferencia de aquellos cursos de inteligencia artificial y derecho en general (enfocados en cuestiones de contratación, propiedad intelectual, responsabilidad civil o innovación en el ejercicio profesional), este curso se centra en el fenómeno del Estado que decide utilizando sistemas algorítmicos y la institucionalidad llamada a controlarlo, así como el control público de los algoritmos de plataformas privadas. Ese encuadre lo sitúa de lleno en la lógica transversal del Derecho Regulatorio.  

El programa combina una serie de elementos: introducción, historia y conceptos de la regulación algorítmica, análisis comparativo y crítica del marco regulatorio nacional e internacional sobre el uso de IA, las distintas posturas contrapuestas que se han desarrollado en doctrina, análisis de casos emblemáticos a nivel internacional y los aprendizajes que éstos nos entregan al día de hoy.  

El curso tiene por objetivo que los estudiantes cuenten con las herramientas para afrontar la regulación algorítmica y adquieran un marco conceptual y jurídico que les permita analizar críticamente el uso de inteligencia artificial por la Administración. En particular, se busca que sean capaces de identificar cuándo una decisión administrativa automatizada es jurídicamente admisible, qué garantías del procedimiento administrativo se requieren y qué derechos de las personas resultan comprometidos, cómo se evalúan y gobiernan estos sistemas a lo largo de su ciclo de vida, y qué institucionalidad existe para controlarlos. Las clases se realizarán mediante plataforma de videoconferencia.

• Medios tecnológicos que permitan cursar el programa en línea.

RESULTADO DE APRENDIZAJE GENERAL 

• Analizar los fundamentos jurídicos y regulatorios del uso de sistemas algorítmicos por la Administración, considerando su admisibilidad, las garantías del procedimiento administrativo, los derechos de las personas y los mecanismos de gobernanza y control aplicables.

RESULTADOS DE APRENDIZAJE ESPECÍFICOS 

• Distinguir los principales conceptos y modelos de regulación algorítmica y su aplicación en la Administración del Estado.
• Analizar la legalidad de las decisiones administrativas automatizadas, considerando principios, derechos, garantías, transparencia y supervisión humana.
• Evaluar riesgos y mecanismos de prevención, supervisión y control de sistemas algorítmicos, considerando protección de datos, ciberseguridad y evaluación de impacto.

• Clase sincrónicas online.
• Estudio de casos nacionales e internacionales
• Discusión y análisis crítico de situaciones concretas
• Resolución colaborativa de situaciones jurídicas. 

Contenidos

Regulación algorítmica: contexto y marco conceptual

• Historia de la regulación algorítmica: de la administración electrónica a la administración automatizada.
• Taxonomía técnica mínima para abogados:
  • Sistemas code driven (acto reglado) y data driven (acto discrecional).
  • Grados de intervención humana: human-in-the-loop y human-out-of-the-loop.
  • Otras relevantes (sistemas expertos, aprendizaje automático, IA generativa).
• Mapa de los sistemas algorítmicos actualmente en uso en el Estado chileno.

El algoritmo en la regulación

• Los tres sentidos de la expresión "regulación algorítmica".
• Regulación por algoritmos: el algoritmo como instrumento regulatorio y el debate sobre su naturaleza reglamentaria.
• Regulación de los algoritmos: la inteligencia artificial como objeto regulado. 
• Actuación administrativa automatizada: sustitución o apoyo de la decisión pública mediante sistemas informáticos.  

El procedimiento administrativo ante la decisión algorítmica 

• El acto administrativo automatizado en la dogmática tradicional.
• Potestades regladas y discrecionales frente a la automatización.
• Compatibilidad de la decisión algorítmica con los principios de Derecho Administrativo.
• Sesgo de automatización (“la máquina siempre tiene la razón”) y la ficción de legalidad.
• Límites de la automatización: reserva de humanidad, presunción de falibilidad y derecho a la empatía humana.
• Deber de motivación y trazabilidad de la decisión pública automatizada.

La administración digital como innovación regulatoria

• La migración de la discrecionalidad desde el funcionario hacia quienes diseñan el sistema.
• El modelo chileno de la Ley N° 21.180, de Transformación Digital del Estado. 
• Automatización de las autorizaciones sectoriales bajo la Ley N° 21.770, Marco de Autorizaciones Sectoriales.
• Fracasos de la automatización administrativa en el derecho comparado:
  • Robodebt (Australia).
  • Sistema Horizon (Reino Unido).
  • SyRI y el escándalo de las prestaciones familiares (Países Bajos).
  • La calificación algorítmica de exámenes de Ofqual (Reino Unido, 2020).
  • COMPAS (Estados Unidos).

Garantías y derechos de las personas 

• Sesgos y discriminación: impacto dispar, igualdad ante la ley e interdicción de la discriminación arbitraria.
• Dificultades de prueba y de carga probatoria para acreditar un sesgo.
• Transparencia algorítmica y el problema de la opacidad técnica.
• Acceso al código fuente: el caso BOSCO (Tribunal Supremo español) y su eventual traslación a la Ley N° 20.285 y a la jurisprudencia del Consejo para la Transparencia.
• Explicabilidad algorítmica, el derecho a la explicación y a la supervisión humana efectiva. 
• Tutela administrativa y judicial de la decisión automatizada.

Instrumentos evaluativos frente a los riesgos y al impacto algorítmico

• Origen y evolución: technology assessment, evaluación de impacto en protección de datos personales y evaluación de impacto algorítmico.
• La evaluación de impacto algorítmico como instrumento para anticipar y gestionar los riesgos de los sistemas algorítmicos públicos.
• Modelos comparados:
  • La herramienta canadiense de evaluación de impacto algorítmico y su directiva sobre decisiones automatizadas.
  • El modelo uruguayo de evaluación de impacto algorítmico (AGESIC).
  • Modelo del Instituto de Derecho Europeo (ELI).

Datos personales, ciberseguridad y coordinación regulatoria

• La Ley N° 21.719 sobre protección de datos personales aplicada a la Administración del Estado.
• La Ley N° 21.663 sobre ciberseguridad aplicada a la Administración del Estado.
• La coordinación como principio jurídico exigible (Ley N° 21.719, Ley N° 21.663 y Ley N° 18.575).
• Institucionalidad y coordinación regulatoria: Agencia de Protección de Datos Personales, Agencia Nacional de Ciberseguridad, Contraloría General de la República, Consejo para la Transparencia y reguladores sectoriales.

El control público de los algoritmos de las plataformas digitales

• El debate sobre la intervención pública en los sistemas de recomendación y moderación de contenidos.
• Estrategias regulatorias implementadas en el derecho comparado: comando y control, nudge, boost, autorregulación regulada, corregulación y regulación basada en riesgos.
• El dilema institucional en Chile: convergencia tecnológica sin convergencia institucional (Subtel, CNTV y la ausencia de supervisión de las plataformas).
• El debate sobre un regulador convergente e independiente y el límite de controlar el poder algorítmico privado sin convertir a la agencia en censora.

• Sin evaluación

Los alumnos deberán ser aprobados con una asistencia mínima de 75%

El alumno que no cumpla con esta exigencia reprueba automáticamente sin posibilidad de ningún tipo de certificación.

Los alumnos que aprueben las exigencias del programa recibirán un certificado de asistencia digital otorgado por la Pontificia Universidad Católica de Chile. Además, se entregará una insignia digital.

Las personas interesadas deberán completar la ficha de postulación que se encuentra al costado derecho de esta página web y enviar los siguientes documentos al momento de la postulación o de manera posterior a la coordinación a cargo:  

• Fotocopia simple del carnet de identidad por ambos lados.

Con el objetivo de brindar las condiciones y asistencia adecuadas, invitamos a personas con discapacidad física, motriz, sensorial (visual o auditiva) u otra, a dar aviso de esto durante el proceso de postulación.

El postular no asegura el cupo, una vez inscrito o aceptado en el programa se debe pagar el valor completo de la actividad para estar matriculado.

No se tramitarán postulaciones incompletas.

Puedes revisar aquí más información importante sobre el proceso de admisión y matrícula.