Diplomado en Evaluación ética de algoritmos

Cristóbal Rojas

Profesor asociado UC, Instituto de Ingeniería Matemática y Computacional. Doctor en Matemáticas de la Universidad de Pisa, Italia y en Ciencias de la Computación por el Ecole Polytechnique, Francia. Es además investigador principal del Centro Nacional de Inteligencia Artificial, CENIA. Sus áreas de investigación principales incluyen la teoría de algoritmos, aleatoriedad e información, complejidad computacional, y probabilidades.

José Verschae

Profesor asociado UC, Instituto de Ingeniería Matemática y Computacional. Doctor en Matemáticas de la Universidad técnica de Berlín, Alemania. Director del plan de estudios de Ingeniería Matemática en el IMC y editor asociado de Operational Research Letters. Sus áreas de investigación principal incluyen la aproximación y los algoritmos online, diseño de redes, y optimización combinatoria.

Rodrigo Carrasco

Profesor asociado UC, Instituto de Ingeniería Matemática y Computacional. Doctor en Ingeniería Industrial y Operaciones de la Universidad de Columbia, Estados Unidos. Es el director de la iniciativa de ciencias de datos UC. Sus áreas de investigación se centran en las analíticas prescriptivas, problemas combinatorios, y diseño y análisis de algoritmos de aproximación.

Denis Parra

Profesor asociado UC, Departamento de Ciencias de la Computación. Doctor en ciencia y tecnología de la información de la Universidad de Pittsburgh, Estados Unidos. Ha hecho pasantías de investigación en el TCD Dublín (en colaboración con IBM) y en Telefónica I+D en Barcelona. Sus principales áreas de investigación incluyen sistemas de recomendación, aplicaciones de minería de datos y aprendizaje automático.

Jocelyn Dunstan

Profesora asistente UC, Departamento de Ciencias de la Computación e Instituto de Ingeniería Matemática Computacional. Doctora en matemáticas aplicadas y física teórica, Universidad de Cambridge, Reino Unido. Sus áreas de investigación se centran en salud pública, especialmente en utilizar el aprendizaje automático y el procesamiento del lenguaje natural, minería de textos clínicos, y la priorización de pacientes. 

Julio Pertuzé

Profesor asistente UC, Departamento de Ingeniería Industrial y de Sistemas. Doctor en Ingeniería de Sistemas y Master of Science en Tecnología y Políticas Públicas del Massachusetts Institute of Technology (MIT) en Estados Unidos. Sus áreas de especialidad son la transferencia tecnológica, gestión tecnológica, estrategia, y gestión organizacional.

Matías Aránguiz

Instructor adjunto UC, Facultad de Derecho. Abogado UC, Máster en finanzas de la Shanghai University of Finance and Economics y candidato a doctor en Inteligencia Artificial en Mercados Financieros en Shanghai Jiaotong University. Subdirector del Programa Derecho, Ciencia y Tecnología UC.

Carlos Amunátegui

Profesor titular UC, Facultad de Derecho. Doctor en Derecho patrimonial por la Universidad Pompeu Fabra, ha sido profesor visitante en las universidades de Osaka y Columbia. Recientemente ha publicado un nuevo libro sobre Inteligencia Artificial en Tirant Lo Blanch, Arcana technicae, Derecho e Inteligencia Artificial (2020).

Ramón Alvarado

Profesor asistente en iniciativas en ciencias de datos, Departamento de Filosofía, Universidad de Oregon, Estados Unidos. Es doctor en filosofía por la Universidad de Kansas, Estados Unidos. Sus áreas de especialidad son la ética de los datos, la ética de la IA, la epistemología de las simulaciones informáticas y la filosofía de la computación.

El diplomado en Evaluación ética de algoritmos, es un diplomado interdisciplinario que ofrece herramientas técnicas y teóricas desde la matemática computacional, el análisis de datos, y la ética aplicada. 

Este diplomado resulta de suma importancia considerando los avances tecnológicos que vivimos como sociedad y la transversalidad de su implementación. Su énfasis responde a demandas propias del contexto nacional y mundial, que avanza a una tecnificación que no debiera quedar aislada de criterios éticos que la fundamenten. Se busca entregar una formación marcada por la capacidad de tomar decisiones informadas, críticas, y prudentes sobre desafíos éticos que las nuevas tecnologías algorítmicas nos plantean en todo tipo de organizaciones, públicas y privadas. 

Al capacitarse en la evaluación ética de tecnologías disruptivas algorítmicas, los estudiantes podrán distinguir los problemas éticos en diferentes etapas clave, haciéndose responsables de gestionar el uso de estas tecnologías desde una mirada ética crítica, pudiendo identificar consecuencias indeseadas en nuevos proyectos, así como también retroalimentar implementaciones o soluciones ya realizadas, integrando la ética a sus metodologías de trabajo individuales e institucionales.

El diplomado está dirigido a profesionales y grupos de trabajo interesados en capacitarse en nociones técnicas básicas del diseño, desarrollo e implementación de algoritmos, y su relación con evaluaciones éticas para su implementación a nivel institucional. Para esto, se estudiarán conceptos y técnicas de las ciencias de datos y la inteligencia artificial, tales como qué es un flujo de datos (pipeline), qué tipos de datos se pueden utilizar y para qué, en qué consiste la selección de variables, o aprender a distinguir entre desviación, covariantes, correlación, y causalidad. Asimismo, estos conocimientos se complementarán con el análisis de casos y estudio de principios de la ética aplicada de IA y algoritmos, ahondando en problemas como los sesgos, la injusticia, la discriminación, la responsabilidad, y la transparencia; con el fin de aprender a discernir en qué etapa del desarrollo o implementación de una solución algorítmica se deben hacer ciertas preguntas éticas y cómo enfrentar esos cuestionamientos, aprendiendo metodologías para integrar estas prácticas en los equipos de trabajo institucionales. 

El diplomado consta fundamentalmente de clases expositivas y análisis de casos, además de talleres de evaluación donde se pondrá en práctica lo estudiado en clases. Se trabajará en la modalidad online – clases en vivo (streaming), en la que el alumno mantiene una relación bidireccional con el docente y sus compañeros, apoyándose además de un escritorio virtual (LMS Moodle).

* Los contenidos del Diplomado integran los siguientes lineamientos para el estudio de principios éticos fundamentales en la implementación responsable de la IA: "Pautas de ética para una IA confiable", del Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (AI HLEG) creado por la Comisión Europea; "Política de Inteligencia Artificial" del Ministerio de Ciencia del Gobierno de Chile.

• Grado de licenciatura, título profesional o mínimo 5 o más años de experiencia en uno de los cargos afines mencionados anteriormente.
• Se recomienda altamente y a responsabilidad del estudiante, manejar el idioma inglés a nivel lectura, para poder acceder a bibliografía de este curso en ese idioma. 

1. Distinguir visiones interdisciplinarias de las éticas aplicadas con enfoque en tecnologías algorítmicas.
2. Identificar conceptos y planteamientos técnicos básicos y fundamentales sobre el diseño e implementación de algoritmos en contextos de alto impacto social.
3. Evaluar proyectos de implementación algorítmica mediante habilidades de análisis crítico y deliberación ética.

Curso 1: Introducción al mundo de los algoritmos

Nombre en inglés: Introduction to the world of algorithms

Horas cronológicas: 24 horas

Créditos: 5

Descripción del curso

Este curso es una introducción a los aspectos técnicos básicos del funcionamiento de los algoritmos: se explica qué son, cómo funcionan, y se ejemplifica su aplicación en tecnologías de aprendizaje profundo e inteligencia artificial que tienen un gran impacto social, como algoritmos de reclutamiento, de recomendación, o de diagnóstico. En este curso los estudiantes serán capaces de identificar los elementos fundamentales del desarrollo de soluciones algorítmicas y como se conectan con los problemas éticos que pueden surgir en las diferentes etapas de este desarrollo. La metodología de aprendizaje de este curso se basa en clases expositivas, trabajo de análisis de caso, discusión en clases, y trabajo cooperativo.

Resultados del Aprendizaje

1. Reconocer los aspectos técnicos básicos y las etapas del desarrollo algorítmico.
2.  Distinguir elementos de la ética de algoritmos integrada a las etapas técnicas del funcionamiento de estos.
3. Aplicar la ética de algoritmos a un caso real

 Contenido

• Unidad 1: ¿Qué es la IA, ¿qué es un algoritmo? y ¿Cómo funcionan?
  • Introducción a componentes básicos para el desarrollo de la IA
  • Desmitificando la IA: sobre lo que realmente es capaz de hacer
  • Algoritmos y su poder predictivo y de análisis: técnicas de aprendizaje profundo y reforzado
  • Sistemas automatizados para la toma de decisiones
  • La estructura del pipeline de datos y sus etapas metodológicas
  • Identificación de etapas de diseño e implementación
  • Procesos y decisiones: el rol del humano
• Unidad 2: Introducción a la ética de algoritmos
  • La ética aplicada a los algoritmos
  • Marcos y principios éticos de la IA
  • ¿Problema de qué o quién?: responsabilidades en IA
  • Aproximación al análisis de casos de algoritmos de alto impacto social

Metodología de enseñanza y aprendizaje

• Clases expositivas
• Talleres de introducción aplicados
• Trabajo de análisis de caso
• Discusión en clases
• Trabajo cooperativo.

Evaluación de los aprendizajes:

• Control de contenidos individual – 40% 
• Trabajo colaborativo de análisis de caso en grupos – 40%
• Participación individual en discusión en clases - 20%

Bibliografía

Mínima

• Domingos. P. (2012), A few useful things to know about machine learning. Commun. ACM 55, 10 (October 2012), 78–87.
• Ausín Díez, T. (2021), ¿Por qué ética para la Inteligencia Artificial? Lo viejo, lo nuevo y lo espurio. Sociología y tecnociencia. 11 (2), 1–16.
• Tsamados, A., Aggarwal, N., Cowls, J. et al. (2022), The ethics of algorithms: key problems and solutions. AI & Soc 37, 215–230.
• Abu-Mostafa, Y., Magdon-Ismail, M., & Hsuan-Tien, L. (2012). Learning From Data. AMLBook.
• Kearns, M. and Roth, A. (2019). The Ethical Algorithm: The Science of Socially Aware Algorithm Design. Oxford University Press, Inc., USA.

Complementaria

• Rodney. B, The Seven Deadly Sins of AI Predictions, October 6th 2017, MIT Technology Review. Recuperado de: https://www.technologyreview.com/2017/10/06/241837/the-seven-deadly-sins-of-ai-predictions/

Curso 2: Visiones interdisciplinarias: desafíos del desarrollo de tecnologías algorítmicas

Nombre en inglés: Interdisciplinary approaches: challenges of developing algorithmic technologies

Horas cronológicas: 24 horas

Créditos: 5

Descripción del curso

Este curso revisa el rol de las éticas aplicadas en el desarrollo de una ética de algoritmos desde dos ámbitos afines: la filosofía de la tecnología y el derecho. Los estudiantes se introducirán en las éticas aplicadas desde una mirada interdisciplinaria, ejemplificando su transversalidad e integración en una red sociotécnica de transformación. El curso es una introducción general a los desafíos éticos y legales de sociedades contemporáneas que se transforman desde la tecnificación digital. La metodología de aprendizaje de este curso se basa en clases expositivas online, trabajo de análisis de caso y discusión en clases.

Resultados del Aprendizaje

• Comparar las limitaciones y beneficios de la ética y su aplicación interdisciplinaria en base a la identificación de problemas de la misma índole.
• Discutir casos generales y de realidad nacional sobre el impacto de las tecnologías disruptivas como los algoritmos en la sociedad

Contenido

• Unidad 1: Filosofía de la tecnología: nueva ética en una sociedad tecnificada
  • Visiones sociotécnicas de la revolución algorítmica
  • Cuestionamientos críticos a las tecnologías disruptivas
  • Impacto de las tecnologías en dinámicas sociales
• Unidad 2: Desafíos de las tecnologías de datos: una mirada desde el derecho
  • Políticas y gestión de la IA a nivel público y privado
  • Limitaciones de regulaciones actuales
  • Directrices legales para la evaluación de problemas éticos en la IA

Evaluación de los aprendizajes:

• 2 Controles de lectura individuales con análisis argumentativo – 75%
• Participación individual en discusión en las clases – 25%

Metodología de enseñanza y aprendizaje

• Clases expositivas
• Trabajo de análisis de caso
• Discusión en clases.

Bibliografía

Mínima

• David Beer (2017) The social power of algorithms, Information, Communication & Society, 20:1, 1-13, DOI: 10.1080/1369118X.2016.1216147
• Binns, R. (2018). Algorithmic Accountability and Public Reason. Philos. Technol. 31, 543–556 . https://doi.org/10.1007/s13347-017-0263-5
• Boddington, P. (2020), 'Normative Modes: Codes and Standards', in Markus D. Dubber, Frank Pasquale, and Sunit Das (eds), The Oxford Handbook of Ethics of AI. Oxford, Reino Unido: Oxford University Press.
• Sartori, Laura & Theodorou, Andreas. (2022). A sociotechnical perspective for the future of AI: narratives, inequalities, and human control. Ethics and Information Technology. 24. 10.1007/s10676-022-09624-3. 
• Surden, H. (2020), Ethics of AI in Law: Basic Questions in Markus D. Dubber, Frank Pasquale, and Sunit Das (eds), The Oxford Handbook of Ethics of AI. Oxford, Reino Unido: Oxford University Press.

Complementaria

• Zabala Leal, T. D. (2021). La ética en inteligencia artificial desde la perspectiva del Derecho. Via Inveniendi Et Iudicandi, 16(2). https://doi.org/10.15332/19090528.6785

Curso 3: Cartografía de los elementos y criterios de la evaluación ética

Nombre en inglés: Mapping the elements and criteria for ethical evaluation

Horas cronológicas: 24 horas

Créditos: 5

Descripción del curso

En este curso se dividirán los elementos de discusión en principios éticos o áreas de acción, como, por ejemplo: privacidad, seguridad, justicia, sesgos, transparencia, y responsabilidad. Se comienza a problematizar la toma de decisiones desde una reflexión activa y crítica, integrando el aprendizaje logrado hasta esta etapa del curso. El mapeo consiste en consolidar las habilidades de identificación de elementos éticamente relevantes para la evaluación de soluciones algorítmicas y, al mismo tiempo, desarrollar capacidades de evaluación moral asociadas a principios centrales en la ética de algoritmos, la ética de la inteligencia artificial y la ética de datos como tres dimensiones distintas pero complementarias. La metodología de aprendizaje de este curso se basa en clases expositivas online, trabajo de análisis de caso, y discusión en clases.

Resultados del Aprendizaje

1. Examinar áreas y metodologías clave para la evaluación ética de algoritmos
2. Relacionar criterios éticos y técnicos con estrategias de evaluación crítica y preventiva aplicadas a contextos de gestión y liderazgo de proyectos basados en el uso de algoritmos.
3. Analizar casos de aplicación de algoritmos desde una metodología de deliberación ética reflexiva.

Contenido

• Unidad 1: Problemas en el diseño e implementación de algoritmos
  • Elementos ético-técnicos para la evaluación de proyectos de IA
  • Elementos ético-legales en auditorías algorítmicas
  • Etapas para la deliberación ética en el desarrollo de algoritmos
• Unidad 2: Áreas clave y estrategias de evaluación I
  • Transparencia, explicabilidad, e interpretabilidad
  • Sesgos, discriminación, y justicia
  • Privacidad y seguridad
• Unidad 3: Áreas clave y estrategias de evaluación II
  • Responsabilidad y retroalimentación
  • Bienestar y sustentabilidad
  • Fiabilidad y confianza

Metodología de enseñanza y aprendizaje

• Clases expositivas
• Trabajo de análisis de caso
• Discusión en clases

Evaluación de los aprendizajes:

• Ensayo argumentativo individual de análisis de caso – 60%
• 3 Controles de contenidos individual – 30% (10% cada uno)
• Participación individual de la discusión en clases – 10% 

Bibliografía

Mínima

• Aránguiz, M. (2022) Auditoría algorítmica para sistemas de toma o soporte de decisiones. Reporte Banco Interamericano de Desarrollo.
• http://dx.doi.org/10.18235/0004154
• Dastani, M., Yazdanpanah, V. Responsibility of AI Systems. AI & Soc (2022). https://doi.org/10.1007/s00146-022-01481-4 
• Tim Miller, Explanation in artificial intelligence: Insights from the social sciences, Artificial Intelligence,Volume 267,2019, Pages 1-38, ISSN 0004-3702, https://doi.org/10.1016/j.artint.2018.07.007.
• Ntoutsi, Eirini & Fafalios, Pavlos & Gadiraju, Ujwal & Iosifidis, Vasileios & Nejdl, Wolfgang & Vidal, Maria‐Esther & Ruggieri, Salvatore & Turini, Franco & Papadopoulos, Symeon & Krasanakis, Emmanouil & Kompatsiaris, Ioannis & Kinder-Kurlanda, Katharina & Wagner, Claudia & Karimi, Fariba & Fernandez, Miriam & Alani, Harith & Berendt, Bettina & Kruegel, Tina & Heinze, Christian & Staab, Steffen. (2020). Bias in data‐driven artificial intelligence systems—An introductory survey. WIREs Data Mining and Knowledge Discovery. 10. 10.1002/widm.1356. 
• B. C Stahl and D. Wright, "Ethics and Privacy in AI and Big Data: Implementing Responsible Research and Innovation," in IEEE Security & Privacy, vol. 16, no. 3, pp. 26-33, May/June 2018, doi: 10.1109/MSP.2018.2701164.  
• Sutrop, Margit. (2019). Should we trust artificial intelligence?. Trames. Journal of the Humanities and Social Sciences. 23. 499. 10.3176/tr.2019.4.07.
• Owe, Andrea & Baum, Seth. (2021). The Ethics of Sustainability for Artificial Intelligence. Proceedings of the 1st International Conference on AI for People: Towards Sustainable AI, CAIP 2021, 20-24 November 2021, Bologna, Italy.

Complementaria

• Criado-Pérez, C. (2020) La mujer invisible: descubre cómo los datos configuran un mundo hecho por y para los hombres. Barcelona, España: Seix Barral.
• Cathy O’Neil (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York, USA: Broadway Books.

Curso 4: Evaluando algoritmos e identificando responsabilidades

Nombre en inglés: Evaluating algorithms and identifying responsibilities

Horas cronológicas: 24 horas

Créditos: 5

Descripción del curso

En este curso se aplican las distinciones teóricas de los primeros tres cursos del diplomado, ofreciendo herramientas prácticas a través de talleres de análisis de casos basados en una instrucción interdisciplinaria, con docentes guiando diferentes aspectos del análisis. Con esta evaluación de algoritmos e identificación de responsabilidades, se transfieren las habilidades desarrolladas a lo largo del diplomado a un contexto aplicado, donde se enfatiza la toma de decisiones y el cuestionamiento de proyectos algorítmicos. La metodología de aprendizaje de este curso se basa en talleres de evaluación ética, presentaciones de análisis, y retroalimentación de pares.

Resultados del Aprendizaje

1. Justificar decisiones desde un análisis crítico en el proceso de evaluación ética de los algoritmos
2. Resolver desafíos prácticos de aplicación de algoritmos desde la deliberación ética.
3. Aplicar los conocimientos teóricos sobre ética de algoritmos, ética de IA, y desarrollo técnico, a los procesos evaluativos de un proyecto algorítmico con impacto social.

Contenido

• Unidad 1: Evaluando algoritmos de alto impacto social
  • Evaluaciones de riesgo e impacto social
  • Revisión de marcos éticos basados en derechos humanos
  • Revisión de protocolos de auditoría
  • Revisión y contraste de marcos éticos basados en principios
  • Directrices para escoger y aplicar diferentes marcos evaluativos 

Metodología de enseñanza y aprendizaje

• Talleres de evaluación ética con investigación de casos y análisis ético-técnico
• Proyecto grupal de evaluación de proyecto algorítmico
• Presentaciones grupales
• Retroalimentación de pares y docentes.

Evaluación de los aprendizajes:

• Informe grupal de análisis de caso - 50%
• Presentación grupal - 30%
• Retroalimentación de pares - 20%

Bibliografía

Mínima

• Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. The Alan Turing Institute. https://doi.org/10.5281/zenodo.3240529 
• Vallor, S., Green, B., & Raicu I., (2018) An ethical toolkit for engineering/design practice. Project: Ethics in Technology Practice, The Markkula Center for Applied Ethics at Santa Clara University. https://www.scu.edu/ethics/.
• Young, M., Magassa, L. & Friedman, B. Toward inclusive tech policy design: a method for underrepresented voices to strengthen tech policy documents. Ethics Inf Technol 21, 89–103 (2019). https://doi.org/10.1007/s10676-019-09497-z  

Complementaria

• Roth, M. K. and A. (2020). Ethical algorithm design should guide technology regulation. Brookings. https://www.brookings.edu/research/ethical-algorithm-design-should-guide-technology-regulation/

Los cursos que conforman el diplomado tienen la siguiente ponderación:

• Curso 1: Introducción al mundo de los algoritmos - 25%
• Curso 2: Visiones interdisciplinarias: desafíos del desarrollo de tecnologías algorítmicas - 25%
• Curso 3: Cartografía de elementos y criterios de la evaluación ética de algoritmos - 25%
• Curso 4: Evaluando algoritmos e identificando responsabilidades - 25% 

Los alumnos deberán ser aprobados de acuerdo los criterios que establezca la unidad académica:

•  Calificación mínima de todos los cursos 4.0 en su promedio ponderado.

 Si bien el porcentaje de asistencia no es un requisito para la aprobación final del diplomado o curso, dentro de las clases pueden realizarse actividades no grabadas y evaluadas, sin previo aviso.

Para aprobar los programas de diplomados se requiere la aprobación de todos los cursos que lo integran.

Los alumnos que aprueben las exigencias del programa recibirán un certificado de aprobación digital otorgado por la Pontificia Universidad Católica de Chile. 

El alumno que no cumpla con estas exigencias reprueba automáticamente sin posibilidad de ningún tipo de certificación.  

*En caso de que un alumno repruebe un curso perteneciente a un diplomado, en Educación Profesional Ingeniería UC ofrecemos la oportunidad de realizar un nuevo intento. Para ejercer este derecho, el alumno deberá pagar un valor de 3 UF por curso, e indicar la fecha de la versión en la que desea matricularse. La gestión debe realizarse dentro de un máximo de 2 años a contar de la fecha de inicio del diplomado original, y es factible para un máximo de 2 cursos por diplomado. 

Las personas interesadas deberán completar la ficha de postulación que se encuentra al costado derecho de esta página web y enviar los siguientes documentos al momento de la postulación o de manera posterior a la coordinación a cargo: 

• Fotocopia Carnet de Identidad.
• Fotocopia simple del Certificado de Título
• Curriculum Vitae actualizado.

El postulante será contactado, para asistir a una entrevista personal (si corresponde) con el Jefe de Programa del Diplomado o su Coordinadora Académica. Cualquier información adicional o inquietud podrás escribir al correo programas@ing.puc.cl.

VACANTES: 40

INFORMACIONES RELEVANTES

Con el objetivo de brindar las condiciones de infraestructura necesaria y la asistencia adecuada al inicio y durante las clases para personas con discapacidad: Física o motriz, Sensorial (Visual o auditiva) u otra, los invitamos a informarlo. 

• El postular no asegura el cupo, una vez inscrito o aceptado en el programa se debe pagar el valor completo de la actividad para estar matriculado.
• No se tramitarán postulaciones incompletas.

Puedes revisar aquí más información importante sobre el proceso de admisión y matrícula