Curso en ciberseguridad, protección de datos y uso seguro de agentes de inteligencia artificial

Mariana Sánchez Caparrós

Doctora en Ciencias Jurídicas, Magíster en Derecho Administrativo y subdirectora del Laboratorio de Innovación e Inteligencia Artificial (IALAB) de la Facultad de Derecho de la Universidad de Buenos Aires. Especialista en inteligencia artificial, gobernanza, ética, protección de datos y transformación digital del sector público. Integra la Red de Expertos de UNESCO sobre Inteligencia Artificial y Estado de Derecho y dirige proyectos de innovación en organismos públicos de América Latina.

Matías Ezequiel Calderini

Licenciado en Informática. Maestrando en Ciberseguridad. Desarrollador. Arquitecto de soluciones con más de quince años de experiencia en infraestructura tecnológica, ciberseguridad e inteligencia artificial aplicada. Especialista en arquitecturas para agentes de IA, automatización de procesos y despliegue de soluciones de IA en organizaciones públicas y privadas. Participa como docente y referente técnico en programas de formación sobre inteligencia artificial aplicada.

Andrea Vergara Carvallo

Abogada, Licenciada en Ciencias Jurídicas, Universidad Adolfo Ibáñez. Magister en Propiedad Intelectual y Nuevas Tecnologías, Universidad Internacional de La Rioja. Encargada de protección de datos personales y ciberseguridad de la Subsecretaría de Educación Superior hasta el año 2025. Abogada integrante de la mesa de datos personales conformada entre la Subsecretaría de Educación Superior con las Universidades chilenas para el cumplimiento de las nuevas exigencias estipuladas en la reforma a la ley de protección de datos personales.

La inteligencia artificial ha dejado de ser una herramienta que únicamente responde preguntas para convertirse en una tecnología capaz de ejecutar tareas, interactuar con sistemas, acceder a información y colaborar activamente en procesos de trabajo de un abogado y de cualquier usuario. Este nuevo escenario, impulsado por los agentes de IA, ofrece enormes oportunidades para mejorar la productividad y la calidad del trabajo, pero también plantea nuevos desafíos en materia de ciberseguridad, privacidad y protección de datos personales.

El curso combina una mirada jurídica, y práctica para brindar herramientas concretas,  en lenguaje claro y simple, que permitan incorporar agentes de IA de manera segura y responsable. Hoy cualquier persona puede conectar un asistente de IA con su correo electrónico, sus documentos, su almacenamiento en la nube o incluso permitir que opere sobre su computadora o navegue por sitios web en su nombre. Comprender en forma sencilla los riesgos asociados a estas capacidades se ha convertido en una competencia indispensable para el uso responsable de estas tecnologías.

El alumno podrá tener una aproximación realista y crítica, con ejemplos reales, demostraciones y casos de uso que reflejan los desafíos actuales de personas y organizaciones frente a la adopción de inteligencia artificial. Las clases se impartirán mediante una plataforma de videoconferencia, lo que permitirá la interacción entre los alumnos y los profesores.

• Manejo básico de herramientas digitales y navegación por internet. 
• Acceso a un computador con conexión estable a internet, cámara, micrófono y capacidad para utilizar una plataforma de videoconferencia. 
• No se requieren conocimientos previos de programación o ciberseguridad.

RESULTADO DE APRENDIZAJE GENERAL 

• Evaluar la seguridad y el cumplimiento normativo en el uso organizacional de sistemas de inteligencia artificial con distintos niveles de autonomía, según criterios de ciberseguridad, protección de datos personales y gestión de riesgos. 

RESULTADOS DE APRENDIZAJE ESPECÍFICOS 

• Aplicar conceptos de ciberseguridad y protección de datos personales en la identificación de riesgos asociados al uso de sistemas de inteligencia artificial. 
• Analizar los riesgos vinculados con la autonomía, memoria, permisos, conectores y accesos de asistentes y agentes de inteligencia artificial en contextos organizacionales. 
• Evaluar soluciones de inteligencia artificial y agentes de IA según criterios de seguridad, privacidad, cumplimiento normativo, supervisión humana y gestión de riesgos.

• Clases expositivas 
• Discusión y análisis de casos
• Resolución de casos

• Introducción a la IA generativa, la IA agéntica y los agentes de IA en el ámbito jurídico
  • Introducción a la IA generativa y al nuevo paradigma de la IA agéntica. 
  • Diferencias entre asistentes conversacionales, herramientas agénticas y agentes de IA. 
  • Conceptos de agencia, autonomía, memoria, herramientas y planificación.
  • "Escalera de la IA": evolución de capacidades y riesgos. Del uso conversacional a agentes capaces de ejecutar acciones sobre distintos entornos.
• Introducción a la ciberseguridad para usuarios de IA
  • Principios básicos de ciberseguridad aplicados al uso cotidiano de herramientas de IA en la labor jurídica.
  • Identificación de activos, amenazas, vulnerabilidades e incidentes. 
  • Gestión de credenciales, permisos y accesos. 
  • Riesgos frecuentes: phishing, fuga de información, ingeniería social y exposición de datos. 
  • Medidas preventivas y criterios básicos para reducir riesgos en entornos personales e institucionales.
• Protección de datos personales e inteligencia artificial
  • Conceptos. Fundamentales de protección de datos personales y su relación con la ciberseguridad. 
  • Diferencias entre datos personales, datos sensibles e información confidencial. 
  • Diferencias entre el titular de datos personales, el responsable de datos y el tercero mandatario o encargado.
  • Riesgos derivados del tratamiento de información mediante herramientas de IA. 
  • Principios que rigen la protección de datos personales, en particular los de minimización, anonimización y seguridad. 
  • La importancia del consentimiento informado para el tratamiento de datos personales en todos los ámbitos de aplicación de los datos personales.
  • Introducción al marco regulatorio chileno y a las buenas prácticas para un tratamiento responsable de la información.
• IA conversacional, asistentes personalizados y agentes en plataformas
  • Uso seguro de asistentes conversacionales en el ámbito legal: ChatGPT, Claude y Gemini, junto con asistentes configurados (GPTs, Gems, Skills) y agentes disponibles dentro de plataformas.
  • Análisis de memoria, historial, bases de conocimiento, conectores e integraciones. 
  • Identificación de riesgos asociados a la exposición de información, permisos excesivos, prompt injection y uso de datos personales.
• Agentes que operan sobre la computadora
  • Introducción a los agentes que trabajan directamente sobre el entorno local (Claude Code, Codex, Perplexity Computer y otras soluciones similares). 
  • Capacidades para leer, modificar y organizar archivos, generar documentos o ejecutar tareas. 
  • Riesgos 
    • Vinculados con el acceso al sistema
    • Vinculados con la integridad de la información
    • Vinculados con la exposición de credenciales y los permisos otorgados al agente. 
    • Buenas prácticas para un uso seguro y controlado.
• Agentes en navegador, computer use y gobernanza para un uso seguro
  • Funcionamiento de los agentes capaces de interactuar con sitios web y aplicaciones mediante tecnologías de computer use (OpenAI Operator, Claude Computer Use, Google Project Mariner y alternativas de código abierto). 
  • Riesgos asociados a la ejecución de acciones en nombre del usuario
  • Riesgos asociados a la manipulación mediante prompt injection
  • Riesgos asociados a la protección de datos y seguridad operacional. 
  • Marco de gobernanza práctica para evaluar, supervisar e incorporar agentes de IA en organizaciones públicas y privadas.
• Taller integrador y preparación del Trabajo Integrador Final
  • Integración de los principales conceptos desarrollados durante el curso. 
  • Metodología para identificar riesgos de ciberseguridad, privacidad y protección de datos en distintos escenarios de uso de IA y agentes de IA. 
  • Herramientas para evaluar niveles de autonomía, permisos, accesos, supervisión humana y medidas de mitigación. 
  • Presentación de una guía para la elaboración del Trabajo Integrador Final, criterios de evaluación, recomendaciones metodológicas y espacio de consultas para el desarrollo del proyecto.

• Trabajo Integrador Final (resolución de un caso): 100%

Los alumnos deberán cumplir con el siguiente requisito:

• Aprobar el curso con una nota igual o superior a 4.0.

El alumno que no cumpla con estas exigencias reprueba automáticamente sin posibilidad de ningún tipo de certificación.

Los resultados de las evaluaciones serán expresados en notas, en escala de 1,0 a 7,0 con un decimal, sin perjuicio que la Unidad pueda aplicar otra escala adicional.

Los alumnos que aprueben las exigencias del programa recibirán un certificado de aprobación digital otorgado por la Pontificia Universidad Católica de Chile. Además, también se entregarán insignias digitales.

Las personas interesadas deberán completar la ficha de inscripción que se encuentra al costado derecho de esta página web y enviar el siguiente documento:

• Fotocopia simple del carnet de identidad por ambos lados.

Con el objetivo de brindar las condiciones y asistencia adecuadas, invitamos a personas con discapacidad física, motriz, sensorial (visual o auditiva) u otra, a dar aviso de esto durante el proceso de postulación.

El postular no asegura el cupo, una vez inscrito o aceptado en el programa se debe pagar el valor completo de la actividad para estar matriculado.

No se tramitarán postulaciones incompletas.

Puedes revisar aquí más información importante sobre el proceso de admisión y matrícula