La IA generativa en el entorno de trabajo y su seguridad

PARTE 1: Introducción a la Inteligencia Artificial Generativa

• Inicio: ¿qué sabemos de IA generativa (IAG)?
• Historia: la IA no es de ayer por la tarde (definición y aplicaciones)
• ¿Crees que la IA impactará en tu trabajo?
• Vale, pero ¿cómo funciona?: la red neuronal -y sus particularidades- y el entrenamiento (entendiendo -algo- del funcionamiento)
• Prompts: vamos a ver si nos entendemos.
• Usar la cabeza: cómo el pensamiento crítico debería potenciarse con la IAG, no disminuir.
• Breve Taller práctico aprovechando el estudio en la geopolítica de la IA, el impacto ambiental, y recomendaciones en instituciones de educación superior.
• Puesta en común y debate final
• Conclusiones

PARTE 2: Formación en Ciberseguridad en el uso de la IAG

Bloque 1: Introducción a la Ciberseguridad y la IA Generativa Conceptos básicos de ciberseguridad

• Definición y principios de ciberseguridad.           
• Amenazas y vulnerabilidades en entornos universitarios.
• Repaso de los riesgos específicos de IA Generativa (deepfakes, privacidad, sesgos algorítmicos).
• Normativa aplicable
• Esquema Nacional de Seguridad (ENS).
•  Reglamento General de Protección de Datos (RGPD) y LOPDGDD.
• Código ético de la IA de la UE.
• Ejercicio Práctico: Identificación de riesgos en ejemplos reales de IA Generativa.

Bloque 2: Buenas Prácticas y Cumplimiento Normativo Repaso sobre el uso seguro y ético de IA Generativa

• Prácticas recomendadas para evitar filtraciones de datos.
• Evaluación de fiabilidad y sesgos en modelos de IA.
• Protección de Datos en IA Generativa
• Minimización de datos y principios de privacidad desde el diseño.
• Mecanismos de anonimización y seudonimización.
• Evaluaciones de Impacto en Protección de Datos (EIPD).
• Casos prácticos: Aplicación de principios del ENS y RGPD en entornos académicos.
• Ejercicio Interactivo: Análisis de un caso de uso de IA Generativa en la universidad y propuestas de mejora.

Bloque 3: Identificación de Amenazas y Respuesta ante Incidentes (2 horas)Riesgos y amenazas específicos en IA Generativa

• Fugas de información y filtraciones accidentales.
• Uso malintencionado de IA en ataques cibernéticos.
• Gestión de incidentes de seguridad
• Procedimientos internos de notificación y actuación.
• Coordinación con equipos de ciberseguridad.
• Simulación de un incidente de ciberseguridad
• Caso práctico: Identificación y respuesta ante un uso indebido de IA.
• Debate y reflexión sobre estrategias de mitigación.
• Evaluación final y cierre
• Test de conocimientos adquiridos.
• Espacio de preguntas y discusión sobre dudas y preocupaciones.

• Conocer la historia de la Inteligencia Artificial (IA) y lo que ha llevado al tremendo impacto actual.
• Comprender cómo funciona la IA Generativa, lo que nos llevará a reflexionar sobre su alcance y sus limitaciones.
• Entender cómo interactuar de manera eficaz con ella: el prompt y las iteraciones. Uso del pensamiento crítico.
• Trabajar con IA Generativa para analizar cómo puede afectar y/o mejorar nuestro trabajo diario.
• Concienciarse del entorno geopolítico en el que se enmarca la IA, su impacto medioambiental, y sus implicaciones éticas.
• Sensibilizar sobre los riesgos de seguridad en el uso de la IA Generativa.
• Proporcionar buenas prácticas para la protección de datos y ciberseguridad.
• Cumplir con la normativa ENS y RGPD en entornos universitarios.
• Desarrollar la capacidad de identificar y gestionar incidentes de seguridad vinculados a IA.

Duración: 9h 

Fecha:  7, 9 14 Mayo

Horario: de 11:30 a 14:30h.