Semana 14
¿Pueden los algoritmos ser injustos? Introducción al sesgo algorítmico.

• Algoritmo y decisión: un algoritmo es un conjunto de instrucciones que toma decisiones basadas en datos; si los datos reflejan desigualdades históricas, el algoritmo las reproduce (ej: un sistema de contratación entrenado con datos de una empresa que históricamente contrató hombres tiene sesgo contra mujeres).
• Tipos de sesgo algorítmico: sesgo de datos (entrenamiento con muestras no representativas), sesgo de diseño (criterios de optimización que ignoran equidad), sesgo de implementación (uso del sistema fuera de su contexto válido).
• Casos documentados: Amazon Rekognition (error 10× mayor en rostros de personas negras vs. blancas), sistema de contratación de Amazon (descartaba CVs con la palabra "mujeres"), algoritmo de crédito que cobraba tasas más altas a comunidades afrodescendientes.
• Responsabilidad: ¿quién es responsable cuando un algoritmo discrimina? ¿La empresa que lo diseñó, los datos con que se entrenó, o el regulador que lo aprobó?

*Laboratorio de detección de sesgo*: en equipos de 3, los estudiantes eligen un sistema algorítmico de uso cotidiano (recomendador de TikTok, filtro de Instagram, sistema de calificación de Uber) y construyen una ficha de análisis en un pliego de cartulina: ¿qué datos usa? ¿quiénes podrían ser perjudicados? ¿qué sesgo podría tener? Reto Maker (30 minutos): dibujar un diagrama de flujo del algoritmo señalando con rojo los puntos donde puede introducirse sesgo. * [Video: ¿Qué es el sesgo algorítmico? (YouTube)](https://www.youtube.com/results?search_query=s%C3%A9sigo+algor%C3%ADtmico+explicado)