Sistematizacion de experiencia 1-IIA Tarea 3

 Rastreo de Dilemas (Investigación)

Fase 1: 

Caso seleccionado: El sesgo algorítmico en la contratación de personal de Amazon.

Este es uno de los casos de estudio más emblemáticos y reales en el campo de la IA. Entre 2014 y 2017, Amazon desarrolló una herramienta de reclutamiento basada en aprendizaje automático para calificar currículums y agilizar la búsqueda de talento. Sin embargo, el sistema fue entrenado con datos históricos de los últimos 10 años que provenían de una industria tecnológica predominantemente masculina, lo que provocó que el algoritmo aprendiera que los candidatos hombres eran preferibles sobre las mujeres. Como consecuencia, la IA empezó a penalizar sistemáticamente currículums que incluían la palabra "mujeres" (ej. "presidenta del club de mujeres" o instituciones femeninas), reduciendo la calificación de candidatas altamente calificadas sin una razón técnica válida.

Este caso ilustra cómo un modelo de IA puede heredar y amplificar prejuicios históricos, convirtiéndose en un espejo de las fallas sociales del pasado en lugar de ser una herramienta de equidad.

PODCAST

En el siguiente podcast analizaré el caso de la contratación de personal en Amazon, el sesgo en el algoritmo utilizado para la la selección del nuevo personal y la propuesta para evitar que en el futuro esto vuelva a suceder.

Reflexión Final: Ética y Responsabilidad en la Era de la IA

Sistematización de la Experiencia

La realización de esta última misión, centrada en la producción de un "Podcast Ético" sobre el caso de sesgo algorítmico en Amazon, ha sido un ejercicio revelador. Como profesional de la informática, es común enfocarse en la eficiencia y precisión de los modelos; sin embargo, esta auditoría me ha permitido profundizar en la dimensión social de los datos.

Mi experiencia durante este módulo se resume en tres aprendizajes clave:

1. La IA como espejo social: He confirmado que los algoritmos no son entidades neutrales. Si los alimentamos con datos históricos que contienen prejuicios, la tecnología no solo los replicará, sino que los escalará de manera automática.

2. La necesidad de la "Caja Blanca": La transición hacia una IA ética requiere que abandonemos el modelo de "caja negra". La auditabilidad y la transparencia son requisitos no negociables para garantizar que la tecnología sea una herramienta de inclusión y no de exclusión.

3. El rol del docente: En el ámbito universitario, nuestra responsabilidad trasciende la enseñanza técnica. Debemos formar profesionales capaces de cuestionar la procedencia de los datos y de implementar principios éticos desde el diseño de cualquier solución tecnológica.

Esta misión cierra mi formación en este módulo de IA Generativa, reafirmando mi compromiso con una tecnología responsable, equitativa y con un alto sentido de responsabilidad social.