¿Qué es Cognitive Bias en IA?
Patrones sistemáticos de desviación de la racionalidad en el juicio que pueden ser replicados o amplificados por sistemas de IA.
Definición
Cognitive Bias o Sesgo Cognitivo en IA se refiere a patrones sistemáticos de desviación de la racionalidad en el juicio y la toma de decisiones que pueden ser inadvertidamente incorporados, replicados, o amplificados por sistemas de inteligencia artificial a través de datos de entrenamiento sesgados o diseño algorítmico.
Propósito
Entender los sesgos cognitivos es crucial para construir sistemas de IA justos e imparciales, identificando y mitigando patrones de sesgo tanto en datos de entrenamiento como en procesos de toma de decisiones algorítmicos.
Función
Los sesgos cognitivos en IA se manifiestan cuando los modelos aprenden de datos que reflejan sesgos humanos, perpetuando patrones discriminatorios en predicciones, recomendaciones, o clasificaciones de formas que pueden ser sistemáticamente injustas para ciertos grupos.
Ejemplo
Un sistema de IA de contratación que muestra sesgo hacia candidatos masculinos porque fue entrenado con datos históricos de contratación, o un sistema de reconocimiento facial que funciona peor con personas de piel más oscura debido a conjuntos de datos de entrenamiento no diversos.
Relacionado
Conectado con AI Fairness, Algorithmic Bias, Data Quality, Ethical AI, Bias Mitigation, y Responsible AI Development.
¿Quieres saber más?
Si te interesa saber más acerca de Cognitive Bias (Sesgo Cognitivo), escríbeme por linkedin. Me encanta compartir ideas, dudas y curiosidades sobre estos temas, así que no dudes en pasarte por ahí. ¡Nos leemos!