Un estudio revela que los modelos de IA reproducen sesgos raciales en la concesión de créditos hipotecarios

Investigadores de la Universidad de Berkeley han analizado 2,4 millones de solicitudes de hipoteca procesadas por sistemas automatizados en Estados Unidos y concluyen que los solicitantes afroamericanos e hispanos son rechazados un 34% más que solicitantes blancos con idéntico perfil financiero.

El sesgo, según el estudio, no está programado explícitamente sino que emerge de los datos históricos de concesión de crédito con los que se entrenaron los modelos, que reflejan décadas de discriminación sistémica. La Oficina de Protección Financiera del Consumidor ha anunciado una investigación formal a las diez mayores entidades bancarias del país.