Registro de citas para el Incidente 154
Description: Department of Justice’s inmate-recidivism risk assessment tool was reported to have produced racially uneven results, misclassifying risk levels for inmates of color.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por US Department of Justice, perjudicó a inmates of color.
Estadísticas de incidentes
ID
154
Cantidad de informes
1
Fecha del Incidente
2022-01-26
Editores
Sean McGregor, Khoa Lam
Clasificaciones de la Taxonomía GMF
Detalles de la TaxonomíaKnown AI Goal
An AI Goal which is almost certainly pursued by the AI system referenced in the incident.
Recidivism Prediction
Potential AI Technology
An AI Method / Technology which probably is a part of the implementation of the AI system referenced in the incident.
Diverse Data, Distributional Learning
Known AI Technical Failure
An AI Technical Failure which almost certainly contributes to the AI system failure referenced in the incident.
Lack of Transparency, Misconfigured Threshold
Potential AI Technical Failure
An AI Technical Failure which probably contributes to the AI system failure referenced in the incident.
Incomplete Data Attribute Capture, Distributional Bias
Informes del Incidente
Cronología de Informes
npr.org · 2022
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Miles de personas están saliendo de la prisión federal este mes gracias a una ley llamada Ley del Primer Paso, que les permitió ganar la libertad anticipada al participar en programas destinados a facilitar su regreso a la sociedad.
Pero mi…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Working Anything but 9 to 5
· 10 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Working Anything but 9 to 5
· 10 informes