Journal des citations pour l'incident 154
Description: Department of Justice’s inmate-recidivism risk assessment tool was reported to have produced racially uneven results, misclassifying risk levels for inmates of color.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par US Department of Justice, endommagé inmates of color.
Statistiques d'incidents
ID
154
Nombre de rapports
1
Date de l'incident
2022-01-26
Editeurs
Sean McGregor, Khoa Lam
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal
An AI Goal which is almost certainly pursued by the AI system referenced in the incident.
Recidivism Prediction
Potential AI Technology
An AI Method / Technology which probably is a part of the implementation of the AI system referenced in the incident.
Diverse Data, Distributional Learning
Known AI Technical Failure
An AI Technical Failure which almost certainly contributes to the AI system failure referenced in the incident.
Lack of Transparency, Misconfigured Threshold
Potential AI Technical Failure
An AI Technical Failure which probably contributes to the AI system failure referenced in the incident.
Incomplete Data Attribute Capture, Distributional Bias
Rapports d'incidents
Chronologie du rapport
npr.org · 2022
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des milliers de personnes sortent de prison fédérale ce mois-ci grâce à une loi appelée First Step Act, qui leur a permis d'obtenir une libération anticipée en participant à des programmes visant à faciliter leur retour dans la société.
Mai…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Working Anything but 9 to 5
· 10 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Working Anything but 9 to 5
· 10 rapports