Journal des citations pour l'incident 11
Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv1
Détails de la taxonomieHarm Distribution Basis
race
Sector of Deployment
law enforcement, public administration
Classifications de taxonomie CSETv0
Détails de la taxonomieFull Description
An algorithm developed by Northpointe and used in the penal system is shown to be inaccurate and produces racially-skewed results according to a review by ProPublica. The review shows how the 137-question survey given following an arrest is inaccurate and skewed against people of color. While there is not question regarding race in the survey, the algorithm is two times more likely to incorrectly label a black person as a high-risk re-offender (False Positive) and is also two times more likely to incorrectly label a white person as low-risk for reoffense (False Negative) than actual statistics support. Overall, the algorithm is 61% effective at predicting reoffense. This system is used in Broward County, Florida to help judges make decisions surrounding pre-trial release and sentencing post-trial.
Short Description
An algorithm developed by Northpointe and used in the penal system is two times more likely to incorrectly label a black person as a high-risk re-offender and is two times more likely to incorrectly label a white person as low-risk for reoffense according to a ProPublica review.
Severity
Unclear/unknown
Harm Distribution Basis
Race
Harm Type
Harm to civil liberties, Other:Reputational harm; False incarceration
AI System Description
An algorithm, developed by Northpointe designed to assign a risk score associated with a person's likelihood of reoffending after their original arrest.
System Developer
Northpointe
Sector of Deployment
Public administration and defence
Relevant AI functions
Perception, Cognition
AI Techniques
law enforcement algorithm, crime prediction algorithm
AI Applications
risk assesment, crime projection
Location
Broward County, Florida
Named Entities
ProPublica, Northpointe, COMPAS, Broward County, FL
Technology Purveyor
Northpointe
Beginning Date
2016-01-01T00:00:00.000Z
Ending Date
2019-01-01T00:00:00.000Z
Near Miss
Harm caused
Intent
Accident
Lives Lost
No
Infrastructure Sectors
Government facilities
Data Inputs
137-question survey
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Partout au pays, les juges, les agents de probation et de libération conditionnelle utilisent de plus en plus des algorithmes pour évaluer la probabilité qu'un accusé devienne un récidiviste - un terme utilisé pour décrire les criminels qui…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les programmes informatiques qui effectuent des évaluations des risques des suspects de crime sont de plus en plus courants dans les salles d'audience américaines et sont utilisés à chaque étape des systèmes de justice pénale pour détermine…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un après-midi de printemps 2014, Brisha Borden était en retard pour aller chercher sa marraine à l'école lorsqu'elle a repéré un vélo bleu Huffy pour enfant non verrouillé et un scooter argenté Razor. Borden et un ami ont attrapé le vélo et…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Depuis des années, la communauté de la justice pénale est inquiète. Les tribunaux de tout le pays attribuent des montants de caution condamnant les accusés sur la base d'algorithmes, et les avocats et les scientifiques des données avertisse…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La discrimination cachée dans les scores d'évaluation des risques criminels
Les salles d'audience à travers le pays utilisent de plus en plus le «score d'évaluation des risques» d'un accusé pour aider à prendre des décisions concernant la c…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'un de mes biens les plus précieux est The Art of Computer Programming de Donald Knuth, un informaticien pour qui le mot "légendaire" aurait pu être inventé. D'une certaine manière, on pourrait considérer son magnum opus comme une tentativ…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Imaginez que vous avez été reconnu coupable d'un crime et que vous attendiez de connaître votre peine. Préférez-vous que votre peine soit déterminée par un algorithme informatique, qui pondère sans passion les facteurs qui prédisent votre r…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Comme une version plus tordue du test Voight-Kampff de Blade Runner, un nouvel article d'apprentissage automatique d'une paire de chercheurs chinois s'est penché sur la tâche controversée de laisser un ordinateur décider de votre innocence.…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Prédire l'avenir n'est pas seulement l'affaire des diseurs de bonne aventure ou des experts des médias. Les algorithmes prédictifs, basés sur de vastes ensembles de données et de statistiques, ont dépassé les opérations de vente en gros et …