Journal des citations pour l'incident 59
Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv0
Détails de la taxonomieFull Description
A Cornell University study in 2016 highlighted Google Translate's pattern of assigning gender to occupations in a way showing an implicit gender bias against women. When translating from non-gendered languages (ex. Turkish, Finnish), Google Translate added gender to the phrases being translated. "Historian" "Doctor" "President" "Engineer" and "Soldier" were assigned male gender pronouns while "Nurse" "Teacher" and "Shop Assistant" were assigned female gender pronouns.
Short Description
A Cornell University study in 2016 highlighted Google Translate's pattern of assigning gender to occupations in a way showing an implicit gender bias against women.
Severity
Negligible
Harm Distribution Basis
Sex
Harm Type
Harm to social or political systems
AI System Description
Google Translate, a software allowing for translations between many languages
System Developer
Sector of Deployment
Information and communication
Relevant AI functions
Perception, Cognition, Action
AI Techniques
Google Translate
AI Applications
language API, language translation
Named Entities
Google Translate, Google
Technology Purveyor
Beginning Date
2016-01-01T00:00:00.000Z
Ending Date
2016-01-01T00:00:00.000Z
Near Miss
Harm caused
Intent
Unclear
Lives Lost
No
Data Inputs
User entered translation requests
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'intelligence artificielle et l'apprentissage automatique connaissent une croissance fulgurante. Cependant, on craint que ces technologies ne soient utilisées, intentionnellement ou non, pour perpétuer les préjugés et l'injustice qui carac…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Même l'intelligence artificielle peut acquérir des préjugés contre la race et le sexe
L'une des grandes promesses de l'intelligence artificielle (IA) est un monde exempt de petits préjugés humains. L'embauche par algorithme donnerait aux ho…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les algorithmes d'apprentissage automatique détectent des préjugés raciaux et sexistes profondément enracinés cachés dans les modèles d'utilisation de la langue, selon les scientifiques
Il a été démontré qu'un outil d'intelligence artificie…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Dans les débats sur l'avenir de l'intelligence artificielle, de nombreux experts pensent que ces systèmes basés sur des machines sont froidement logiques et objectivement rationnels. Mais dans une nouvelle étude, des chercheurs de l'Univers…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Dans la langue turque, il existe un pronom, "o", qui couvre tous les types de troisième personne du singulier. Que ce soit un il, une elle ou un ça, c'est un "o". Ce n'est pas le cas en anglais. Ainsi, lorsque Google Translate passe du turc…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une grande partie de notre vie est déterminée par des algorithmes. De ce que vous voyez sur votre fil d'actualité Facebook, aux livres et bibelots recommandés par Amazon, aux vidéos dérangeantes que YouTube montre à vos enfants, notre atten…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Image via Twitter
Les parents ne connaissent que trop bien le défi particulier d'élever des enfants : leur apprendre à faire ce que nous disons, pas ce que nous faisons.
Un défi similaire a frappé l'intelligence artificielle.
Alors que de p…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Récemment, il y a eu une préoccupation croissante concernant les biais de la machine, où les modèles statistiques entraînés se développent pour refléter des asymétries sociétales controversées, telles que les préjugés sexistes ou raciaux. I…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google s'efforce de réduire les préjugés sexistes perçus dans Google Translate, a-t-il annoncé aujourd'hui. À partir de cette semaine, les utilisateurs qui traduisent des mots et des phrases dans les langues prises en charge obtiendront des…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une expérience montre que Google Traduction modifie systématiquement le genre des traductions lorsqu'elles ne correspondent pas aux stéréotypes. C'est à cause de l'anglais, dit Google.
Si vous deviez lire une histoire sur des historiens mas…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents