Journal des citations pour l'incident 16
Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv1
Détails de la taxonomieHarm Distribution Basis
race
Sector of Deployment
information and communication
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal
Image Tagging
Known AI Technology
Face Detection, Convolutional Neural Network, Keyword Filtering
Known AI Technical Failure
Underfitting
Potential AI Technical Failure
Dataset Imbalance, Context Misidentification
Classifications de taxonomie CSETv0
Détails de la taxonomieFull Description
Google's Google Photo image processing software "mistakenly labelled a black couple as being 'gorillas.'" The error occurred in the software's image processing that attempts to assign themes to groups of similar photos. In this example, the suggested themes were "Graduation, Bikes, Planes, Skyscrapers, Cars, and Gorillas."
Short Description
Google Photos image processing software mistakenly labelled a black couple as "gorillas."
Severity
Minor
Harm Distribution Basis
Race
Harm Type
Psychological harm, Harm to social or political systems
AI System Description
Google's Google Photo Image Processing
System Developer
Sector of Deployment
Arts, entertainment and recreation
Relevant AI functions
Perception, Cognition
AI Techniques
image classification
AI Applications
image processing, facial recognition, image classification
Location
Global
Named Entities
Google, Google Photos
Technology Purveyor
Beginning Date
2015-06-29
Ending Date
2015-06-29
Near Miss
Harm caused
Intent
Accident
Lives Lost
No
Data Inputs
photographs, images, multi-media content
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google a supprimé la balise "gorille" de sa nouvelle application Photos, après qu'un utilisateur a remarqué qu'elle avait déposé un certain nombre de photos de lui et de son ami noir dans un album généré automatiquement nommé "gorilles".
L'…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google a récemment été critiqué pour un "pépin" objectivement raciste trouvé dans sa nouvelle application Photos pour iOS et Android qui identifie les Noirs comme des "gorilles".
En théorie, Photos est censé agir comme un assistant numériqu…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google Photos utilise un logiciel sophistiqué de reconnaissance faciale pour identifier non seulement les individus, mais également des catégories spécifiques d'objets et de types de photos, comme la nourriture, les chats et les horizons.
C…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'algorithme de reconnaissance d'images de Google étiquette les photos de personnes noires comme des gorilles et les place dans un album spécial.
Le logiciel de reconnaissance automatique est destiné à repérer les caractéristiques des photo…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
M. Alcine a tweeté Google sur le fait que son application avait mal classé sa photo
Google se dit "consterné" que sa nouvelle application Photos ait qualifié à tort un couple noir de "gorilles".
Son produit marque automatiquement les images…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google s'est excusé après que sa nouvelle application photo ait qualifié deux Noirs de "gorilles".
Le service photo, lancé en mai, marque automatiquement les photos téléchargées à l'aide de son propre logiciel d'intelligence artificielle.
"…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google a été contraint de s'excuser après que son logiciel de reconnaissance d'images ait mal étiqueté des photographies de personnes noires comme des gorilles.
La nouvelle application Google Photos du géant de l'Internet utilise une foncti…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Faits saillants de l'histoire Google Photos a marqué les photos d'un homme afro-américain de lui et d'un ami comme "Gorilles"
Il a souligné le problème sur Twitter, attirant l'attention d'un ingénieur de Google
(CNN) Lorsque Jacky Alcine a …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google s'est dit "vraiment désolé" après que son logiciel de reconnaissance d'images ait qualifié les photographies d'un couple noir de "gorilles".
L'application Google Photos, lancée en mai, utilise un outil de marquage automatique pour ai…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google a été critiqué après que la fonction de reconnaissance d'images de son application Photos ait identifié par erreur les personnes à la peau foncée comme des "gorilles".
Jacky Alciné de New York a tweeté dimanche une photo de lui et d'…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google est un leader de l'intelligence artificielle et de l'apprentissage automatique. Mais les ordinateurs de l'entreprise ont encore beaucoup à apprendre, à en juger par une erreur majeure de son application Photos cette semaine.
L'applic…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google n'a pas tardé à répondre au cours du week-end à un utilisateur après avoir tweeté que la nouvelle application Google Photos avait mal classé une photo de lui et de son ami de manière malheureuse et offensante.
Jacky Alciné, un progra…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google a lancé son application Photos lors de Google I/O en mai. Ici, les membres du personnel attendent pour enregistrer les participants à la conférence au Moscone Center de San Francisco. (Photo : Jeff Chiu, Associated Press)
SAN FRANCIS…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Lorsque Jacky Alcine, originaire de Brooklyn, s'est connecté à Google Photos dimanche soir, il a été choqué de trouver un album intitulé "Gorilles", dans lequel le logiciel de reconnaissance faciale le catégorisait, lui et son ami, comme de…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Google a continué de s'excuser mercredi pour une faille dans Google Photos, qui a été publiée en grande pompe en mai, qui a conduit la nouvelle application à étiqueter par erreur des photos de personnes noires comme "gorilles".
La société a…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Lorsque Jacky Alciné a vérifié son application Google Photos plus tôt cette semaine, il a remarqué qu'elle étiquetait des photos de lui et d'un ami, tous deux noirs, comme des "gorilles".
Le programmeur de Brooklyn a posté ses captures d'éc…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)
Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre)
Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)
Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
En 2015, Google a suscité des critiques lorsque son système de reconnaissance d'images Photos a qualifié à tort une femme noire de gorille, mais deux ans plus tard, le problème n'est toujours pas correctement résolu. Au lieu de cela, Google…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
En 2015, un développeur de logiciels noir a embarrassé Google en tweetant que le service Photos de l'entreprise avait qualifié les photos de lui avec un ami noir de "gorilles". Google s'est déclaré "consterné et sincèrement désolé". Un ingé…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Cela fait plus de deux ans que l'ingénieur Jacky Alciné a appelé Google Photos pour marquer automatiquement les Noirs sur ses photos en tant que "gorilles". Après avoir été appelé, Google s'est rapidement et abondamment excusé, promettant d…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images
En 2015, un développeur de logiciels noir nommé Jacky Alciné a révélé que le classificateur d'images util…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'"action immédiate" de Google sur l'étiquetage par l'IA des Noirs en tant que gorilles consistait simplement à bloquer le mot, ainsi que le chimpanzé et le singe, selon des rapports
Cet article date de plus d'un an
Cet article date de plus…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
tech2 Nouvelles Personnel
Vous souvenez-vous du moment où l'algorithme de reconnaissance d'images de Google a créé une controverse majeure après avoir classé un couple noir dans la catégorie "Gorilles" ?
Si vous ne le faites pas, nous ne vo…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Huit ans après une controverse sur les Noirs étiquetés à tort comme des gorilles par un logiciel d'analyse d'images – et malgré de grandes avancées dans la vision par ordinateur – les géants de la technologie craignent toujours de répéter l…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents