Registro de citas para el Incidente 49
Entidades
Ver todas las entidadesEstadísticas de incidentes
Clasificaciones de la Taxonomía CSETv0
Detalles de la TaxonomíaFull Description
In 2016, Beauty.AI, an artificial intelligence software designed by Youth Laboratories and supported by Microsoft, was used to judge the first international beauty coontest. Of the 600,000 contestants who submitted selfies to be judged by Beauty.AI, the artificial intelligence software choose 44 winners, of which a majority were white, a handful were Asian, and only one had dark skin. While a majority of contestants were white, approximately 40,000 submissions were from Indians and another 9,000 were from Africans. Controversy ensued that Beauty.AI is racially biased as it was not sufficiently trained with images of people of color in determining beauty.
Short Description
In 2016, after artificial inntelligence software Beauty.AI judged an international beauty contest and declared a majority of winners to be white, researchers found that Beauty.AI was racially biased in determining beauty.
Severity
Negligible
Harm Distribution Basis
Race
Harm Type
Harm to intangible property
AI System Description
artificial intelligence software that uses deep learning algorithms to evaluate beauty based on factors such as symmetry, facial blemishes, wrinkles, estimated age and age appearance, and comparisons to actors and models
System Developer
Youth Laboratories
Sector of Deployment
Arts, entertainment and recreation
Relevant AI functions
Perception, Cognition, Action
AI Techniques
Deep learning, open-source
AI Applications
biometrics, image classification
Location
Global
Named Entities
Youth Laboratories, Microsoft
Technology Purveyor
Youth Laboratories, Microsoft, Insilico Medicine
Beginning Date
1/2016
Ending Date
6/2016
Near Miss
Unclear/unknown
Intent
Accident
Lives Lost
No
Data Inputs
images of people's faces
Informes del Incidente
Cronología de Informes

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Imagen: Flickr/Verónica Jauriqui
Los concursos de belleza siempre han sido políticos. Después de todo, ¿qué habla con más fuerza de cómo nos vemos unos a otros que qué rasgos físicos recompensamos como hermosos y cuáles codificamos como feo…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El primer concurso internacional de belleza decidido por un algoritmo ha generado controversia luego de que los resultados revelaran un factor evidente que vincula a los ganadores.
Se suponía que el primer concurso internacional de belleza …

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El primer concurso internacional de belleza decidido por un algoritmo ha generado controversia luego de que los resultados revelaran un factor evidente que vincula a los ganadores.
Se suponía que el primer concurso internacional de belleza …

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Solo unos pocos ganadores eran asiáticos y uno tenía piel oscura, la mayoría eran blancos.
Apenas unos meses después de que la inteligencia artificial Tay de Microsoft enviara mensajes racistas en Twitter, otra IA parece haber seguido su ej…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Con más de 6.000 postulantes de más de 100 países compitiendo, acaba de finalizar el primer concurso internacional de belleza juzgado íntegramente por inteligencia artificial. Los resultados son un poco desalentadores.
El equipo de jueces, …

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
No es la primera vez que la inteligencia artificial está en el centro de atención por un aparente racismo, pero los resultados recientes de la competencia de Beauty.AI han causado controversia al favorecer claramente la piel clara.
La compe…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Si te unes a los concursos de belleza o simplemente los miras, ¿qué sentirías acerca de un algoritmo informático que juzgue los atributos faciales de una persona? Tal vez deberíamos preguntarles a quienes realmente se ofrecieron como volunt…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una IA diseñada para hacer X eventualmente fallará en hacer X. Los filtros de spam bloquean correos electrónicos importantes, el GPS proporciona direcciones defectuosas, las traducciones automáticas corrompen el significado de las frases, l…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Durante mucho tiempo se pensó que los robots equipados con inteligencia artificial serían la contraparte fría y puramente objetiva de la subjetividad emocional de los humanos. Desafortunadamente, parecería que muchas de nuestras imperfeccio…

- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
En 2016, investigadores de la Universidad de Boston y Microsoft estaban trabajando en algoritmos de inteligencia artificial cuando descubrieron tendencias racistas y sexistas en la tecnología subyacente a algunos de los servicios más popula…
Variantes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

2018 in Review: 10 AI Failures

Danger, danger! 10 alarming examples of AI gone wild
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

2018 in Review: 10 AI Failures
