Registro de citas para el Incidente 41
Entidades
Ver todas las entidadesEstadísticas de incidentes
Clasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaHarm Distribution Basis
none
Sector of Deployment
professional, scientific and technical activities
Clasificaciones de la Taxonomía CSETv0
Detalles de la TaxonomíaFull Description
In 2018, MIT Media Lab researchers created an AI-powered "psychopath" text-generating algorithm named Norman. Norman was trained on caption data from a Reddit community that contained graphic images and videos about people dying. Following this training, they then showed Norman and a regular image recognition algorithm trained on the MSCOCO dataset a series of Rorschach inkblots, which psychologists have used to detect disorders. Norman's responses consistently described gruesome scenes, compared to innocent-sounding descriptions from the other algorithm; for example, "a black and white photo of a small bird," vs. "man gets pulled into dough machine." The researchers created Norman to demonstrate the influence training data has on how machine learning algorithms perform in the real world, and how poor data may lead to unreliable and untrustworthy outputs.
Short Description
MIT Media Lab researchers create AI-powered "psychopath" named Norman by training a model on "dark corners" of Reddit.
Severity
Negligible
Harm Type
Psychological harm
AI System Description
"Norman" is a text generating algorithm trained on disturbing content in order to demonstrate how training data can negatively affect an AI model. The comparison model is a regular text generation model.
System Developer
MIT Media Lab
Sector of Deployment
Information and communication
Relevant AI functions
Perception, Cognition, Action
AI Techniques
Machine learning
AI Applications
Text generation
Location
Cambridge, MA
Named Entities
MIT Media Lab, Reddit, Norman, Massachusetts Intstitute of Technology
Technology Purveyor
MIT Media Lab
Beginning Date
2018-04-01
Ending Date
2018-06-01
Near Miss
Unclear/unknown
Intent
Unclear
Lives Lost
No
Data Inputs
Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.
Informes del Incidente
Cronología de Informes
:quality(75)/curiosity-data.s3.amazonaws.com/images/content/thumbnail/standard/985a1b65-500f-494b-ab28-37f59817a71b.png)
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Una red neuronal llamada "Norman" es inquietantemente diferente de otros tipos de inteligencia artificial (IA).
Ubicado en MIT Media Lab, un laboratorio de investigación que investiga la IA y el aprendizaje automático, el cerebro informátic…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Derechos de autor de la imagen MIT Image caption Norman lleva el nombre de Norman Bates de Alfred Hitchcock en su clásica película de terror Psycho.
Norman es un algoritmo entrenado para comprender imágenes pero, como su homónimo Norman Bat…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un equipo de científicos del Instituto Tecnológico de Massachusetts (MIT) ha construido una IA psicópata utilizando leyendas de imágenes extraídas de Reddit. Ah, y lo llamaron Norman en honor al Norman Bates de Alfred Hitchcock. Así es como…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
En uno de los grandes números musicales de The Life Of Brian, Eric Idle nos recuerda que “siempre miremos el lado positivo de la vida”. Norman, un nuevo proyecto de inteligencia artificial del MIT, no sabe cómo hacerlo.
Eso es porque Norman…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Mucha gente está preocupada por el aumento potencial de la IA maligna, y los periódicos del Reino Unido, en particular, están preocupados por el escenario 'Terminator' de máquinas que son hostiles a la humanidad.
Los investigadores del MIT …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los investigadores de inteligencia artificial hasta ahora han intentado crear algoritmos completos que puedan ser útiles para la humanidad. Sin embargo, un equipo del MIT ha emprendido un proyecto para hacer exactamente lo contrario. Invest…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Aprecio lo que el MIT ha hecho aquí. Sin embargo, el trabajo descrito en el artículo es inútil, engañoso o ambos. Todos los métodos de entrenamiento que he encontrado en la literatura no mantienen ningún tipo de medida de la información mut…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Científicos del Instituto Tecnológico de Massachusetts (MIT) entrenaron un algoritmo de inteligencia artificial llamado "Norman" para convertirse en un psicópata solo exponiéndolo a macabras imágenes de muertes y violencia espantosas en Red…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El sitio web del Instituto de Tecnología de Massachusets para Norman, la primera IA psicópata del mundo, es extrañamente alegre y optimista. Una espeluznante combinación de Norman Bates (de la película Psicópata de Alfred Hitchcock de 1960)…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Norman: la inteligencia artificial del MIT con rasgos psicópatas El experimento se basa en la prueba de Rorschach de 1921, que identifica los rasgos psicópatas en función de la percepción de las manchas de tinta por parte de los usuarios.
I…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Laboratorio de medios del MIT
Conoce a Norman.
Él no es tu IA de todos los días. Sus algoritmos no ayudarán a filtrar tu feed de Facebook ni te recomendarán nuevas canciones para escuchar en Spotify.
No. Norman es una "IA psicópata", creada…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Norman siempre ve lo peor de las cosas.
Eso es porque Norman es un "psicópata" impulsado por inteligencia artificial y desarrollado por el MIT Media Lab.
Norman es un algoritmo destinado a mostrar cómo los datos detrás de la IA son muy impo…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El nuevo algoritmo de inteligencia artificial de los científicos del MIT dio a luz a un "psicópata" llamado Norman.
Los científicos, Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, expusieron a AI Norman, llamado así por el personaje de Antho…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Foto: Matt Cardy (imágenes falsas)
Todos hemos visto máquinas malvadas en Terminator o Matrix, pero ¿cómo se vuelve malvada una máquina? ¿Es como el Proyecto Satán de Futurama, donde los científicos combinaron partes de varios autos malvado…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Para algunos, la frase "inteligencia artificial" evoca visiones de pesadilla, algo sacado de la película de Will Smith de 2004 I, Robot, tal vez, o el final de Ex Machina, como una bota que atraviesa el cristal de la pantalla de una computa…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El MIT ha creado una nueva IA que esperamos sinceramente que nunca escape a la naturaleza, porque así ES como obtienes Skynet. Esta IA se llama Norman y es un psicópata. ¿Cómo se convirtió Norman en un psicópata? Todos los datos de imágenes…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Investigadores del MIT han creado un psicópata. Lo llaman normando. Él es una computadora. En realidad, eso no es realmente correcto. Aunque el equipo llama a Norman un psicópata (y el escalofriante gráfico principal en su página de inicio …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Científicos del Instituto Tecnológico de Massachusetts dieron a conocer el primer algoritmo de inteligencia artificial entrenado para ser un psicópata. La IA fue apodada apropiadamente "Norman" en honor a Norman Bates, el notorio asesino en…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los investigadores del MIT crearon una inteligencia artificial a la que llaman "psicopática" para mostrar los sesgos que son inherentes a la investigación de la IA. Cuando se le pide que mire las manchas de la prueba de Rorschach, "Norman" …
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Cuota
La ciencia ficción nos ha dado muchas I.A. malévolas e icónicas. caracteres. Sin embargo, a menudo se trata de figuras como Terminator's T-800 o Alien's Ash que cometen asesinatos sin emociones para perseguir un objetivo final. Aquell…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El desarrollo de la inteligencia artificial, advirtió una vez Stephen Hawking, será "o lo mejor o lo peor que le haya pasado a la humanidad". Un nuevo algoritmo de IA expuesto a los rincones más macabros de Internet demuestra cómo podríamos…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Investigadores del MIT han programado una IA utilizando exclusivamente contenido violento y espantoso de Reddit.
Lo llamaron "Norman".
Como resultado, Norman solo ve la muerte en todo.
Esta no es la primera vez que Internet oscurece una IA;…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Científicos del MIT han creado un psicópata de IA entrenado con imágenes de un hilo particularmente inquietante en Reddit. Norman está diseñado para ilustrar que los datos utilizados para el aprendizaje automático pueden afectar significati…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La Inteligencia Artificial (IA) está resolviendo muchos problemas para los humanos. Pero, como dijo el CEO de Google, Sundar Pichai, en el manifiesto de la compañía para la IA, una tecnología tan poderosa "plantea preguntas igualmente poder…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Investigadores del MIT han creado 'Norman', la primera inteligencia artificial psicópata para explicar cómo se fabrican los algoritmos y concienciar a las personas sobre los peligros potenciales de la IA
No, no es una nueva película de terr…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
Comparte su nombre con el asesino que empuña…
:quality(75)/curiosity-data.s3.amazonaws.com/images/content/thumbnail/standard/985a1b65-500f-494b-ab28-37f59817a71b.png)
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Este experimento con Norman muestra que no importa cuán riguroso sea el algoritmo real si está sobreexpuesto a contenido dañino. Los algoritmos como pymetrics en realidad tienen un efecto beneficioso, pero es vital que sean revisados por un…
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Puedes aprender mucho de un psicópata, y ni siquiera tienes que ver "Mindhunter" de Netflix para hacerlo. Solo necesita estudiar a Norman, el psicópata de inteligencia artificial llamado acertadamente por la figura fundamental en "Psicosis"…
Variantes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents