Resumen de incidentes de IA - 23 de enero
Bienvenido a la edición de este mes de The Monthly Roundup, un boletín informativo diseñado para brindarle un resumen digerible de los últimos incidentes e informes de la base de datos de incidentes de IA.
Este mes profundizaremos en ChatGPT y otros modelos de lenguaje extenso (LLM), cuyos incidentes se anotan con el ícono 💬.
Tiempo estimado de lectura: 6 minutos
🗞️ Nuevos Incidentes
Incidentes emergentes que ocurrieron el mes pasado:
- ¿Qué sucedió? ShotSpotter no detectó disparos ni alertó a la policía de Durham de un tiroteo desde un vehículo en movimiento en Durham, Carolina del Norte, que dejó a cinco personas en el hospital el día de Año Nuevo.
- Acerca de la IA: ShotSpotter clasifica eventos de audio con un sensor como disparos potenciales, triangula la ubicación del evento y alerta a las autoridades del evento.
- ¿Qué sucedió? Las respuestas generadas por ChatGPT enviadas a la plataforma de recompensas por errores de contratos inteligentes Immunefi supuestamente carecían de detalles para ayudar a diagnosticar problemas técnicos, lo que supuestamente hizo perder el tiempo de la plataforma, lo que provocó prohibiciones a los remitentes.
- ¿Qué sucedió? La moderación automática de contenido de Twitter identificó erróneamente imágenes de lanzamientos de cohetes como contenido pornográfico, lo que provocó suspensiones de cuentas incorrectas.
- ¿Qué sucedió? Los bomberos locales solo pudieron evitar que un Cruise AV pasara por encima de las mangueras contra incendios que estaban en uso en una escena de incendio activo cuando rompieron su ventana delantera.
📎 Nuevos desarrollos
Incidentes más antiguos que tienen nuevos informes o actualizaciones.
| Incidente Original | Informe(s) nuevo(s) |
|---|---|
Incidente #112: Los departamentos de policía reportaron a ShotSpotter como poco confiable y derrochador |
|
💬 Incidente #339: Modelos generativos de código abierto abusados por los estudiantes para hacer trampa en las tareas |
|
Incidente #430: A los abogados se les niega la entrada al lugar de la actuación por reconocimiento facial |
|
Incidente #434: El frenado repentino de Tesla supuestamente en el modo de conducción autónoma provocó un choque de varios autos en un túnel |
|
Incidente #436: Conductor de Tesla puso su auto en piloto automático antes de quedarse dormido en Alemania |
|
Incidente #440: La policía de Luisiana arrestó injustamente a un hombre negro usando una herramienta de reconocimiento facial errónea |
|
💬 Incidente #443: ChatGPT abusado por estudiantes para desarrollar softwares maliciosos |
|
Incidente #448: VTuber impulsado por IA y Virtual Streamer hicieron comentarios tóxicos en Twitch |
|
💬 Incidente #449: Startup engañó a los participantes de la investigación sobre el uso de GPT-3 en el apoyo a la atención de la salud mental |
|
💬 Incidente #450: Anotadores de datos de Kenia supuestamente expuestos a imágenes gráficas y texto para el contrato OpenAI |
|
🗄 De los archivos
En cada edición, presentamos uno o más incidentes históricos que encontramos estimulantes.
En enero, recibimos una afluencia de incidentes relacionados con el ChatGPT recientemente lanzado de OpenAI. Recopilamos y analizamos los distintos incidentes de ChatGPT y las categorías derivadas de daños, que incluyen:
- Deshonestidad academica
- Desarrollo de programas maliciosos
- Jailbreaking con facilidad
- Exposición del contenido del etiquetador
- Citas falsas
- Seguro de calidad
Un análisis detallado de uno de nuestros editores se publicará en breve en nuestro blog.
👇 Profundizando más
-
Todos los nuevos incidentes agregados a la base de datos en el último mes, agrupados por tema:
- Modelos generativos (por ejemplo, ChatGPT): #443, #449, #450, #452, #455, #457
- Redes sociales: #447, #448, #453
- Errores impactantes: #444, #445, #446
- Privacidad y vigilancia: #438, #441
- Reconocimiento facial: #439, #440
- Robots y compañeros de IA: #456, #458
- Equidad para el consumidor: #435, #437
- Vehículos autónomos: #436, #459
- Sesgo y discriminación: #454
- Imágenes generadas por IA: #451
-
Explora grupos de incidentes similares en Visualización espacial
-
Consulta Vista de tabla para obtener una vista completa de todos los incidentes
-
Obtén información sobre presuntos desarrolladores, implementadores y partes perjudicadas en Página de entidades
🦾 Apoya nuestros esfuerzos
¿Sigues leyendo? ¡Ayúdanos a cambiar el mundo para mejor!
- Comparte este boletín en LinkedIn, Twitter y Facebook
- Envía incidentes a la base de datos
- Contribuye a la funcionalidad de la base de datos