Definiendo una “Respuesta a un Incidente de IA”

Una Respuesta a un Incidente de IA se refiere a una respuesta oficial pública a un incidente en la base de datos de incidentes de IA (AIID) de una entidad (es decir, empresa, organización, individuo) presuntamente responsable de desarrollar o implementar la IA o el sistema de IA involucrado en dicho incidente.

Una Respuesta a un Incidente de AI generalmente contiene información razonablemente adecuada sobre el incidente con respecto a:

1. Qué pasó,
2. Por qué ocurrió el incidente,
3. Lo que la entidad ha hecho o va a hacer para
   1. remediar el incidente, y
   2. evitar que se repitan futuros incidentes.

Envío de respuestas a incidentes

La Base de Datos de Incidentes de IA está diseñada para proporcionar información, estructura y perspectivas sobre los incidentes de IA. Si figura como una entidad para uno o más incidentes, nos gustaría mucho trabajar con usted para brindar su perspectiva. Puede enviar una respuesta directamente a la base de datos, o comuníquese con nosotros para analizar el envío de una respuesta.

Propósito de una respuesta a incidentes de IA

La publicación de una respuesta en el AIID es una oportunidad para que las entidades presuntamente responsables tengan voz en la discusión del incidente para prevenir de manera proactiva futuros daños y promover la práctica ética y responsable de la IA.

Las respuestas son oportunidades para:

• Brindar transparencia al público sobre el incidente de IA, las causas raíz del incidente y las acciones de la entidad para remediar los daños y/o prevenir daños futuros.
• Demostrar proactividad y liderazgo, y
• Destacar la perspectiva única de la entidad y el análisis relevante derivado de su conocimiento técnico de los componentes subyacentes del sistema de IA.

Las respuestas completas a incidentes son oportunidades para beneficiar simultáneamente a la sociedad y los intereses corporativos. Para ilustrar lo que constituye "completo", presentamos varios ejemplos de respuestas a incidentes que ya están en la base de datos de incidentes junto con dónde podrían mejorar.

Ejemplos de respuestas a incidentes

Informe 1: Informe de incidente de campo de problemas de Knightscope

Descripción del incidente: el 7 de julio de 2016, un robot de seguridad autónomo Knightscope K5 chocó con un niño de 16 meses mientras patrullaba el centro comercial Stanford en Palo Alto, CA.

Extracto de respuesta al incidente de Knightscope, Inc.:

“Las K5 Autonomous Data Machines han recorrido más de 25 000 millas y han estado en funcionamiento durante más de 35 000 horas, normalmente viajando a aproximadamente 1 mph sin ningún incidente informado. Ha habido miles de encuentros con adultos, niños y mascotas grandes y pequeñas documentados diariamente en las redes sociales que también han tenido lugar sin incidentes reportados. Cada K5 alberga casi 30 sensores, incluida una multitud de dispositivos de alcance láser, sensores de sonda y una sólida pila de software, lo que permite que las máquinas detecten el entorno circundante desde menos de una pulgada de distancia hasta más de 300 pies”.

¿Por qué este informe es una respuesta a un incidente de IA? Este informe brinda la perspectiva de la entidad sobre qué y por qué ocurrió el incidente, detalles sobre la IA involucrada y su disculpa pública y el método para remediar el incidente con la parte involucrada.

¿Qué falta en la respuesta? La entidad no proporcionó muchos detalles sobre la prevención de futuros incidentes.

Informe 2: Eliminación del comportamiento inauténtico coordinado de Georgia, Vietnam y EE. UU.

Descripción del incidente: una gran red de páginas, grupos y cuentas falsas que tenían fotos de rostros generadas por GAN asociadas con The BL, un medio de comunicación con sede en EE. UU., según se informa, pasó por alto los sistemas de moderación de Facebook para impulsar narrativas políticas en su plataforma e Instagram.

Extracto de respuesta a incidentes de Facebook:

Aunque Facebook no es la parte que implementa el ataque, su participación como plataforma de redes sociales que tiene la responsabilidad de proteger a sus usuarios de estos ataques califica su respuesta como una respuesta a incidentes.

Trabajamos constantemente para detectar y detener este tipo de actividad porque no queremos que nuestros servicios se utilicen para manipular a las personas. Estamos eliminando estas páginas, grupos y cuentas en función de su comportamiento, no el contenido que publicaron. En cada uno de estos casos, las personas detrás de esta actividad se coordinaron entre sí y usaron cuentas falsas para tergiversarse, y esa fue la base de nuestra acción.

Hoy eliminamos 39 cuentas de Facebook, 344 páginas, 13 grupos y 22 cuentas de Instagram como parte de una red centrada en el país que se originó en el país de Georgia.

También eliminamos 610 cuentas, 89 páginas de Facebook, 156 grupos y 72 cuentas de Instagram que se originaron en Vietnam y los EE. UU. y se centraron principalmente en los EE. UU. y algunas en audiencias de habla hispana y china en todo el mundo.

¿Por qué este informe es una respuesta a un incidente de IA? Este informe proporciona una descripción clara de cómo The BL usó los servicios de Facebook para manipular a las personas, y una descripción detallada del incidente y sus procesos inmediatos de contención y remediación.

¿Qué falta en la respuesta? La entidad no incluyó detalles sobre la prevención de futuros incidentes o daños recurrentes.