Définir une “réponse aux incidents d'IA”
Une Réponse d'Incident d'IA fait référence à une réponse publique officielle à un incident dans la base de données des incidents AI (AIID), venu d'une entité (c'est-à-dire entreprise, organisation, individu) soi-disant responsables du développement ou du déploiement de l'IA ou du système d'IA impliqué.
Une réponse à un incident d'IA contient généralement des informations raisonnablement adéquates sur l'incident concernant :
- Ce qu'il s'est passé,
- Pourquoi l'incident s'est-il produit,
- Ce que l'entité a fait ou va faire pour
- remédier à l'incident, et
- éviter que de futurs incidents ne se reproduisent.
Envoi des réponses aux incidents
La base de données des incidents d'IA est conçue pour fournir des informations, une structure et des perspectives sur les incidents d'IA. Si vous êtes répertorié comme une entité pour un ou plusieurs incidents, nous aimerions beaucoup travailler avec vous pour écouter votre point de vue. Vous pouvez soit soumettre une réponse directement à la base de données, soit nous contacter pour discuter de la soumission d'une réponse.
Objectif d'une réponse à un incident d'IA
La publication d'une réponse dans l'AIID est une opportunité pour les entités présumées responsables d'avoir une voix dans la discussion de l'incident afin de prévenir de manière proactive les dommages futurs et de promouvoir la pratique éthique et responsable de l'IA.
Les réponses sont des opportunités pour :
- Assurer la transparence au public sur l'incident d'IA, les causes profondes de l'incident et les actions de l'entité pour remédier aux dommages et/ou prévenir de futurs dommages.
- Faire preuve de proactivité et de leadership, et
- Mettre en évidence le point de vue unique de l'entité et l'analyse pertinente découlant de sa connaissance technique des composants sous-jacents du système d'IA.
Les réponses complètes aux incidents sont des opportunités de profiter simultanément aux intérêts de la société et de l'entreprise. Pour illustrer ce qui constitue un réponse « complète », nous introduisons plusieurs exemples de réponses aux incidents qui sont déjà dans la base de données, ainsi que les points à améliorer.
Exemples de réponses aux incidents
Rapport 1 : Rapport d'incident sur le terrain avec Knightscope
Description de l'incident : Le 7 juillet 2016, un robot de sécurité autonome Knightscope K5 est entré en collision avec un garçon de 16 mois alors qu'il patrouillait dans le centre commercial de Stanford à Palo Alto, en Californie.
Extrait de réponse à l'incident par Knightscope, Inc. :
"Les machines de données autonomes K5 ont parcouru plus de 25 000 milles et ont fonctionné pendant plus de 35 000 heures, se déplaçant généralement à environ 1 mph sans aucun incident signalé. Il y a eu des milliers de rencontres avec des adultes, des enfants et des animaux de compagnie, grands et petits, documentées quotidiennement sur les réseaux sociaux qui ont également eu lieu sans qu'aucun incident ne soit signalé. Chaque K5 héberge près de 30 capteurs, dont une multitude d'appareils de télémétrie laser, des capteurs sonar et une pile logicielle robuste, permettant aux machines de détecter le milieu environnant de moins d'un pouce à plus de 300 pieds.
Pourquoi ce rapport est-il une réponse à un incident d'IA ? Ce rapport fournit le point de vue de l'entité sur ce qui s'est passé et pourquoi l'incident s'est produit, des détails sur l'IA impliquée, ainsi que ses excuses publiques et sa méthode pour remédier à l'incident avec la partie concernée.
Que manque-t-il dans la réponse ? L'entité n'a pas fourni beaucoup de détails sur la prévention d'incidents futurs.
Rapport 2 : Suppression des comportements inauthentiques coordonnés de la Géorgie, du Vietnam et des États-Unis
Description de l'incident : un vaste réseau de pages, de groupes et de faux comptes contenant des photos de visage générées par le GAN associées à The BL, un média basé aux États-Unis, aurait contourné les systèmes de modération de Facebook pour diffuser des récits politiques sur sa plate-forme et sur Instagram.
Extrait de la réponse à l'incident par Facebook :
Bien que Facebook ne soit pas la partie qui déploie l'attaque, leur implication en tant que plateforme de médias sociaux ayant la responsabilité de protéger leurs utilisateurs contre ces attaques qualifie leur réponse de réponse à incident.
Nous travaillons constamment pour détecter et arrêter ce type d'activité car nous ne voulons pas que nos services soient utilisés pour manipuler les gens. Nous supprimons ces pages, groupes et comptes en fonction de leur comportement, et non du contenu qu'ils ont publié. Dans chacun de ces cas, les personnes à l'origine de cette activité se sont coordonnées et ont utilisé de faux comptes pour donner une fausse représentation, et c'était la base de notre action.
Aujourd'hui, nous avons supprimé 39 comptes Facebook, 344 pages, 13 groupes et 22 comptes Instagram dans le cadre d'un réseau axé sur le pays qui a pris naissance en Géorgie.
Nous avons également supprimé 610 comptes, 89 pages Facebook, 156 groupes et 72 comptes Instagram originaires du Vietnam et des États-Unis et axés principalement sur les États-Unis et certains sur les publics vietnamiens, hispanophones et chinois dans le monde.
Pourquoi ce rapport est-il une réponse à un incident d'IA ? Ce rapport fournit une description claire de la façon dont les services Facebook ont été utilisés par The BL pour manipuler les gens, ainsi qu'un compte rendu détaillé de l'incident et de leurs processus immédiats de confinement et de remédiation.
Que manque-t-il dans la réponse ? L'entité n'a pas fourni de détails sur la prévention d'incidents futurs ou de dommages récurrents.