User Story en Foco: Detrás de escena de los desarrollos de bases de datos

Cada función principal de la base de datos de incidentes de IA (AIID) se construye como una serie de desarrollos incrementales dentro del marco "ágil", en el que las capacidades se basan en historias de usuarios que detallan las ganancias logradas por la función. Estaremos destacando estas historias de usuarios a lo largo del tiempo para mostrar cómo nuestros esfuerzos se complementan entre sí en la dirección de promover una IA responsable aprendiendo de los errores del pasado.

El mes pasado, la ingeniera de experiencia de usuario (UX) Luna McNulty, editor de base de datos Khoa Lam e ingeniero full stack César Varela cada uno logró hitos que respaldan la capacidad de visualizar y agrupar incidentes para generar información del usuario.

Visión espacial

Historia de usuario: "Quiero comprender los grupos de incidentes para poder motivar mi trabajo de {investigación, política, defensa, ingeniería}"

Una función clave del AIID es la capacidad de detección de incidentes, especialmente a medida que aumentan los incidentes con el tiempo. La primera taxonomía del AIID proporcionada por el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown proporcionó a los usuarios una poderosa herramienta para buscar y descubrir mediante filtros de clasificación, pero los informes de incidentes contienen mucha más información de la que se puede capturar en una sola taxonomía. . La ingeniera de UX Luna McNulty agregó una capa sobre esta taxonomía y el modelo de incrustación de incidentes para agrupar incidentes según sus propiedades textuales. La visualización de datos representa los incidentes más cerca de incidentes similares según el modelo integrado, y los incidentes se colorean según el tipo de clasificación CSET seleccionado. A medida que aumenta la cantidad de incidentes y los datos de incidentes se vuelven más ricos, las formas adicionales de visualizar los datos ayudarán a contar una historia sobre los daños de la IA en el pasado.

Historia de usuario destacada: Enriquecimiento de los datos de incidentes

Historia de usuario: "Quiero que los incidentes tengan títulos para poder consultarlos en conversaciones con otros {investigadores, responsables políticos, ingenieros, personas}"

Desde su inicio, el AIID ha recopilado informes individuales (p. ej., artículos de noticias) de daños causados ​​por la IA y los ha agrupado retrospectivamente en páginas de incidentes que presentan el contexto y la información sobre el mismo evento. A medida que la base de datos creció, se hizo necesario destilar la información presentada por los informes de incidentes en resúmenes completos de cada incidente. Los resúmenes permiten a los usuarios de la base de datos pasar de los titulares sensacionalistas a las opiniones consensuadas de lo que ocurrió. La siguiente figura muestra la distinción entre informes e incidentes y ofrece un ejemplo de cómo los títulos de informes individuales se traducen en títulos de incidentes compuestos.

El editor de la base de datos, Khoa Lam, analizó sistemáticamente todos los registros de incidentes para agregar títulos, descripciones y presuntas partes {implementadores, desarrolladores, partes perjudicadas}. Los nuevos metadatos abren oportunidades para muchos desarrollos futuros de bases de datos para agrupar y presentar incidentes de manera que impulsen los conocimientos y las tendencias en los daños de la IA.

Ambas historias de usuarios respaldan en última instancia nuestra misión de desarrollar una práctica de IA responsables mediante la comprensión del pasado, pero también queremos fomentar una cultura de responsabilidad para responder a los incidentes después de que ocurran. Esto nos lleva a la historia de usuario final de la publicación de blog con los desarrollos de César.

Historia de usuario destacada: páginas de entidad

Historia de usuario: "Quiero ver páginas que resumen mi organización según los incidentes con los que estamos asociados para poder desarrollar un programa que mitigue los efectos"

Sobre la base del trabajo de Khoa que enriquece los incidentes con metadatos clave, el ingeniero de pila completa César Varela desarrolló una forma de ver los incidentes agrupados por "entidad". Los visitantes de la base de datos pueden ver páginas que destacan los incidentes generados y respondidos por varias empresas. En una versión futura, proporcionaremos a estas entidades la capacidad de agregar respuestas a incidentes (es decir, detalles desde su perspectiva sobre lo que sucedió, por qué sucedió y qué harán para prevenir/mitigar su recurrencia). Como práctica para desarrollar un sentido colectivo de responsabilidad por futuros incidentes de IA, estos procesos de respuesta son fundamentales para la producción y el despliegue de sistemas de IA socialmente beneficiosos.

¿Buscas profundizar más?

Nuestro objetivo no es solo ser un repositorio de incidentes de IA, sino también contribuir a la misión de desarrollo e implementación responsable de IA con información de apoyo para la presentación de datos. Si tiene una idea para una nueva forma de visualizar o buscar incidentes, contáctenos!