AI Incident Roundup – April ‘23

Lisez notre bulletin mensuel récapitulant les nouveaux incidents dans la base de données des incidents d'IA et examinant les tendances.

🗄 Tendance dans l'AIID

En avril, il y a eu plusieurs reportages centrés sur de fausses accusations et l'usurpation d'identité. Alors que les systèmes de synthèse vocale alimentés par l'IA étaient utilisés comme outils par les humains pour usurper l'identité d'êtres chers contre de l'argent, entrer dans un système gouvernemental, faire de faux appels swat et imiter des musiciens](https://incidentdatabase.ai/cite/526), ChatGPT a généré de fausses histoires d'un maire australien et un professeur commettant des crimes.

#506 : ChatGPT aurait produit de fausses accusations de harcèlement sexuel
- LLM, fausse accusation
#507 : ChatGPT a prétendu à tort que le maire a purgé une peine de prison pour corruption
- LLM, fausse accusation
#513 : ChatGPT interdit par l'autorité italienne en raison de l'absence de base légale d'OpenAI pour la collecte de données et la vérification de l'âge
- LLM, enfants
#514 : l'outil de détection ChatGPT de Turnitin a signalé à tort les essais d'étudiants comme étant générés par l'IA
- Détection LLM
#516 : ChatGPT aurait exposé les données privées des utilisateurs en raison d'un bogue
- LLM, fausse vie privée

#509 : des escrocs ont falsifié des vidéos d'êtres chers de victimes demandant des fonds sur Facebook au Vietnam
- deepfake, arnaque, reconnaissance vocale, synthèse vocale
#523 : un journaliste australien peut accéder au compte Centrelink en utilisant l'audio AI de sa propre voix
- confidentialité, reconnaissance vocale, synthèse vocale
#524 : AI Voices abusé par l'utilisateur de Telegram pour passer des appels Swat en tant que service payant
- synthèse vocale, abus
#526 : nouvelle chanson Deepfake extraite de services de streaming musical après avoir prétendument violé les droits de l'artiste
- deepfake, synthèse vocale

#517 : Un homme arrêté pour vol de chaussettes par fausse correspondance faciale malgré son alibi
- fausse accusation, reconnaissance faciale, vision par ordinateur
#518 : Le détective new-yorkais a abusé du visage de Woody Harrelson pour effectuer une recherche par reconnaissance faciale
- fausse accusation, reconnaissance faciale, vision par ordinateur
#520 : Amazon Fresh Cameras n'a pas pu enregistrer les articles achetés
- vision par ordinateur
#521 : Images capturées par le Roomba d'iRobot contenant des utilisateurs d'appareils publiés sur des groupes privés en ligne
- vision par ordinateur, confidentialité

#522 : Les algorithmes de diffusion d'annonces politiques sur Facebook ont déduit l'alignement politique des utilisateurs, entravant la portée des campagnes politiques
- préjugés, confidentialité
#527 : les entreprises technologiques auraient payé les travailleurs de manière différente pour la même quantité de travail
- discrimination, algorithme de tarification
#529 : La diffusion stable a montré des biais pour les invites mettant en vedette des professions
- biais, génération d'image
#531 : des scanners corporels assistés par l'IA auraient soumis des voyageurs transgenres à des fouilles corporelles invasives
- abus, vie privée, discrimination

#519 : Le robot de livraison de vaisseau spatial a rencontré des problèmes lors de la traversée des terrains du campus
#525 : un véhicule Tesla fonctionnant en mode de conduite autonome se bloque dans les rues de la ville
#528 : La tarification algorithmique d'Amazon aurait augmenté le prix du livre de référence à des millions
#530 : les chaînes de télégrammes ont permis aux utilisateurs de créer du porno deepfake non consensuel en tant que service payant

Still reading? Help us change the world for the better!