Quand un clip audio a semblé montrer un directeur d'école local faisant des commentaires dérogatoires, il est devenu viral en ligne, a déclenché des menaces de mort contre l'éducateur et envoyé des ondulations à travers une banlieue à l'extérieur de la ville de Baltimore.
Mais il a vite été exposé comme un faux, manipulé par l'intelligence artificielle - alors pourquoi les gens croient-ils encore qu'il est réel?
Je ne comprends vraiment pas pourquoi je dois constamment supporter ces stupéfiants ici tous les jours. Alors a commencé ce qui semblait être une longue tirade du directeur de l'école secondaire de Pikesville, ponctué de tropes racistes, antisémites et offensives.
On aurait dit qu'il avait été enregistré secrètement.
L'orateur a continué à prier les enfants noirs et les Juifs de la communauté.
Le clip, publié pour la première fois en janvier, est devenu viral à l'échelle nationale.
Mais il a vraiment frappé un nerf dans la banlieue paisible et feuillue de Pikesville, qui a de grandes populations noires et juives, et dans la ville voisine de Baltimore, Maryland.
Le principal Eric Eiswert a été mis en congé administratif payé en attendant une enquête.
Alfie Malone, un homme noir qui vit à Baltimore, a repéré d'autres membres de sa communauté en publiant le clip et a supposé que c'était réel.
Dans votre esprit, vous pensez que c'est probablement la façon dont les gens pensent vraiment de nous, a dit M. Malone.
Dans un effort pour corroborer ce qu'il entendait, M. Malone a vérifié d'autres enregistrements réels de M. Eiswert sur les médias sociaux et ils ont sonné la même chose.
Donc le facteur à temps partiel, podcasteur à temps partiel, a appuyé sur le bouton de re-partage.
Le clip a commencé à gagner en traction sur les médias sociaux à mesure que plus de gens le diffusent en ligne.
L'une des versions les plus partagées était bien en route pour passer deux millions de vues en quelques heures.
Déjà, cela représente environ 60 fois la population entière de Pikesville.
Mais ceux qui partageaient le clip ne savaient pas à l'époque qu'une autre bombe allait tomber : le clip était un faux produit par l'IA.
Pour BBC Radio 4=2 Pourquoi me détestez-vous USA, I=2 a été au Maryland en train d'enquêter sur l'impact que ce clip a eu sur cette ville.
Il lit presque comme une fable sur les dangers que pose l'IA, en particulier lorsque les communautés locales sont ciblées.
Quand le clip a atterri sur le bureau de Kristen Griffith, journaliste en éducation à la Baltimore Banner, elle a pensé que ce serait une histoire relativement simple d'un enseignant exposé pour avoir fait des remarques offensantes.
Mais comme c'est le cas dans le journalisme, Mme Griffith a voulu donner au directeur la possibilité de commenter et de raconter son côté de l'histoire.
Elle s'est donc adressée à son représentant syndical, qui a dit non seulement que M. Eiswert condamnait les commentaires, mais qu'il ne les avait pas faits.
Il a dit tout de suite, oh, nous pensons que c'est faux... nous croyons que c'est de l'intelligence artificielle," elle a dit à la BBC.
J'avais déjà entendu cet angle.
Mais quand elle a publié cette explication, ses lecteurs n'étaient pas convaincus.
Loin de soulever des questions sur la véracité du clip, il a simplement alimenté des réactions de personnes qui pensaient que l'allégation de fausseté n'était qu'une excuse ou une tentative pour échapper à la responsabilité.
C'est à ce stade que la police locale a commencé à enquêter sur l'affaire.
Le personnel de Pikesville High leur a dit qu'ils se sentaient dangereux à cause de toute l'attention, et ils étaient préoccupés par le fait que l'école était munie de dispositifs d'enregistrement.
La réputation du directeur Eiswert avait pris un coup sérieux aussi.
La sécurité a été renforcée autour de lui et de l'école.
Il est devenu la cible de la haine et des menaces dans les médias sociaux.
J'ai trouvé des dizaines de messages abusifs qui le visaient sur les médias sociaux.
Puis, en avril, Robert McCullough, chef de la police de Baltimore, a confirmé qu'ils avaient maintenant des preuves concluantes que l'enregistrement n'était pas authentique.
Et ils croyaient savoir qui a fait le faux.
La police a accusé Dazhon Darien, 31 ans, le directeur de l'athlétisme de l'école, avec plusieurs chefs d'accusation liés à la fausse vidéo.
Les chefs d'accusation comprenaient le vol, la représailles contre un témoin et le harcèlement.
Il a été arrêté à l'aéroport, où la police dit qu'il prévoyait de prendre l'avion pour Houston, Texas.
Selon la police, M. Darien avait fait l'objet d'une enquête de la part du directeur Eiswert au sujet d'un vol présumé de 1 916 dollars (1 460 livres sterling) de l'école.
Ils allèguent également qu'il y a eu des problèmes de performance professionnelle et que son contrat n'a probablement pas été renouvelé.
Leur théorie était qu'en créant l'enregistrement de faux profonds, il espérait discréditer le directeur avant qu'il ne puisse être renvoyé.
Les enquêteurs disent qu'ils ont tracé un courriel utilisé pour envoyer la vidéo originale à un serveur connecté à M. Darien, et allèguent qu'il a utilisé le réseau informatique des écoles publiques du comté de Baltimore pour accéder aux outils d'IA.
Il doit être jugé en décembre 2024.
Les représentants légaux de M. Darien n'ont pas répondu aux demandes de commentaires.
Le surintendant des écoles du comté de Baltimore, Myriam Rogers, avait déjà dit que c'était un moment très difficile pour la communauté scolaire, le directeur et sa famille.
Les représentants de l'école secondaire de Pikesville et de M. Eiswert n'ont pas répondu à mes demandes de commentaires supplémentaires.
Parce que le clip était uniquement audio, cela signifiait qu'il n'y avait pas de cadeaux visuels, comme des mouvements robotiques qui révèlent normalement la manipulation de l'IA.
Il a également mentionné le jargon, comme les attentes de niveau de grade, et d'autres détails, comme les noms de personnel, que seules les personnes proches de l'école connaîtraient.
Quand vous écoutez attentivement, cependant, il y a des modifications claires entre les phrases - et la voix, tout en étant similaire au principal, sonne assez monotone.
L'intelligence artificielle peut utiliser plusieurs minutes d'un enregistrement réel - par exemple, votre acteur favori dans un film ou un candidat à la présidence donnant un discours - pour ensuite générer un clip qui fait croire qu'ils ont dit quelque chose qu'ils n'ont jamais fait.
Mais peut-être que la plus grande raison pour laquelle les gens croyaient que la vidéo était réelle était parce que cela semblait vrai, m'a dit M. Malone.
Il a puisé dans ses propres expériences de racisme en tant qu'homme noir vivant à Baltimore.
Lorsque M. Malone a entendu le directeur décrire les élèves noirs comme étant paresseux, cela lui a immédiatement rappelé les insultes et les discriminations qu'il avait rencontrées à l'école et au travail.
Des mois plus tard, les effets du faux clip audio sont encore ressentis à Pikesville.
M. Eiswert a déménagé des emplois et travaille dans une autre école.
Et même si certains membres de la communauté m'ont dit qu'ils acceptaient maintenant la vidéo est fausse, les dégâts sont fait.
Il s'agit d'un quartier juif et dire quelque chose de si inflammatoire à propos de la communauté était bouleversant, une femme qui s'appelait Sharon m'a dit qu'elle avait emballé son petit-fils dans une voiture dans une maison en face du lycée en août dernier.
Pendant plusieurs minutes, Sharon m'a parlé comme si le clip était réel.
Je pense que quand les gens disent des choses comme ça, d'autres personnes se joignent à cela et cela me fait plus peur.Quand son mari a crié de la voiture, lui rappelant que le clip était en fait faux, elle a admis qu'elle l'a fait.
Mais elle a dit qu'elle était encore en colère.
J'ai constaté que pour des gens comme Sharon, qui croyaient que le clip était réel, même pour une courte période, il restait avec eux - surtout lorsque le message faisait écho à de véritables expériences de racisme et de discrimination.
Cela m'a rappelé quelque chose que j'entends maintes et maintes fois en enquêtant sur la désinformation et les théories de conspiration : « Eh bien, même si cela n'est pas réel, c'est ce que je pense qu'ils pensent. » Toutes les grandes entreprises de médias sociaux disent qu'elles ont des politiques d'étiquetage, de suppression et de limitation de la diffusion des messages générés par l'IA.
Mais cette action ne se produit que lorsqu'il peut être prouvé qu'un clip est faux.
À ce stade, il aurait déjà pu atteindre des millions de personnes.
Alfie Malone a dit encore plus tôt ce jour-là, il a parlé à un ami qui n'avait toujours pas idée que le clip était généré par l'IA.
Je crois honnêtement que beaucoup de gens ici dans cette ville ne savent pas vraiment que ce n'est pas vrai, a-t-il dit.
Il s'est dit désolé que M. Eiswert, le directeur de l'école, ait été accusé à tort de faire ces commentaires.
Il s'inquiète également de l'épisode qui a sapé les expériences réelles de racisme.
Il a dit qu'il réfléchirait à deux fois avant de re-partir un clip comme celui-ci.
J'ai été brûlé par le feu une fois.
Je ne touche plus le poêle.