Als ein Audioclip erschien, um einen lokalen Schulleiter zu zeigen, der abwertende Kommentare machte, ging es viral online, löste Todesdrohungen gegen den Erzieher aus und schickte Wellen durch einen Vorort außerhalb der Stadt Baltimore.
Aber es wurde bald als eine Fälschung entlarvt, manipuliert von künstlicher Intelligenz - also warum glauben die Menschen immer noch, dass es real ist?
Ich verstehe ernsthaft nicht, warum ich ständig mit diesen Dummköpfen hier jeden Tag fertig werden muss.... Also begann das, was eine lange Tirade vom Direktor der Pikesville High School zu sein schien, unterbrochen von rassistischen, antisemitischen und anstößigen Tropes.
Es klang, als wäre es heimlich aufgenommen worden.
Der Redner fuhr fort zu bemoan undankbaren schwarzen Kindern und jüdischen Menschen in der Gemeinde.
Der Clip, der zuerst im Januar veröffentlicht wurde, ging national viral.
Aber es traf wirklich einen Nerv in der friedlichen, grünen Vorort von Pikesville, die große schwarze und jüdische Bevölkerung hat, und in der nahe gelegenen Stadt Baltimore, Maryland.
Der Direktor Eric Eiswert wurde bis zur Untersuchung auf bezahlten Verwaltungsurlaub versetzt.
Alfie Malone, ein schwarzer Mann, der in der Nähe von Baltimore lebt, entdeckte andere Mitglieder seiner Gemeinde, die den Clip veröffentlichten, und nahm an, er sei real.
Im Hinterkopf denken Sie, dass dies wahrscheinlich die Art ist, wie die Menschen wirklich über uns denken, sagte Herr Malone.
Um das zu bestätigen, was er hörte, checkte Herr Malone andere echte Aufnahmen von Herrn Eiswert in den sozialen Medien aus, und sie klangen gleich.
Also der Teilzeit-Postbote, Teilzeit-Podcaster traf den Re-Share-Button.
Der Clip fing an, Traktion über soziale Medien zu gewinnen, als mehr Leute es online verbreiten.
Eine der am meisten geteilten Versionen war auf dem Weg zu zwei Millionen Ansichten innerhalb von Stunden.
Das ist schon das 60-fache der gesamten Bevölkerung von Pikesville.
Aber was diejenigen, die den Clip teilten, damals nicht merkten, war, dass eine weitere Bombe kurz davor war zu fallen: der Clip war eine KI-generierte Fälschung.
Für BBC Radio 4-mal Why Do You Hasse Me USA, I-malte ich in Maryland die Auswirkungen dieses Clips auf diese Stadt.
Es liest sich fast wie eine Fabel über die Gefahren, die KI darstellt, vor allem wenn lokale Gemeinschaften gezielt sind.
Als der Clip auf dem Schreibtisch von Kristen Griffith landete, einer Bildungsreporterin im Baltimore Banner, dachte sie, es würde eine relativ einfache Geschichte sein, dass ein Lehrer für anstößige Bemerkungen aufgedeckt wird.
Aber ebenso wie Best-Practice im Journalismus, wollte Frau Griffith dem Direktor die Möglichkeit geben, seine Seite der Geschichte zu kommentieren und zu erzählen.
So wandte sie sich an seinen Gewerkschaftsvertreter, der nicht nur sagte, Herr Eiswert verurteile die Kommentare, sondern er machte sie nicht.
Er sagte sofort, oh, wir halten das für eine Fälschung... wir glauben an seine KI, sie hat es der BBC erzählt.
Ich hatte diesen Winkel vorher nicht gehört.
Aber als sie diese Erklärung veröffentlichte, waren ihre Leser nicht überzeugt.
Weit davon entfernt, Fragen über die Richtigkeit des Clips zu stellen, heizte es nur die Gegenreaktion von Leuten an, die dachten, die Anschuldigung der Fälschung sei nur eine Ausrede oder ein Versuch, der Rechenschaftspflicht zu entgehen.
Zu diesem Zeitpunkt begann die örtliche Polizei, den Fall zu untersuchen.
Die Mitarbeiter von Pikesville High erzählten ihnen, dass sie sich wegen der ganzen Aufmerksamkeit unsicher fühlten, und sie waren besorgt, dass die Schule mit Aufnahmegeräten verwanzt war.
Auch der Ruf von Direktor Eiswert hatte einen schweren Schlag erlitten.
Die Sicherheit wurde sowohl um ihn als auch um die Schule erhöht.
Er wurde zum Ziel von Hass und Drohungen in den sozialen Medien.
Ich fand Dutzende von missbräuchlichen Botschaften, die auf ihn in den sozialen Medien zielten.
Im April bestätigte der Polizeichef von Baltimore Robert McCullough, dass die Aufnahme nicht authentisch sei.
Und sie glaubten, dass sie wüssten, wer die Fälschung gemacht hat.
Die Polizei beschuldigte den 31-jährigen Dazhon Darien, den Direktor für Leichtathletik der Schule, mit mehreren Zählungen im Zusammenhang mit dem gefälschten Video.
Zu den Anklagen gehörte Diebstahl, Vergeltung gegen einen Zeugen und Stalking.
Er wurde am Flughafen verhaftet, wo die Polizei sagte, er plante, nach Houston (Texas) zu fliegen.
Die Polizei sagt, dass Herr Darien wegen eines angeblichen Diebstahls von 1.916 $ (1.460 £) von der Schule untersucht worden sei.
Sie beschuldigen auch, es sei .......................................................................................................................................................................................................................................................
Ihre Theorie war, dass durch die Schaffung der Deepfake-Aufnahme, hoffte er, den Direktor zu diskreditieren, bevor er gefeuert werden konnte.
Die Ermittler sagen, dass sie eine E-Mail zurückverfolgt haben, mit der das Originalvideo an einen Server gesendet wurde, der mit Herrn Darien verbunden ist, und behaupten, dass er das Computernetzwerk von Baltimore County Public Schools benutzte, um auf KI-Tools zuzugreifen.
Er soll im Dezember 2024 vor Gericht stehen.
Die gesetzlichen Vertreter von Darien antworten nicht auf die Aufforderungen zur Stellungnahme.
Baltimore County Schools Superintendent Myriam Rogers hatte zuvor gesagt, es sei eine sehr schwierige Zeit für die Schulgemeinschaft, den Direktor und seine Familie.
Die Vertreter der Pikesville High School und Herr Eiswert haben meine Bitten um weitere Bemerkungen nicht beantwortet.
Da der Clip nur Audio war, bedeutete das, dass es keine visuellen Giveaways gab, wie Roboterbewegungen, die normalerweise KI-Manipulationen aufdecken.
Es erwähnte auch Jargon, wie . Grade-Level-Erwartungen, und andere Details, wie Personal Namen, dass nur Menschen in der Nähe der Schule wissen würde.
Wenn man aber genau zuhört, gibt es klare Bearbeitungen zwischen Sätzen - und die Stimme, die dem Prinzip ähnlich ist, klingt ziemlich monoton.
Künstliche Intelligenz kann mehrere Minuten einer echten Aufnahme verwenden - von, sagen wir, Ihrem Lieblingsdarsteller in einem Film oder einem Präsidentschaftskandidaten, der eine Rede hält - um dann einen Clip zu erzeugen, der es klingt, als hätten sie etwas gesagt, das sie nie getan haben.
Aber vielleicht der größte Grund, warum die Leute glaubten, das Video sei real, war, weil es wahr war, sagte mir Herr Malone.
Es knüpfte an seine eigenen Erfahrungen mit Rassismus als Schwarzer, der in Baltimore lebt.
Als Herr Malone hörte, dass der Direktor schwarze Schüler als faul bezeichnete, erinnerte er ihn sofort an Schleudern und Diskriminierungen, die er in der Schule und in der Arbeit erlebte.
Monate später sind die Effekte des gefälschten Audioclips noch in Pikesville zu spüren.
Herr Eiswert hat einen Arbeitsplatz verlegt und arbeitet in einer anderen Schule.
Und obwohl einige Gemeindemitglieder mir sagten, dass sie jetzt akzeptieren, dass das Video gefälscht ist, wird der Schaden angerichtet.
Dies ist ein jüdisches Viertel und etwas zu sagen, das so entzündlich über die Gemeinde war verstörend, sagte eine Frau namens Sharon mir, als sie packte ihr Enkelkind Kinderwagen in ein Auto in einem Haus gegenüber der High School im August letzten Jahres.
Für einige Minuten sprach Sharon mit mir, als wäre der Clip echt.
Ich denke, wenn Leute solche Dinge sagen, schließen sich andere Leute an, und das macht mich ängstlicher.Als ihr Mann aus dem Auto hereingezwitschert wurde und sie daran erinnerte, dass der Clip tatsächlich gefälscht war, gab sie zu, dass sie es später herausfand, es war KI-generiert.
Aber sie sagte, sie sei immer noch wütend darüber.
Ich stellte fest, dass für Leute wie Sharon, die den Clip für real gehalten hatten, er auch für kurze Zeit bei ihnen blieb - vor allem, wenn die Botschaft echte Erfahrungen von Rassismus und Diskriminierung widerspiegelte.
Es erinnerte mich an etwas, das ich immer wieder höre, während ich Fehlinformations- und Verschwörungstheorien untersuchte: "Nun, selbst wenn es nicht real ist, ist es das, was ich denke, was sie denken."Alle großen Social-Media-Unternehmen sagen, dass sie Politik haben, um die Verbreitung von KI-generierten Posts zu kennzeichnen, zu entfernen und zu begrenzen.
Aber diese Aktion passiert nur, wenn es nachgewiesen werden kann, dass ein Clip gefälscht ist.
Bis dahin hätte es bereits Millionen von Menschen erreichen können.
Alfie Malone sagte noch früher an diesem Tag, er sprach mit einem Freund, der noch keine Ahnung hatte, dass der Clip KI-generiert war.
Ich glaube ehrlich, dass eine Menge Leute hier in dieser Stadt nicht wirklich wissen, dass das nicht wahr ist, sagte er.
Er bedauert, dass Herr Eiswert, der Schuldirektor, fälschlicherweise der Äußerung beschuldigt werde.
Er ist auch besorgt, dass die Episode wirkliche Erfahrungen von Rassismus untergraben hat.
Er sagte, er würde zweimal nachdenken, bevor er wieder einen Clip wie diesen teilt.
Ich bin einmal vom Feuer verbrannt worden.
Ich berühre den Herd nicht wieder.