Bir ses klibi, yerel bir okul müdürünün aşağılayıcı yorumlarda bulunduğunu gösterdiğinde, çevrimiçi olarak viral oldu, eğitimciye karşı ölüm tehditlerine yol açtı ve Baltimore şehrinin dışındaki bir banliyöden dalgalanmalar gönderdi.
Ancak kısa süre sonra yapay zeka tarafından manipüle edilen sahte bir şey olarak ortaya çıktı - öyleyse neden insanlar hala bunun gerçek olduğuna inanıyor?
"Burada her gün neden bu aptallara katlanmak zorunda olduğumu gerçekten anlamıyorum." Böylece, ırkçı, antisemitik ve saldırgan klişelerle noktalanmış Pikesville Lisesi müdüründen uzun bir tirade gibi görünen şey başladı.
Sanki gizlice kaydedilmiş gibiydi.
Konuşmacı, toplumdaki "saf olmayan siyahi çocuklar" ve Yahudi halkı olmaya devam etti.
İlk olarak Ocak ayında yayınlanan klip, ulusal çapta viral oldu.
Ancak, büyük siyah ve Yahudi nüfusu olan Pikesville'in huzurlu, yapraklı banliyösünde ve yakınlardaki Baltimore, Maryland kentinde gerçekten bir sinir vurdu.
Müdür Eric Eiswert, bir soruşturma bekleyen ücretli idari izine konuldu.
Yakınlarda Baltimore'da yaşayan siyahi bir adam olan Alfie Malone, topluluğundaki diğer üyelerin klibi yayınladığını fark etti ve bunun gerçek olduğunu varsaydı.
Bay Malone, "Aklınızın arkasında, muhtemelen insanların gerçekten bizim hakkımızda hissettiklerinin bu olduğunu düşünüyorsunuz" dedi.
"Ve sonra bunu duymak gerçekten ses ile karşılaşır." Duyduklarını doğrulamak için Bay Malone, Bay Eiswert'in sosyal medyadaki diğer gerçek kayıtlarını kontrol etti ve aynı şekilde konuştular.
Böylece yarı zamanlı postacı, yarı zamanlı podcaster yeniden paylaşım düğmesine bastı.
Klip, daha fazla insanın çevrimiçi olarak yayılmasıyla sosyal medyada çekiş kazanmaya başladı.
En çok paylaşılan versiyonlardan biri, saatler içinde iki milyon izlenmeyi geçme yolundaydı.
Zaten, bu Pikesville nüfusunun yaklaşık 60 katıdır.
Ancak klibi paylaşanların o sırada fark etmediği şey, başka bir bomba kabuğunun düşmek üzere olduğuydu: klip, AI tarafından üretilen bir sahteydi.
BBC Radio 4'ün Why Do You Hate Me USA için, Maryland'de bu klibin o kasaba üzerindeki etkisini araştırdım.
AI'nın özellikle yerel topluluklar hedef alındığında ortaya koyduğu tehlikeler hakkında neredeyse bir masal gibi okuyor.
Klip Baltimore Banner'daki bir eğitim muhabiri olan Kristen Griffith'in masasına indiğinde, bunun saldırgan sözler söylediği için maruz kalan bir öğretmenin nispeten basit bir hikayesi olacağını düşündü.
Ama gazetecilikte en iyi uygulama olduğu gibi, Bayan Griffith de müdüre yorum yapma ve hikâyenin kendi tarafını anlatma şansı vermek istedi.
Böylece, sadece Bay Eiswert'in yorumları kınadığını değil, aynı zamanda bunları yapmadığını söyleyen sendika temsilcisine ulaştı.
BBC'ye verdiği demeçte, "Hemen, bunun sahte olduğunu düşünüyoruz... Yapay zekasına inanıyoruz" dedi.
"Bu açıyı daha önce duymamıştım".
Ancak bu açıklamayı yayınladığında okuyucuları ikna olmadı.
Klipin doğruluğu hakkında soru sormaktan çok, sahtecilik iddiasının sadece bir bahane veya hesap verebilirlikten kaçınma girişimi olduğunu düşünen insanlardan gelen tepkileri körükledi.
Bu noktada yerel polis olayı araştırmaya başladı.
Pikesville Lisesi'ndeki personel, tüm ilgi nedeniyle kendilerini güvensiz hissettiklerini ve okulun kayıt cihazlarıyla dinlendiğinden endişe duyduklarını söyledi.
Müdür Eiswert'in itibarı da ciddi bir darbe almıştı.
Güvenlik hem onun hem de okulun etrafında arttı.
Sosyal medya nefreti ve tehditleri için bir hedef haline geldi.
Sosyal medyada onu hedef alan düzinelerce küfürlü mesaj buldum.
Daha sonra Nisan ayında Baltimore Polis Şefi Robert McCullough, "kayıtların gerçek olmadığına dair kesin kanıtlar" olduğunu doğruladı.
Ve sahteyi kimin yaptığını bildiklerine inandılar.
Polis, okulun atletizm direktörü 31 yaşındaki Dazhon Darien'i sahte video ile ilgili birkaç suçlamayla suçladı.
Suçlamalar arasında hırsızlık, bir tanığa karşı misilleme ve takip vardı.
Polisin Houston, Teksas'a uçmayı planladığını söylediği havaalanında tutuklandı.
Polis, Darien'in Müdür Eiswert tarafından okuldan 1,916 dolar (1,460 ) çalındığı iddiasıyla soruşturmaya alındığını söylüyor.
Ayrıca, "iş performansı zorlukları" olduğunu ve sözleşmesinin yenilenmeyeceğini iddia ediyorlar.
Teorileri, Deepfake kaydını oluşturarak, kovulmadan önce müdürü itibarsızlaştırmayı umduğuydu.
Araştırmacılar, orijinal videoyu Bay Darien'e bağlı bir sunucuya göndermek için kullanılan bir e-postanın izini sürdüklerini ve yapay zeka araçlarına erişmek için Baltimore County Devlet Okulları bilgisayar ağını kullandığını iddia ettiklerini söylüyor.
Aralık 2024'te yargılanması bekleniyor.
Darien'in yasal temsilcileri yorum taleplerine cevap vermedi.
Baltimore County Okulları Başkomiser Myriam Rogers daha önce okul topluluğu, okul müdürü ve ailesi için "çok zor bir zaman" olduğunu söylemişti.
Pikesville Lisesi temsilcileri ve Bay Eiswert daha fazla yorum için isteklerime cevap vermedi.
Klip sadece ses olduğu için, normalde AI manipülasyonunu ortaya çıkaran robotik hareketler gibi görsel hediyelerin olmadığı anlamına geliyordu.
Ayrıca, "sınıf düzeyinde beklentiler" gibi jargondan ve personel isimleri gibi sadece okula yakın kişilerin bilebileceği diğer ayrıntılardan da bahsetti.
Yine de dikkatle dinlediğinizde, cümleler arasında net düzenlemeler var - ve ses, müdüre benzerken, oldukça monoton geliyor.
Yapay zeka, gerçek bir kaydın birkaç dakikasını kullanabilir - örneğin, bir filmdeki en sevdiğiniz aktörden veya bir konuşma yapan bir başkan adayından - daha sonra hiç yapmadıkları bir şey söylemiş gibi ses çıkaran bir klip oluşturabilir.
Ama belki de insanların videonun gerçek olduğuna inanmasının en büyük nedeni, bunun doğru olduğunu hissetmeleriydi, Bay Malone.
Baltimore'da yaşayan siyah bir adam olarak kendi ırkçılık deneyimlerine girdi.
Bay Malone, müdürün siyah öğrencileri tembel olarak tanımladığını duyduğunda, hemen ona okulda ve işte karşılaştığı şapşallığı ve ayrımcılığı hatırlattı.
Aylar sonra, sahte ses klibinin etkileri hala Pikesville'de hissediliyor.
Bay Eiswert iş değiştirdi ve başka bir okulda çalışıyor.
Ve bazı topluluk üyeleri bana videonun sahte olduğunu kabul ettiklerini söyleseler de, hasar oluştu.
“Bu bir Yahudi mahallesi ve toplum hakkında bu kadar kışkırtıcı bir şey söylemek üzücüydü,” dedi Sharon adlı bir kadın, geçen Ağustos ayında torununun pramını lisenin karşısındaki bir evde bir arabaya doldururken.
Birkaç dakika boyunca Sharon klip gerçekmiş gibi benimle konuştu.
"Bence insanlar böyle şeyler söylediğinde, diğer insanlar buna katılıyor ve bu beni daha çok korkutuyor." Kocası, klibin aslında sahte olduğunu hatırlatarak arabadan cıvıldadığında, "daha sonra AI tarafından üretildiğini öğrendiğini" itiraf etti.
Ama bu konuda hala kızgın olduğunu söyledi.
Klipin gerçek olduğuna inanan Sharon gibi insanlar için, kısa bir süre için bile olsa, onlarla birlikte kaldığını buldum - özellikle de mesaj ırkçılık ve ayrımcılıkla ilgili gerçek deneyimleri yansıttığında.
Yanlış bilgilendirme ve komplo teorilerini araştırırken defalarca duyduğum bir şeyi hatırlattı: “Eh, gerçek olmasa bile, düşündüğüm şey bu.” Tüm büyük sosyal medya şirketleri, AI tarafından oluşturulan yayınların yayılmasını etiketlemek, kaldırmak ve sınırlamak için politikaları olduğunu söylüyor.
Ancak bu eylem sadece bir klibin sahte olduğu kanıtlanabildiğinde gerçekleşir.
Bu noktadan sonra milyonlarca insana ulaşmış olabilir.
Alfie Malone, o günün erken saatlerinde bile, klibin AI tarafından üretildiğini hala bilmeyen bir arkadaşıyla konuştuğunu söyledi.
"Dürüstçe inanıyorum ki, bu şehirde birçok insan bunun doğru olmadığını gerçekten bilmiyor" dedi.
Okul müdürü Bay Eiswert'in yanlış bir şekilde yorum yapmakla suçlanmasından dolayı üzgün olduğunu söyledi.
Ayrıca, bölümün gerçek ırkçılık deneyimlerini baltaladığından endişe duyuyor.
Böyle bir klibi tekrar paylaşmadan önce iki kez düşüneceğini söyledi.
"Bir keresinde yangında yanmıştım.
Bir daha sobaya dokunmayacağım."