Расисткият изкуствен интелект, който заблуди и раздели една общност

05/10/2024 08:04

Когато се появи аудио клип, показващ местен училищен директор, който прави унизителни коментари, той стана вирусен онлайн, предизвика смъртни заплахи срещу педагога и изпрати вълни през предградие извън град Балтимор.
Но скоро е разкрит като фалшив, манипулиран от изкуствен интелект - така че защо хората все още вярват, че е истински?
"Аз сериозно не разбирам защо трябва постоянно да се примирявам с тези тъпаци тук всеки ден." Така започна това, което изглеждаше като дълга тирада от директора на гимназия Пайксвил, изпъстрена с расистки, антисемитски и обидни тропи.
Звучеше така, сякаш е била тайно записана.
Говорителят продължи да оплакванеблагодарните черни деца" и еврейския народ в общността.
Клипът, публикуван за първи път през януари, стана вирусен в национален мащаб.
Но това наистина удари нерв в мирното, листно предградие Пайксвил, което има голямо черно и еврейско население, и в близкия град Балтимор, Мериленд.
Директор Ерик Айсуърт е бил пуснат в платен административен отпуск в очакване на разследване.
Алфи Малоун, чернокож мъж, който живее в близкия Балтимор, забелязва други членове на неговата общност да публикуват клипа и приема, че е истински.
"В дъното на съзнанието си мислите, че вероятно това е начинът, по който хората наистина се чувстват за нас", каза г-н Малоун.
В опит да потвърди това, което е чул, г-н Малоун проверява други реални записи на г-н Айсуърт в социалните медии и те звучат по същия начин.
Значи пощальонът на непълно работно време, подкастър на непълно работно време, е натиснал бутона за повторно споделяне.
Клипът започна да набира популярност в социалните медии, тъй като все повече хора го разпространяват онлайн.
Една от най-споделяните версии е на път да премине два милиона гледания в рамките на часове.
Вече това е около 60 пъти повече от цялото население на Пайксвил.
Но това, което тези, които споделят клипа, не осъзнават по това време, е, че друга бомба е на път да падне: клипът е фалшив, генериран от AI.
За BBC Radio 4's Why Do You Hate Me USA, бях в Мериленд, изследвайки въздействието, което този клип имаше върху този град.
Чете почти като басня за опасностите, които представлява изкуственият интелект, особено когато местните общности са насочени.
Когато клипът се приземи на бюрото на Кристен Грифит, репортер по образование в Балтимор Банер, тя си помисли, че това ще бъде сравнително ясна история за учител, който е изложен за отправяне на обидни забележки.
Но както е най-добрата практика в журналистиката, г-жа Грифит искаше да даде на директора възможност да коментира и да разкаже своята страна на историята.
Така тя се свързала с представителя на профсъюза му, който казал, че не само че г-н Айсверт е осъдил коментарите, но и че не ги е направил.
"Той веднага каза, о, ние мислим, че това е фалшиво... Вярваме, че е изкуствен интелект", каза тя пред Би Би Си.
"Не бях чувал този ъгъл" преди.
Но когато публикувала това обяснение, читателите не били убедени.
Далеч от повдигането на въпроси за достоверността на клипа, той просто подклаждаше ответна реакция от хора, които смятаха, че твърдението за фалшификация е просто извинение или опит да се избегне отчетността.
В този момент местната полиция започва да разследва случая.
Персоналът в гимназията в Пайксвил им казал, че се чувстват несигурни заради цялото внимание и били загрижени, че училището е било подслушвано със записващи устройства.
Репутацията на директор Айсуърт също пое сериозен удар.
Охраната е била засилена както около него, така и около училището.
Той се превръща в мишена на омразата и заплахите в социалните медии.
Намерих десетки обидни съобщения, насочени към него в социалните медии.
Тогава през април шефът на полицията в Балтимор Робърт Маккълоу потвърди, че вече иматубедителни доказателства, че записът не е автентичен“.
И са вярвали, че знаят кой е направил фалшификата.
Полицията обвини 31-годишния Дажон Дариен, директорът по лека атлетика на училището, с няколко обвинения, свързани с фалшивото видео.
Обвиненията включвали кражба, отмъщение срещу свидетел и преследване.
Арестуван е на летището, където полицията твърди, че е планирал да отлети за Хюстън, Тексас.
Полицията твърди, че г-н Дариен е бил разследван от директора Айсуърт за предполагаема кражба на $1916 (1460) от училището.
Те също така твърдят, че е ималопредизвикателства пред работата" и договорът му вероятно няма да бъде подновен.
Теорията им била, че създавайки дийпфейк записа, той се надявал да дискредитира директора, преди да бъде уволнен.
Следователите твърдят, че са проследили имейл, използван за изпращане на оригиналното видео до сървър, свързан с г-н Дариен, и твърдят, че той е използвал компютърната мрежа на окръг Балтимор за достъп до AI инструменти.
Той трябва да бъде изправен пред съда през декември 2024 г.
Законните представители на г-н Дариен не отговориха на исканията за коментар.
Окръжният управител на училищата в Балтимор Мириам Роджърс по-рано заяви, че това емного трудно време" за училищната общност, директора и семейството му.
Представителите на гимназия Пайксвил и г-н Айсверт не отговориха на молбите ми за по-нататъшен коментар.
Тъй като клипът е само за аудио, това означава, че няма визуални подаръци, като роботизирани движения, които обикновено разкриват AI манипулация.
В него се споменава и жаргон, катоочаквания на ниво клас“, и други подробности, като имена на персонала, които само хора, близки до училището, биха знаели.
Когато слушате внимателно, обаче, има ясни редакции между изреченията - и гласът, макар и подобен на принципала, звучи доста монотонно.
Изкуственият интелект може да използва няколко минути реален запис - от, да речем, любимия ви актьор във филм или кандидат за президент, изнасящ реч - за да генерира след това клип, който го прави да звучи така, сякаш са казали нещо, което никога не са казали.
Но може би най-голямата причина, поради която хората са вярвали, че видеото е истинско, е защото е било истина, ми каза г-н Малоун.
Той се възползва от собствените си преживявания на расизъм като чернокож, живеещ в Балтимор.
Когато г-н Малоун чува директорът да описва чернокожите ученици като мързеливи, той веднага му напомня за обидите и дискриминацията, които е срещнал в училище и на работа.
Месеци по-късно ефектите от фалшивия аудио клип все още се усещат в Пайксвил.
Г-н Айсуърт е сменил работата си и работи в друго училище.
И въпреки че някои членове на общността ми казаха, че сега приемат, че видеото е фалшиво, щетите са нанесени.
"Това е еврейски квартал и да кажа нещо, което е толкова възпалително за общността, беше разстройващо", каза ми една жена на име Шарън, докато опаковаше количката на внука си в кола в къща срещу гимназията миналия август.
В продължение на няколко минути Шарън ми говореше, сякаш клипът е истински.
"Мисля, че когато хората казват такива неща, други хора се присъединяват към това и това ме кара да се страхувам повече." Когато съпругът идва от колата, напомняйки, че клипът всъщност е фалшив, тя признава, че е "разбрала по-късно, че е генериран от AI".
Но тя каза, че все още е ядосана за това.
Открих, че за хора като Шарън, които са вярвали, че клипът е истински, дори и за кратко време, той остава с тях - особено когато посланието отразява истински преживявания на расизъм и дискриминация.
Това ми напомни за нещо, което чувам отново и отново, докато разследвам дезинформация и конспиративни теории:Е, дори и да не е реално, това е, което мисля, че те мислят.“ Всички големи компании за социални медии казват, че имат политики за етикетиране, премахване и ограничаване на разпространението на AI-генерирани публикации.
Но това действие се случва само когато може да се докаже, че клипът е фалшив.
До този момент, тя може вече да е достигнала милиони хора.
Алфи Малоун каза още по-рано същия ден, че е говорил с приятел, който все още нямал представа, че клипът е създаден от изкуствен интелект.
"Искрено вярвам, че много хора тук в този град наистина не знаят, че това не е вярно", каза той.
Той каза, че съжалява, че г-н Айсуърт, директорът на училището, е бил погрешно обвинен, че е направил коментарите.
Той също така се притеснява, че епизодът е подкопал реалните преживявания на расизма.
Каза, че ще помисли два пъти, преди отново да сподели клип като този.
"Веднъж бях изгорен от огъня.
Повече няма да докосвам печката."

Other Articles in World

News Image
Джеръми Боуен: Новият владетел на Сирия е политически проницателен - но може ли да спази обещанията си?

Когато напуснах Лондон преди почти две седмици, след като бунтовническата коалиция превзе Алепо - зашеметяваща победа, засенчена от последвалата - мислех, че ще докладвам за война със стрелба. Групата, известна като Хаят Тахрир аш Шам, или ХТС, метеше всичко пред себе си, но предположих, че режимът...

Read more
News Image
Съдът се намесва в тригодишната битка на индийската двойка за името на бебето

Не е необичайно двойките да спорят за именуването на бебето си, но рядко завършва в съда. Но двойка от южния индийски щат Карнатака се оказва, че има нужда от намесата на съда след тригодишен спор за името на сина им. Всъщност, скандалът станал толкова гаден, че двойката искала развод. Всичко започв...

Read more
News Image
Войници-шпиони в Мианмар помагат на продемократични бунтовници да направят решаващи печалби

Някога страховитата армия на Мианмар се пропуква отвътре - надупчена от шпиони, тайно работещи за продемократичните бунтовници, е установила Би Би Си. Военните имат пълен контрол само върху по-малко от една четвърт от територията на Мианмар, разкрива разследване на BBC World Service. Хунтата все още...

Read more
News Image
Мъск оказва влияние върху Конгреса в драмата със закриването

Смешно нещо се случи по пътя към двупартийно споразумение за финансиране на операциите на правителството на САЩ и избягване на частично затваряне тази седмица. Консерваторите в Конгреса – насърчавани от технологичния мулти-милиардер Илон Мъск – се отказаха. Републиканците се опитаха да се прегрупира...

Read more
News Image
Сирийските бунтовнически лидери казват, че са скъсали с джихадисткото си минало - може ли да им се има доверие?

Миналата седмица, по време на обиколката си в Дамаск, новият лидер на Сирия Ахмед ал-Шараа (известен преди като Абу Мохамед ал-Джолани) бе посрещнат от млада жена, която поиска снимка с него. Той нежно поиска тя да покрие косата си, преди да направи снимката. Инцидентът бързо предизвика разгорещен д...

Read more
News Image
Братът на Пол Погба осъден за изнудване на бивш футболист

По-големият брат на Пол Погба, бивш полузащитник на Манчестър Юнайтед, е осъден на три години затвор, като две години е отстранен, след като е осъден за опит за изнудване на френския футболист. Матиас Погба, който също е глобен с 20 000 паунда (16 500 паунда), ще избегне времето зад решетките и вмес...

Read more
News Image
Делото на братя Тейт за трафик на хора е върнато от румънски съд

Дело за трафик на хора, заведено срещу спорните влиятелни личности Андрю и Тристан Тейт, не може да се пристъпи към съдебен процес в сегашния му вид, постанови съд в Румъния. В четвъртък Апелативният съд в Букурещ потвърди оспорването от страна на братята, като върна делото на прокурорите за по-ната...

Read more
News Image
Конгресът в безпорядък и затваряне се задава, докато Тръмп, Мъск затръшва сделката за разходите

САЩ може да бъдат изправени пред закриване на правителството в полунощ в събота, след като новоизбраният президент Доналд Тръмп призова републиканските законодатели да отхвърлят законопроект за двустранно финансиране, който би запазил финансирането на правителството до март. Тръмп призова Конгреса д...

Read more
News Image
Лидерът на бунтовниците в Сирия отхвърли полемиката заради снимка с жена

Лидерът на бунтовниците в Сирия Ахмед ал-Шараа отхвърли онлайн полемиката заради видеозаписи, показващи го да жестикулира към млада жена, за да прикрие косата си, преди да позира за снимка с нея миналата седмица. Инцидентът предизвика критики както от либерални, така и от консервативни коментатори н...

Read more
News Image
Италианският вицепремиер Салвини е изправен пред присъда в процес за отвличане на мигрантска спасителна лодка

Присъдата се очаква в петък в процеса срещу италианския вицепремиер Матео Салвини, който е обвинен в отвличане и неизпълнение на дълга си заради отказа му да позволи на мигрантска спасителна лодка да акостира в Италия през 2019 г. Прокурорите в Сицилия поискаха от съдиите да го осъдят на шест години...

Read more