Quando um clipe de áudio apareceu para mostrar um diretor da escola local fazendo comentários depreciativos, ele se tornou viral on-line, provocou ameaças de morte contra o educador e enviou ondulações através de um subúrbio fora da cidade de Baltimore.
Mas logo foi exposto como falso, manipulado pela inteligência artificial - então por que as pessoas ainda acreditam que é real?
“Eu realmente não entendo por que eu tenho que constantemente aturar esses idiotas aqui todos os dias.” Então começou o que parecia ser um longo discurso do diretor da Pikesville High School, pontuado com tropos racistas, antissemitas e ofensivos.
Parecia que tinha sido gravado secretamente.
O orador passou a lamentar "crianças negras ingratas" e o povo judeu na comunidade.
O clipe, publicado pela primeira vez em janeiro, se tornou viral nacionalmente.
Mas realmente atingiu um nervo no subúrbio tranquilo e arborizado de Pikesville, que tem grandes populações negras e judaicas, e na cidade vizinha de Baltimore, Maryland.
O diretor Eric Eiswert foi colocado em licença administrativa remunerada enquanto aguardava uma investigação.
Alfie Malone, um homem negro que vive nas proximidades de Baltimore, viu outros membros de sua comunidade postando o clipe e assumiu que era real.
“No fundo de sua mente, você acha que essa é provavelmente a maneira como as pessoas realmente se sentem sobre nós”, disse Malone.
Em um esforço para corroborar o que ele estava ouvindo, o Sr. Malone verificou outras gravações reais do Sr. Eiswert nas mídias sociais e elas soaram a mesma coisa.
Então, o carteiro a tempo parcial, podcaster a tempo parcial aperte o botão de re-compartilhar.
O clipe começou a ganhar tração nas mídias sociais à medida que mais pessoas o espalhavam online.
Uma das versões mais compartilhadas estava a caminho de passar dois milhões de visualizações em poucas horas.
Isso já é cerca de 60 vezes a população inteira de Pikesville.
Mas o que aqueles que compartilharam o clipe não perceberam na época foi que outra bomba estava prestes a cair: o clipe era uma falsificação gerada pela IA.
Para a BBC Radio 4's Why Do You Hate Me USA, estive em Maryland investigando o impacto que esse clipe teve naquela cidade.
É quase como uma fábula sobre os perigos que a IA representa, especialmente quando as comunidades locais são alvo.
Quando o clipe pousou na mesa de Kristen Griffith, repórter de educação do Baltimore Banner, ela pensou que seria uma história relativamente simples de um professor sendo exposto por fazer comentários ofensivos.
Mas, como é a melhor prática no jornalismo, Griffith queria dar ao diretor a chance de comentar e contar seu lado da história.
Então, ela entrou em contato com seu representante do sindicato, que disse que o Sr. Eiswert não apenas condenou os comentários, mas ele não os fez.
“Ele disse imediatamente, oh, nós achamos que isso é falso... Nós acreditamos em sua IA”, disse ela à BBC.
“Eu não tinha ouvido esse ângulo” antes.
Mas quando ela publicou essa explicação, seus leitores não estavam convencidos.
Longe de levantar questões sobre a veracidade do clipe, ele apenas alimentou a reação de pessoas que achavam que a alegação de falsidade era apenas uma desculpa ou uma tentativa de fugir da responsabilidade.
Foi nesse momento que a polícia local começou a investigar o caso.
A equipe da Pikesville High disse que eles estavam se sentindo inseguros por causa de toda a atenção, e eles estavam preocupados que a escola estava incomodada com dispositivos de gravação.
A reputação do diretor Eiswert também sofreu um sério golpe.
A segurança foi intensificada em torno dele e da escola.
Tornou-se alvo de ódio e ameaças nas redes sociais.
Encontrei dezenas de mensagens abusivas mirando nele nas redes sociais.
Em abril, o chefe de polícia de Baltimore, Robert McCullough, confirmou que agora tinham “evidências conclusivas de que a gravação não era autêntica”.
E eles acreditaram que sabiam quem fez a farsa.
A polícia acusou Dazhon Darien, de 31 anos, diretor de atletismo da escola, com várias contagens relacionadas ao vídeo falso.
As acusações incluíam roubo, retaliação contra uma testemunha e perseguição.
Ele foi preso no aeroporto, onde a polícia diz que ele estava planejando voar para Houston, Texas.
A polícia diz que Darien estava sob investigação do diretor Eiswert por um suposto roubo de US $ 1.916 ( 1.460) da escola.
Eles também alegam que houve “desafios de desempenho no trabalho” e seu contrato provavelmente não seria renovado.
A teoria deles era que, ao criar a gravação deepfake, ele esperava desacreditar o diretor antes que ele pudesse ser demitido.
Os investigadores dizem que rastrearam um e-mail usado para enviar o vídeo original para um servidor conectado ao Sr. Darien, e alegam que ele usou a rede de computadores das Escolas Públicas do Condado de Baltimore para acessar ferramentas de IA.
Ele deve ser julgado em dezembro de 2024.
Os representantes legais de Darien não responderam aos pedidos de comentário.
O superintendente de Baltimore, Myriam Rogers, havia dito anteriormente que era “um momento muito difícil” para a comunidade escolar, o diretor e sua família.
Representantes da Pikesville High School e do Sr. Eiswert não responderam aos meus pedidos de mais comentários.
Como o clipe era apenas de áudio, isso significava que não havia brindes visuais, como movimentos robóticos que normalmente revelam manipulação de IA.
Ele também mencionou jargões, como “expectativas de nível de grau”, e outros detalhes, como nomes de funcionários, que apenas pessoas próximas à escola saberiam.
Quando você ouve atentamente, no entanto, há edições claras entre as frases - e a voz, embora semelhante ao principal, soa bastante monótona.
A inteligência artificial pode usar vários minutos de uma gravação real – de, digamos, seu ator favorito em um filme ou um candidato presidencial fazendo um discurso – para gerar um clipe que faça parecer que eles disseram algo que nunca fizeram.
Mas talvez a maior razão pela qual as pessoas acreditavam que o vídeo era real foi porque parecia verdade, o Sr. Malone me disse.
Ele aproveitou suas próprias experiências de racismo como um homem negro que vive em Baltimore.
Quando Malone ouviu o diretor descrever os estudantes negros como preguiçosos, imediatamente lembrou-o de insultos e discriminação que havia encontrado na escola e no trabalho.
Meses depois, os efeitos do clipe de áudio falso ainda são sentidos em Pikesville.
Eiswert mudou de emprego e está trabalhando em outra escola.
E mesmo que alguns membros da comunidade me disseram que agora aceitam que o vídeo é falso, o dano está feito.
“Este é um bairro judeu e dizer algo tão inflamatório sobre a comunidade era perturbador”, disse-me uma mulher chamada Sharon enquanto colocava o carrinho de seu neto em um carro em uma casa em frente à escola em agosto passado.
Por vários minutos, Sharon falou comigo como se o clipe fosse real.
“Eu acho que quando as pessoas dizem coisas assim, outras pessoas se juntam a isso e isso me deixa mais medo.” Quando seu marido entrou no carro, lembrando que o clipe era realmente falso, ela admitiu que “descobriu mais tarde que foi gerado por IA”.
Mas ela disse que ainda estava irritada com isso.
Descobri que para pessoas como Sharon, que acreditavam que o clipe era real, mesmo por um curto período de tempo, ele ficou com eles - especialmente quando a mensagem ecoava experiências genuínas de racismo e discriminação.
Isso me lembrou de algo que eu ouço repetidas vezes enquanto investigava desinformação e teorias da conspiração: “Bem, mesmo que não seja real, é o que eu acho que eles pensam.” Todas as principais empresas de mídia social dizem que têm políticas para rotular, remover e limitar a disseminação de postagens geradas pela IA.
Mas essa ação só acontece quando se pode provar que um clipe é falso.
A essa altura, já poderia ter alcançado milhões de pessoas.
Alfie Malone disse ainda mais cedo naquele dia, ele falou com um amigo que ainda não tinha ideia de que o clipe foi gerado por IA.
“Eu honestamente acredito que muitas pessoas aqui nesta cidade realmente não sabem que isso não é verdade”, disse ele.
Ele disse que sentia pena de Eiswert, o diretor da escola, ter sido injustamente acusado de fazer os comentários.
Ele também está preocupado que o episódio tenha prejudicado experiências reais de racismo.
Ele disse que pensaria duas vezes antes de compartilhar novamente um clipe como esse.
“Eu fui queimada pelo fogo uma vez.
Não vou tocar no fogão de novo.”