A empresa norte-americana de digitalização de armas Evolve Technology será proibida de fazer reivindicações não suportadas sobre seus produtos em um acordo proposto com o governo dos EUA.
A empresa alegou que seu scanner de IA, usado nas entradas de milhares de escolas, hospitais e estádios dos EUA, poderia detectar todas as armas.
No entanto, as investigações da BBC mostraram que essas alegações eram falsas.
Evolve disse que agora chegou a um acordo com a Comissão Federal de Comércio (FTC), mas não admitiu irregularidades.
A FTC disse que a ação deve ser um aviso para outras empresas de IA.
“A FTC tem sido clara de que as alegações sobre tecnologia – incluindo inteligência artificial – precisam ser apoiadas”, disse Samuel Levine, diretor do Bureau of Consumer Protection.
A missão da Evolve Technology é substituir detectores de metais por scanners de armas de IA.
Ele afirma fazer isso com inteligência artificial, que pode detectar ativamente armas escondidas, como bombas, facas e armas.
A queixa da FTC alega que a empresa anunciou enganosamente que seus scanners detectariam “todas as armas”.
Em 2022, a BBC delineou algumas das afirmações impressionantes que o então CEO da Evolv fez sobre a tecnologia.
"Composição metálica, forma, fragmentação - temos dezenas de milhares dessas assinaturas, para todas as armas que estão lá fora", disse o presidente-executivo Peter George em 2021.
"Todas as armas, todas as bombas e todas as grandes facas táticas." No entanto, um relatório da BBC em 2022 mostrou testes que descobriram que o sistema de Evolve não poderia detectar armas ou bombas de forma confiável - após um pedido de liberdade de informação da empresa de análise de segurança IPVM.
Outro relatório da BBC em 2023 revelou detalhes de um esfaqueamento em uma escola de Nova York, onde os scanners de armas da Evolve foram usados.
"Realmente, verdadeiramente não encontra facas", disse o então superintendente das escolas Utica à BBC.
No início deste ano, a BBC informou que as alegações de Evolve de que o governo do Reino Unido havia testado e aprovado sua tecnologia também eram falsas.
Sob o acordo proposto pela agência de defesa do consumidor dos EUA, a Evolv será proibida de fazer reivindicações não apoiadas sobre a capacidade de seus produtos de detectar armas e dar a alguns clientes da escola a opção de cancelar seus contratos.
Agora vai a um juiz para aprovação.
Um porta-voz da Evolve disse que trabalhou “colaborativamente” com a agência.
“A FTC não desafiou a eficácia fundamental de nossa tecnologia e que a resolução não inclui nenhum alívio monetário”, disse Mike Ellenbogen, presidente interino e CEO da Evolve.
“Para ser claro, esta investigação foi sobre a linguagem de marketing passada e não a capacidade do nosso sistema de agregar valor às operações de segurança”, disse ele.
Há preocupação entre os funcionários nos EUA e no Reino Unido sobre as empresas exagerando a capacidade da inteligência artificial para melhorar os produtos.
Em alguns casos, não está claro se a inteligência artificial está sendo usada.
A FTC lançou recentemente a “Operação AI Comply” que tem como alvo empresas que fazem afirmações enganosas sobre IA.