Американската компания за сканиране на оръжия Evolv Technology ще бъде забранена да прави неподдържани твърдения за своите продукти в предложено споразумение с правителството на САЩ.
Компанията твърди, че нейният AI скенер, използван в входовете на хиляди американски училища, болници и стадиони, може да открие всички оръжия.
Разследванията на Би Би Си обаче показват, че тези твърдения са неверни.
Evolv заяви, че вече е постигнала споразумение с Федералната търговска комисия (FTC), но не е признала за неправомерни действия.
ФТК заяви, че действието трябва да бъде предупреждение за други компании за изкуствен интелект.
"ФТК беше ясна, че твърденията за технологии - включително изкуствен интелект - трябва да бъдат подкрепени", каза Самюел Ливайн, директор на Бюрото за защита на потребителите.
Мисията на Evolv Technology е да замени металните детектори с AI оръжейни скенери.
Той твърди, че прави това с изкуствен интелект, който може активно да открива скрити оръжия като бомби, ножове и пистолети.
В жалбата на ФТК се твърди, че компанията измамно е рекламирала, че скенерите ще засекатвсички оръжия".
През 2022 г. BBC очерта някои от впечатляващите твърдения, които тогавашният главен изпълнителен директор на Evolv е направил за технологията.
"Металически състав, форма, фрагментация - имаме десетки хиляди от тези подписи, за всички оръжия, които са там", каза през 2021 г. главният изпълнителен директор Питър Джордж.
"Всички оръжия, всички бомби и всички големи тактически ножове." Въпреки това доклад на BBC през 2022 г. показва, че тестовете, които са открили системата на Evolv, не могат надеждно да открият оръжия или бомби - след искане за свобода на информацията от компанията за анализ на сигурността IPVM.
Друг доклад на Би Би Си през 2023 г. разкрива подробности за намушкване в училище в Ню Йорк, където са използвани оръжейните скенери на Evolv.
"Наистина, наистина не намира ножове", каза тогавашният началник на училищата в Ютика пред Би Би Си.
А по-рано тази година BBC съобщи, че твърденията на Evolv, че правителството на Обединеното кралство е тествало и одобрило технологията му, също са неверни.
Съгласно предложеното от американския потребителски регулатор споразумение, на Evolv ще бъде забранено да прави неподдържани твърдения за способността на продуктите си да откриват оръжия и да дава възможност на някои училищни клиенти да анулират договорите си.
Сега тя ще отиде при съдия за одобрение.
Говорител на Evolv заяви, че тя е работила "съвместно" с агенцията.
"ФТК не оспори фундаменталната ефективност на нашата технология и че резолюцията не включва никакво парично облекчение", каза Майк Еленбоген, временен президент и главен изпълнителен директор на Evolv.
"За да сме наясно, това запитване беше за миналия маркетингов език, а не за способността на нашата система да добавя стойност към операциите по сигурността", каза той.
Има опасения сред служителите в САЩ и Великобритания за компании, които надценяват способността на изкуствения интелект да подобрява продуктите.
В някои случаи не е ясно дали изобщо се използва изкуствен интелект.
ФТК наскоро стартираОперация AI Comply", която е насочена към компании, които правят измамни твърдения за AI.