Se prohibirá a la empresa estadounidense Evolv Technology hacer afirmaciones infundadas sobre sus productos en un acuerdo propuesto con el gobierno de los Estados Unidos.
La compañía había afirmado que su escáner de IA, utilizado en las entradas de miles de escuelas, hospitales y estadios estadounidenses, podía detectar todas las armas.
Sin embargo, las investigaciones de la BBC mostraron que estas afirmaciones eran falsas.
Evolv dijo que ahora ha llegado a un acuerdo con la Comisión Federal de Comercio (FTC), pero no ha admitido irregularidades.
La FTC dijo que la acción debería ser una advertencia para otras compañías de IA.
El FTC ha sido claro que las afirmaciones sobre la tecnología, incluyendo la inteligencia artificial, necesitan ser respaldadas, dijo Samuel Levine, Director de la Oficina de Protección al Consumidor.
La misión de Evolv Technologys es reemplazar detectores de metales con escáneres de armas de IA.
Afirma hacer esto con inteligencia artificial, que puede detectar activamente armas ocultas como bombas, cuchillos y armas.
La denuncia de las FTC alega que la compañía anunció engañosamente que sus escáneres detectarían todas las armas.
En 2022 la BBC describió algunas de las impresionantes afirmaciones que Evolvs entonces CEO había hecho sobre la tecnología.
"Composición metálica, forma, fragmentación - tenemos decenas de miles de estas firmas, para todas las armas que están ahí fuera", dijo el director ejecutivo Peter George en 2021.
"Todas las armas, todas las bombas y todos los cuchillos tácticos grandes". Sin embargo, un informe de la BBC en 2022 mostró pruebas que habían encontrado que el sistema Evolvs no podía detectar de manera fiable armas o bombas - después de una solicitud de libertad de información de la compañía de análisis de seguridad IPVM.
Otro informe de la BBC en 2023 reveló detalles de un apuñalamiento en una escuela de Nueva York donde se utilizaron escáneres de armas Evolvs.
Realmente, realmente no encuentra cuchillos que el entonces Superintendente de Utica Schools le dijo a la BBC.
Y a principios de este año la BBC informó que Evolvs afirma que el gobierno del Reino Unido había probado y aprobado su tecnología también eran falsas.
Bajo el acuerdo propuesto por el consumidor estadounidense, a Evolv se le prohibirá hacer afirmaciones no justificadas sobre su capacidad de detectar armas y dar a algunos clientes escolares la opción de cancelar sus contratos.
Ahora acudirá a un juez para su aprobación.
Un portavoz de Evolv dijo que había trabajado en colaboración con la agencia.
La FTC no desafió la efectividad fundamental de nuestra tecnología y que la resolución no incluye ningún alivio monetario dijo Mike Ellenbogen, Presidente interino y CEO de Evolv.
Para ser claros, esta investigación se trataba del lenguaje de marketing pasado y no de la capacidad de nuestros sistemas para agregar valor a las operaciones de seguridad, dijo.
Existe preocupación entre los funcionarios de los Estados Unidos y el Reino Unido acerca de las empresas que exageran la capacidad de la inteligencia artificial para mejorar los productos.
En algunos casos no está claro si la inteligencia artificial se está utilizando en absoluto.
La FTC ha lanzado recientemente la Operación IA Comply que apunta a las empresas que hacen afirmaciones engañosas sobre IA.