La société américaine Evolv Technology sera interdite de présenter des allégations non étayées sur ses produits dans le cadre d'un projet de règlement avec le gouvernement américain.
La société avait revendiqué son scanner AI, utilisé dans les entrées de milliers d'écoles, d'hôpitaux et de stades américains, pouvait détecter toutes les armes.
Cependant, les enquêtes de la BBC ont montré que ces affirmations étaient fausses.
Evolv a déclaré qu'il est maintenant parvenu à un accord avec la Commission fédérale du commerce (FTC), mais n'a pas admis les actes répréhensibles.
La FTC a déclaré que l'action devrait être un avertissement pour d'autres entreprises d'IA.
Selon Samuel Levine, directeur du Bureau de la protection des consommateurs, la FTC a clairement indiqué qu'il fallait soutenir les allégations relatives à la technologie, y compris l'intelligence artificielle.
Evolv Technologys a pour mission de remplacer les détecteurs de métaux par des scanners d'armes d'IA.
Il prétend le faire avec l'intelligence artificielle, qui peut détecter activement les armes cachées comme les bombes, les couteaux et les armes à feu.
La plainte des FTC allègue que la société a annoncé de façon trompeuse que ses scanners détecteraient toutes les armes.
En 2022, la BBC a décrit quelques-unes des affirmations impressionnantes qu'Evolvs, alors PDG, avait faites au sujet de la technologie.
« Composition, forme, fragmentation métalliques - nous avons des dizaines de milliers de ces signatures, pour toutes les armes qui sont là-bas », a déclaré le directeur général Peter George en 2021.
"Toutes les armes, toutes les bombes et tous les grands couteaux tactiques." Cependant, un rapport de la BBC en 2022 a montré des essais qui avaient trouvé le système Evolvs ne pouvait pas détecter de manière fiable les armes ou les bombes - après une demande de liberté d'information de la société d'analyse de sécurité IPVM.
Un autre rapport de la BBC en 2023 a révélé des détails d'un poignard dans une école de New York où des scanners d'armes Evolvs ont été utilisés.
Il ne trouve vraiment pas de couteaux que le surintendant des écoles Utica de l'époque a dit à la BBC.
Et plus tôt cette année, la BBC a rapporté qu'Evolvs affirme que le gouvernement britannique avait testé et approuvé sa technologie étaient également faux.
En vertu du règlement proposé par le consommateur américain, Evolv sera interdit de faire des réclamations non étayées sur sa capacité de détecter des armes et de donner à certains clients de l'école la possibilité d'annuler leurs contrats.
Elle va maintenant être soumise à l'approbation d'un juge.
Un porte-parole d'Evolv a déclaré qu'il avait travaillé en collaboration avec l'agence.
La FTC n'a pas remis en question l'efficacité fondamentale de notre technologie et que la résolution n'inclut aucun allégement monétaire a déclaré Mike Ellenbogen, président et chef de la direction intérimaire d'Evolv.
Pour être clair, cette enquête portait sur le langage de marketing passé et non sur la capacité de nos systèmes d'ajouter de la valeur aux opérations de sécurité, a-t-il dit.
Aux États-Unis et au Royaume-Uni, les autorités s'inquiètent de ce que les entreprises surestiment la capacité de l'intelligence artificielle à améliorer les produits.
Dans certains cas, il n'est pas clair si l'intelligence artificielle est utilisée du tout.
La FTC a récemment lancé l'Opération AI Comply qui cible les entreprises qui font des allégations trompeuses à propos de l'IA.