DIRTY STATIC / DÉPÊCHE Culture19 NOV. 2026 • 12 MIN DE LECTURE
Une caméra de surveillance montée sur un bâtiment scolaire en béton brutaliste, tournée vers une table de pique nique où un petit sac de collation se trouve dans un cadre de détection jaune avertissement, bandes de danger au sol
CultureL'INTELLIGENCE POUR L'ÈRE DES MACHINES

Des élèves poursuivent après des Doritos confondus avec une arme

Quatre élèves de l'école secondaire Kenwood, dans le comté de Baltimore, poursuivent Omnilert, leur district scolaire et la police du comté après qu'une alerte de détection d'arme par IA a signalé un sac de Doritos Cool Ranch et que des policiers armés les ont menottés et fouillés. L'alerte avait déjà été annulée. Ce dossier retrace les deux minutes qui auraient dû clore l'histoire, la capture d'écran qui l'a relancée, ce qu'une enquête de l'État a vraiment conclu, et pourquoi ce procès porte en fait sur la question de savoir qui peut contredire une machine.

Commencer la lecture ↓

La collation, c’était des Doritos Cool Ranch, distribués par un entraîneur après l’entraînement de football. Le soir du 20 octobre 2025, Taki Allen en mangeait devant l’école secondaire Kenwood, dans le comté de Baltimore, au Maryland, avec trois coéquipiers, en attendant qu’on vienne les chercher. Quelques minutes plus tard, selon un procès intenté cette semaine, des policiers avaient mis les quatre élèves à genoux sur le béton, menottés et fouillés, armes dégainées.

Aucune arme n’a été trouvée. Ce que le système de caméras de l’école avait vu, dit la plainte, c’était le sac dans la main d’Allen, signalé par Omnilert Gun Detect comme une arme à feu avec une probabilité de 90 pour cent. Et voici le détail qui transforme une mauvaise fausse alerte en affaire judiciaire. Le personnel a examiné l’alerte et l’a annulée en environ deux minutes. La réponse armée a quand même eu lieu.

Le tableau plus large

Commencez par la chronologie que le district scolaire lui même a publiée le 28 octobre 2025, car la chronologie, c’est l’histoire. À 19 h 04, l’alerte Omnilert a été émise pour examen. Entre 19 h 05 et 19 h 06, le directeur exécutif de la sécurité scolaire du district, son gestionnaire de la sécurité scolaire et un facilitateur de Maryland Safe Schools auprès de la police du comté l’ont examinée et annulée. Selon les propres mots du district, aucune autre mesure n’a été prise dans le système Omnilert.

À 19 h 17, le directeur de l’école a contacté l’agent de ressources scolaires et lui a signalé l’alerte. Comme c’était après les heures de cours, cet agent a appelé le poste local. À 19 h 23, le premier policier est arrivé à Kenwood, en réponse à un signalement de personne suspecte avec une arme.

L’enquête de l’État comble le chaînon manquant entre l’annulation et les voitures. Le Bureau de l’inspecteur général de l’éducation du Maryland a conclu qu’après l’envoi de l’annulation par message texte, un membre du personnel n’a pas remarqué qu’une annulation avait été émise et, par souci de prudence, a partagé une capture d’écran de l’alerte avec un agent des forces de l’ordre. Cette capture d’écran, et non le système en direct, a provoqué l’escalade.

Lisez cette séquence lentement. La machine a fait une erreur. Des gens ont repéré l’erreur vite. Puis la correction n’a pas voyagé aussi loin que l’alarme, et une image de l’alarme a fait le reste. Le procès, Allen et al. v. Omnilert et al., soutient que ce n’était pas un simple coup de malchance. Il affirme que les élèves ont été abandonnés par un système dont les responsables scolaires savaient qu’il produisait régulièrement de fausses alertes, par un processus d’annulation sans moyen fiable d’arrêter une réponse, et par des adultes qui ont manqué ou ignoré les preuves qu’il n’y avait aucune arme.

Un mur d’écrans de surveillance dans une salle de contrôle en béton, un écran encadré de jaune avertissement au dessus de bandes de danger

La plainte affirme que l’alerte a envoyé une photo par message au personnel et a continué sa course même après que les examinateurs eurent décidé qu’il s’agissait d’une erreur, une affirmation que la chronologie du district appuie en partie et complique en partie. Le district dit que ses responsables de la sécurité ont annulé l’alerte dans le système. La plainte et le rapport de l’État s’entendent sur le point le plus dur. Personne dans la chaîne ne pouvait être sûr qu’annulée voulait dire arrêtée, partout, pour tous ceux qui avaient vu le premier message.

Contexte

Omnilert Gun Detect surveille les caméras scolaires existantes et génère une alerte quand il voit un objet qu’il juge répondre aux caractéristiques d’une arme à feu. Les écoles publiques du comté de Baltimore l’ont introduit en 2023, et au printemps 2024, chaque école du district en était équipée, avec plus de 7000 caméras. Le district décrit une approche de sécurité en couches, où les caméras forment une couche parmi le personnel de sécurité, les agents de ressources, les entrées sécurisées et d’autres systèmes de détection.

Cette échelle compte. Un outil qui surveille des milliers de flux se trompera en public, en volume, même s’il a raison la plupart du temps. La plainte donne un chiffre à ce volume, affirmant qu’une conclusion de l’État montrait que plus de 99 pour cent des alertes Omnilert dans le district étaient de faux positifs ne demandant aucune réponse policière. Ce chiffre est une allégation de la plainte, tirée des travaux de l’inspecteur général, et il faut le tenir pour tel tant que la cour ne l’aura pas examiné. Même sans le chiffre, les mathématiques de base de la surveillance scolaire sont sans pardon. Les fausses alertes ne sont pas des cas rares aux marges dans un système de cette taille. Elles sont un produit courant, et la procédure pour les traiter fait partie du produit autant que le modèle.

L’inspecteur général a aussi corrigé la version populaire de ce que la machine avait vu. Le bureau a déterminé que l’alerte avait été détectée comme une menace possible en raison de la position de la personne, des propriétés réfléchissantes des objets et des mouvements pertinents de la main. Autrement dit, le système n’a pas simplement regardé un sac de croustilles bleu et étiqueté le sac comme une arme, aussi nette que cette version sonne comme titre. Il a lu une posture, un reflet et une prise, et il a choisi l’interprétation la plus dangereuse à sa portée.

Cette distinction ne rend pas le résultat plus petit. Elle rend plutôt la question de conception plus nette. Un système entraîné à trouver des armes dans des mains en trouvera parfois dans des mains qui tiennent un repas, un téléphone ou rien du tout. La question qu’une école doit trancher avant d’installer un tel système n’est pas de savoir si le modèle se trompera. C’est de savoir ce qu’une erreur a le droit de mettre en branle, et à quelle vitesse une correction humaine peut la rattraper.

La même tension se trouvait au coeur d’un test très différent que nous avons couvert cette semaine, où des modèles à qui on demandait de marquer des cibles dans des images de drones ont souvent marqué des civils, et où le fait de dire que la tâche était un jeu a souvent effacé un refus, dans Des modèles choisissent des cibles civiles comme un jeu. Le cadre était un laboratoire et les enjeux étaient simulés. À Kenwood, le cadre était une cour d’école et la réponse était réelle, et c’est pourquoi l’affaire Kenwood pourrait finir par compter davantage.

Des perspectives différentes

Les avocats des élèves sont directs sur l’endroit où ils placent le blâme, et ce n’est pas seulement sur le logiciel. Damon Hewitt, président et directeur général du Lawyers Committee for Civil Rights Under Law, l’a dit dans l’annonce du procès :

“Overreliance on artificial intelligence technology mixed with inept communication and coordination among key officials is a toxic mix.”

Le Lawyers Committee représente les quatre élèves avec Willkie Farr & Gallagher comme conseil pro bono et Engel Law Group. La plainte allègue des violations des droits constitutionnels fédéraux et de l’État, de la négligence et de la négligence grave et d’autres violations, et la couverture du dépôt ajoute des allégations de fouille et de saisie déraisonnables, de fausse arrestation et de faux emprisonnement. Les élèves demandent des dommages compensatoires et punitifs à fixer par un jury. Ils demandent aussi à la cour d’interdire au comté et au district d’utiliser Omnilert Gun Detect ou des systèmes comparables tant que des procédures adéquates n’existeront pas pour vérifier les alertes, communiquer les annulations et former le personnel.

Freida Winfield, qui était en route pour venir chercher son fils Keith et les autres élèves quand ils ont été détenus, a résumé le point de vue de la famille en une phrase dans la même annonce. La police a dit à son fils, a t elle dit, que cela aurait pu être un vrai problème, et aucun enfant du comté de Baltimore ne devrait affronter ce genre de danger en attendant devant sa propre école qu’on vienne le chercher.

Le dossier officiel repousse une partie de l’acte d’accusation plus large, et l’équité commande de le dire clairement. L’inspecteur général n’a pas pu étayer les allégations selon lesquelles le programme du district était inefficace, inefficient ou biaisé, et n’a trouvé dans son résumé aucune preuve que l’alerte elle même était un acte de biais racial. Sa conclusion était plus étroite et, d’une certaine façon, plus accablante pour les processus ordinaires. Une erreur humaine et des lacunes de formation ont mené l’affaire à escalader vers une réponse des forces de l’ordre.

Le district et la police, de leur côté, ont dit dans leur déclaration d’octobre 2025 qu’ils avaient examiné les deux réponses, qu’ils ajouteraient des rappels sur les signaux Omnilert à la formation annuelle de sécurité par scénarios, et qu’ils continueraient d’offrir du soutien et un appui émotionnel aux élèves touchés par l’événement. Le conseiller Julian Jones, cité dans cette déclaration, a dit que les deux organismes avaient partagé des exemples où le système Omnilert avait capté des informations précieuses qui avaient aidé à prévenir de mauvais résultats, et s’étaient entendus sur une formation annuelle de rappel pour que le personnel suive les protocoles existants. Omnilert, questionné sur le nouveau procès par des journalistes, a dit par la voix d’un porte parole qu’il ne peut pas commenter les procès. Les défendeurs répondront à la plainte devant la cour, et aucune des allégations qu’elle contient n’a été prouvée.

Les perspectives ne s’alignent donc pas en machine contre humains. Les élèves disent qu’un outil dont la faillibilité était connue a reçu trop de pouvoir et un frein trop faible. L’enquêteur de l’État dit que le frein existait, mais qu’une personne l’a manqué et qu’une autre a transmis l’alarme quand même. Le district dit que l’outil a aussi aidé et que la formation est la solution. Les trois récits peuvent être en partie vrais à la fois, et la cour devra décider quelles parties portent un poids juridique.

Pourquoi cela compte

Les écoles n’ont pas adopté l’IA de détection d’armes parce qu’elles aiment les nouveaux logiciels. Elles l’ont adoptée parce que la peur derrière est réelle, et parce qu’une caméra qui ne cligne jamais des yeux sonne comme du soin à grande échelle. C’est exactement pourquoi cette affaire mérite plus qu’un rire au sujet d’un sac de croustilles, et pourquoi les avocats des élèves demandent des règles plutôt que seulement de l’argent.

Chaque système d’alerte fait un échange en silence bien avant que quoi que ce soit tourne mal. Il échange un petit nombre de menaces manquées contre un nombre de fausses alertes, et il décide, à l’avance, quelle force une probabilité a le droit de convoquer. Un chiffre de 90 pour cent sur un écran sonne comme une certitude pour un adulte occupé, la nuit. Ce n’est pas une certitude. C’est un score d’un modèle qui lit une posture et un reflet à travers une caméra de sécurité, et à Kenwood, même les gens qui géraient le système l’ont renversé en environ deux minutes.

Le problème plus profond, c’est qu’une annulation est une information, et que l’information a besoin d’une route aussi forte que la route de l’alarme. À Kenwood, l’alarme a voyagé par alerte système, par message texte et par capture d’écran. L’annulation a voyagé par message texte, et au moins une personne dans la chaîne ne l’a jamais vue. Une capture d’écran n’a pas de date d’expiration et pas de mise à jour. Elle a exactement la même urgence une heure plus tard que dans la première minute. Toute école qui fait fonctionner un système comme celui ci, et beaucoup le font maintenant, devrait se poser une question simple cette semaine. Quand nous annulons une alerte, comment savons nous que tous ceux qui ont vu l’alerte ont vu l’annulation, y compris la version enregistrée sur un téléphone ?

Il y a aussi une question sur la personne qui absorbe le coût d’un faux positif. Pour un fournisseur, une fausse alerte est une statistique. Pour un district, c’est un examen d’incident. Pour quatre adolescents noirs à qui on a ordonné de se mettre à genoux devant leur propre école, dit la plainte, ce fut une expérience qui a changé le sentiment de sécurité qu’ils éprouvent en attendant qu’on vienne les chercher. L’inspecteur général n’a trouvé aucun biais étayé dans la façon dont l’alerte a été générée. Le procès examinera la réponse qui a suivi, et l’allégation plus large selon laquelle les torts de systèmes comme celui ci tombent de façon inégale même quand un modèle traite chaque flux de caméra de la même façon.

Réflexion de clôture

La partie la plus troublante de l’histoire de Kenwood n’est pas qu’une machine se soit trompée. Les machines qui cherchent des choses rares et terribles se tromperont, souvent de façons étranges, et tous ceux qui ont acheté celle ci avaient été avertis par son propre historique d’alertes. La partie troublante, c’est que les humains ont eu raison, vite, et que cela n’a rien changé, parce qu’avoir raison dans une pièce n’est pas la même chose qu’être entendu dans chaque pièce que l’alarme a atteinte.

C’est peut être la vraie leçon que les écoles tireront de ce procès, quoi qu’un jury décide au sujet des dommages. Un système de détection n’est aussi sûr que son annulation la plus lente. Tant qu’une alerte annulée ne pourra pas traquer chaque capture d’écran, chaque message et chaque voiture dépêchée avec la même force que l’avertissement d’origine, ce n’est pas vraiment la machine qui commande. C’est la capture d’écran.

Le reportage s’appuie sur l’annonce de la plainte et le résumé de l’affaire du Lawyers Committee for Civil Rights Under Law, la déclaration et la chronologie du 28 octobre 2025 des écoles publiques du comté de Baltimore et de la police du comté, le résumé d’enquête du Bureau de l’inspecteur général de l’éducation du Maryland dans l’affaire 25-0014-I, et la couverture du Baltimore Banner, de Route Fifty et du Guardian, vérifiés en novembre 2026. Les affirmations tirées de la plainte sont décrites comme des allégations.

Sources

  • Lawyers Committee for Civil Rights Under Law, annonce de Allen et al. v. Omnilert et al., 17 novembre 2026
  • Écoles publiques du comté de Baltimore et département de police du comté de Baltimore, mise à jour au personnel et à la communauté, 28 octobre 2025
  • Bureau de l’inspecteur général de l’éducation du Maryland, résumé d’enquête, affaire 25-0014-I, novembre 2025
  • The Baltimore Banner, Route Fifty et The Guardian, couverture du procès, 18 novembre 2026
  • Illustrations de la une et du corps : Dirty Static
■

FIN DE LA TRANSMISSION

Restez curieux. Remettez tout en question.

CONTINUEZ LA DESCENTE

PLUS DE DIRTY STATIC ↘