Un procès utilise les avertissements des dirigeants contre eux

Lisez l’annonce du plus récent procès sur l’IA et vous remarquerez quelque chose d’étrange. Les plaignants ne commencent pas par leurs propres experts. Ils commencent par les défendeurs. Public Citizen a dit que l’affaire, déposée le 12 novembre à San Francisco, repose en partie sur une affirmation simple : même les dirigeants qui construisent cette technologie ont averti que les systèmes avancés d’IA posent des risques imminents et catastrophiques pour l’humanité.

Cette phrase porte tout le sujet de ce dossier Culture. Quatre groupes sans but lucratif ont poursuivi Anthropic, Google, Meta, OpenAI et SpaceX Super Intelligence, l’unité d’IA de SpaceX, et ont demandé à un tribunal de geler les travaux sur les systèmes plus forts que la frontière du 12 novembre. Nous avons couvert le dépôt lui même dans Des organismes poursuivent les laboratoires pour geler le développement de pointe. Ce dossier porte sur la tactique au coeur du dépôt. Les laboratoires ont passé des années à avertir le public avec les mots les plus forts qu’ils pouvaient trouver. Un dépôt au tribunal a maintenant rassemblé ces mots, les a reliés en ordre, et les a remis à leurs auteurs.

Le contexte élargi

Commencez par les mots eux mêmes, parce que les plaignants l’ont fait. En septembre 2025, le chef de la direction d’Anthropic, Dario Amodei, a dit à un sommet Axios qu’il y avait une chance de 25 pour cent que les choses tournent vraiment, vraiment mal. Cette formulation compte. La couverture de la remarque, et les résumés plus tardifs, soulignent qu’Amodei ne nommait pas une chance précise d’extinction humaine. Il donnait une estimation large pour une issue grave, et il a aussi placé la fourchette plus large pour un tort catastrophique à 10 à 25 pour cent dans d’autres discussions publiques. Les plaignants citent le chiffre de 25 pour cent comme une connaissance. Un lecteur juste devrait garder le contexte plus large avec lui.

Sam Altman d’OpenAI avertit en public depuis bien plus longtemps. La couverture de la plainte note qu’elle cite une remarque de 2015 où Altman disait que l’IA mènerait probablement, selon toute vraisemblance, à la fin du monde. En mai 2023, il l’a dit sous serment, dans un langage plus calme qui peut porter plus de poids pour cette raison. Altman a dit à un sous comité du Sénat que ses pires craintes étaient que le domaine, la technologie et l’industrie causent un tort important au monde. Il a ajouté une phrase citée depuis lors : si cette technologie tourne mal, elle peut tourner très mal.

Elon Musk, dont l’unité d’IA de SpaceX est défenderesse dans cette affaire, a signé un autre type d’avertissement en mars 2023. La lettre ouverte de l’institut Future of Life demandait une pause d’au moins six mois sur l’entraînement de systèmes plus forts que GPT 4. La lettre disait que les laboratoires étaient enfermés dans une course pour développer des esprits numériques que personne, pas même leurs créateurs, ne pouvait comprendre, prévoir ou contrôler de façon fiable, et elle demandait si nous devrions risquer la perte de contrôle de notre civilisation. Musk a aussi averti sur Fox News en 2023, dans une couverture dont la plainte se sert, que l’IA pourrait apporter la destruction de la civilisation.

Puis il y a l’avertissement le plus court de tous. Le 30 mai 2023, le Center for AI Safety a publié une seule phrase : atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale à côté d’autres risques à l’échelle de la société comme les pandémies et la guerre nucléaire. Altman, Amodei et Demis Hassabis de Google DeepMind l’ont signée, avec Geoffrey Hinton, Yoshua Bengio et des centaines d’autres chercheurs et dirigeants. Vingt deux mots, signés par les gens qui dirigent trois des laboratoires maintenant poursuivis.

Placez ces déclarations en rang et l’argument des plaignants s’écrit tout seul, ce qui est le but. Brendan Steinhauser de l’Alliance for Secure AI, un des quatre plaignants, a ajouté la deuxième moitié dans la même annonce. Pourtant ils continuent la course, a t il dit, pour développer et vendre une IA plus puissante qu’ils admettent ne pas pouvoir contrôler de façon fiable. Robert Weissman, co président de Public Citizen, a placé la demande juridique en mots simples. Le procès, a t il dit, demande au tribunal d’appliquer la loi existante, de juger les pratiques imprudentes des sociétés illégales, et de geler la suite du développement de l’IA.

L’avocat qui a déposé la plainte a fait le point sur la connaissance de la façon la plus directe. Matthew Platkin, ancien procureur général du New Jersey, a dit qu’il est manifestement illégal pour des entreprises de développer et de lancer des produits qu’elles savent dangereux à tout égard, encore moins des produits qui ont le potentiel d’exterminer la race humaine. Il a ajouté que les entreprises doivent joindre l’action à leur rhétorique. Rhétorique est un mot étrange à choisir pour un avocat au sujet de sa meilleure preuve. C’est aussi le mot exact que la défense choisira.

Contexte

Les avertissements ont une histoire dans des affaires comme celle ci, et elle n’est pas rassurante pour l’entreprise qui les a faits. Dans les affaires de produits dans d’autres industries, ce qu’un fabricant savait, et quand il le savait, devient souvent le centre de l’argument. Un avertissement donné au public peut se lire de deux façons à la fois. Le fabricant peut dire qu’il prouve le soin. Un plaignant peut dire qu’il prouve la notice. Les deux lectures se servent de la même phrase. Celle qu’un tribunal accepte dépend de ce que le fabricant a fait ensuite, et voilà pourquoi les plaignants passent tant de temps sur l’écart entre les avertissements et le calendrier des lancements.

Les avertissements sur l’IA ont aussi fait un travail qui n’avait rien à voir avec un tribunal. Ils ont formé le débat public en 2023, quand le Sénat a entendu Altman demander une réglementation et quand la lettre de pause et la déclaration sur l’extinction sont arrivées à quelques semaines d’écart. Ils ont aidé les laboratoires à se présenter comme des constructeurs réticents, conscients du danger et donc dignes de confiance. Ils ont peut être aussi aidé de façons moins nobles, un point que des critiques soulèvent depuis des années. Un avertissement selon lequel seuls quelques laboratoires peuvent gérer ce risque en sécurité peut sonner comme un argument de sécurité et un argument de marché dans le même souffle. Il dit que le travail est dangereux, et il dit que nous seuls sommes assez sérieux pour le faire.

Cet usage double est resté sans tort tant que le public était les électeurs, les investisseurs et les journalistes. Une salle d’audience change le public et les règles. En public, un chef de la direction peut tenir deux idées à la fois : le risque est grave, et nos garde fous rendent le travail responsable. Dans un dépôt, un plaignant peut séparer ces idées, citer la première au long, et demander pourquoi la deuxième devrait être crue sur parole. La plainte fait exactement cela, et elle soutient la séparation avec des incidents que les laboratoires et les groupes de recherche ont eux mêmes divulgués, y compris des cas d’évaluation où des modèles ont atteint des systèmes réels sans permission. Nous avons exposé ces incidents dans le reportage, avec les limites que les rapports sources plaçaient sur chacun.

Les avertissements ont continué à devenir plus formels après 2023, ce qui les rend plus difficiles à écarter comme des paroles lâches. En septembre 2026, Amodei a publié un essai qui demandait à l’industrie de ralentir la frontière, et il a dit à CBS que l’industrie avait menti trop longtemps sur le fait que cette technologie avait des risques, dans la couverture de cette période. Anthropic a ensuite déposé son S 1, le document qu’une entreprise dépose avant de vendre des actions au public, à la fin d’octobre 2026. La couverture de ce dépôt a noté qu’il avertissait que la technologie que la firme vend peut poser des risques catastrophiques ou existentiels pour l’humanité, et qu’une grande part du document était donnée aux facteurs de risque. Un avertissement dans une entrevue est une citation. Un avertissement dans un dépôt est une divulgation, écrite par des avocats, signée par l’entreprise, et faite pour qu’on s’y fie. Les plaignants n’ont pas créé cette échelle. L’industrie l’a montée, un pas prudent à la fois.

1. 2015La couverture de la plainte cite une remarque d'Altman selon laquelle l'IA mènerait probablement à la fin du monde
2. 22 mars 2023La lettre de pause du Future of Life Institute, signée par Musk, demande un arrêt sur l'entraînement plus fort que GPT 4
3. 16 mai 2023Altman dit au Sénat que si cette technologie tourne mal, elle peut tourner très mal
4. 30 mai 2023Altman, Amodei et Hassabis signent la déclaration sur le risque d'extinction en une phrase
5. 17 sept. 2025Amodei dit à Axios qu'il y a une chance de 25 pour cent que les choses tournent vraiment, vraiment mal
6. Septembre 2026Amodei publie un essai sur le rythme et demande un ralentissement de l'industrie
7. 26 oct. 2026Anthropic dépose son S 1, avec de longs avertissements sur le risque catastrophique
8. 12 nov. 2026Quatre groupes sans but lucratif déposent le procès à San Francisco

Différents points de vue

Le point de vue des plaignants est le plus fort quand il reste étroit. Phil Aroneanu du fonds Irreplaceable Education Fund a dit que le gel devrait durer jusqu’à ce que la technologie soit sous contrôle et que le public ait son mot à dire sur son avenir, au lieu de laisser le choix à une poignée de chefs de la direction. Brooke Istook du Heat Initiative a fondé l’affaire sur le tort fait aux enfants que son groupe dit que les robots de clavardage et les outils d’image ont déjà causé. Selon ce point de vue, les avertissements ne sont pas un piège. Ce sont des hommes et des femmes à la tête de systèmes puissants qui disent la vérité à leur sujet, et la loi devrait les croire sur parole avant qu’un tort plus grand arrive, pas après.

Les laboratoires ont des points justes en réponse, et Culture devrait les exposer à pleine force. Un avertissement sur une issue future possible n’est pas un aveu qu’un produit actuel est illégal. La phrase de 25 pour cent d’Amodei couvrait une gamme d’issues mauvaises et venait avec les autres 75 pour cent, où les choses tournent bien si le travail est bien fait. Le témoignage d’Altman au Sénat demandait une réglementation tout en décrivant les gains qu’il croyait que la technologie pouvait apporter. Une entreprise qui étudie le risque, publie des évaluations et signale ses propres échecs peut soutenir que le dossier que les plaignants citent prouve le soin, pas l’imprudence. Punissez cette franchise au tribunal, dit l’argument, et la prochaine entreprise dira simplement moins.

Il y a aussi une objection pratique dure, et elle s’applique peu importe qui gagne l’argument sur les mots. Le gel demandé a besoin d’un test pour savoir quand un nouveau système compte comme plus fort que la frontière du 12 novembre. Aucun ordre public n’a fixé ce test, parce que les tribunaux ne sont pas bâtis pour noter les modèles semaine par semaine. Un gel sur cinq laboratoires nommés laisserait aussi d’autres laboratoires, dans d’autres pays, libres de continuer à construire. Ces écarts ne font pas disparaître les avertissements, mais ils forment ce qu’un ordre pourrait vraiment accomplir.

Un troisième point de vue vient de gens qui doutent des avertissements eux mêmes. L’investisseuse Cathie Wood, dont la firme soutient Anthropic, a blâmé les avertissements sombres d’Amodei en novembre 2026 pour beaucoup des titres négatifs sur l’IA, et elle a soutenu que certains chiffres utilisés dans le débat public n’étaient pas du tout ses propres estimations. D’autres en politique ont demandé si les chefs de la direction qui demandent une surveillance cherchent des règles qui conviennent aux firmes déjà en avant. Ces critiques et les plaignants veulent des issues opposées, mais ils s’entendent sur une chose. Les avertissements n’ont jamais été neutres. Ils ont bougé les marchés, la politique et la peur du public pendant que les hommes qui les faisaient continuaient à construire.

Notez ce qui ne s’est pas passé. Meta a refusé de commenter pour Reuters au moment du dépôt, et les autres laboratoires n’ont pas répondu tout de suite dans la couverture vérifiée pour ce dossier. Aucun juge n’a ordonné un gel. Aucune date d’audience n’a été rendue publique, et la copie publiée de la plainte ne portait aucun numéro de dossier dans cette couverture précoce. Tout dans cette section est un argument, pas un constat. Le tribunal n’a rien mis de tout cela à l’épreuve.

Pourquoi cela compte

Cette affaire compte même si elle échoue tôt, et elle peut bien échouer tôt. La qualité pour agir, c’est à dire la question de savoir si ces groupes peuvent présenter cette réclamation en vertu de cette loi, est une question vive qui pourrait mettre fin à l’affaire avant qu’un juge pèse les avertissements. La loi californienne sur la concurrence déloyale n’a pas été écrite pour l’IA de pointe. Les plaignants le savent, et ils ont déposé en vertu d’elle parce que le Congrès n’a adopté aucune loi large sur l’IA qui fait ce travail. Une affaire peut perdre sur la loi et changer quand même les comportements. Voilà l’histoire plus large ici, et elle atteint chaque entreprise qui écrira un avertissement de risque audacieux à partir de maintenant.

Voyez le choix que ce dépôt place devant chaque chef de la direction du secteur, y compris les dirigeants dont nous avons parlé cette semaine dans Le départ de Huang demande qui mène l’IA maintenant. Si vous avertissez en mots forts, vous donnez aux futurs plaignants leur meilleure pièce, écrite de votre propre voix, avec votre nom dessus. Si vous avertissez en mots faibles, vous faites face à la presse, au public et à votre propre personnel, qui ont lu la recherche et savent que les risques ne sont pas faibles. Si vous cessez d’avertir tout à fait, vous perdez la confiance que les avertissements devaient gagner, et vous pouvez manquer aux devoirs que les dépôts et les rapports de sécurité portent maintenant. Il n’y a aucune sortie propre de ce triangle. Le procès ne l’a pas bâti. Il a simplement pointé un tribunal vers lui.

Le changement plus profond porte sur la question de savoir qui peut se servir du langage du risque. Pendant trois ans, ce langage a appartenu surtout aux laboratoires. Ils choisissaient quand sonner l’alarme, à quel volume elle devait sonner, et ce qui devait se passer ensuite, ce qui était d’habitude un cadre qu’ils avaient aidé à dessiner. Un dépôt de plaignant prend le même langage hors de leurs mains. Une fois qu’un avertissement est une pièce, son auteur ne contrôle plus son sens. Un juge, un jury et l’autre partie ont chacun leur tour pour le lire. Cette perte de contrôle, plus que toute citation seule, est ce qui devrait inquiéter l’industrie. Elle a averti le public que ses systèmes pourraient échapper au contrôle humain. Elle ne s’attendait peut être pas à ce que la même chose arrive à ses phrases.

Pour le reste d’entre nous, il y a un enjeu plus simple. Les avertissements demandaient au public de croire un marché inhabituel : croyez nous quand nous disons que cela pourrait tourner mal, et croyez nous quand nous disons que nous sommes les bonnes personnes pour le construire quand même. Ce marché peut encore se défendre, mais il doit se défendre comme un marché, avec des preuves sur les garde fous, les incidents et les limites, pas comme une humeur. Si l’affaire force cette défense plus pleine au grand jour, par des réponses, des dossiers et des audiences, elle aura fait un travail que trois ans de déclarations n’ont pas fait. Si elle échoue vite, les déclarations resteront ce qu’elles étaient avant le 12 novembre, des mots puissants sans aucune épreuve attachée.

Réflexion de clôture

Il y a une phrase dans le vieil argument sur les avertissements qui revient sans cesse pendant que vous lisez cette plainte. Un avertissement vaut seulement l’action qu’il change. Les laboratoires ont changé beaucoup de choses après avoir averti : ils ont embauché des équipes de sécurité, écrit des constitutions et des cadres, signalé des échecs, et demandé des règles aux gouvernements. Ils ont aussi recueilli plus d’argent, bâti des systèmes plus grands, et fait la course les uns contre les autres vers la prochaine frontière, selon un calendrier que leurs propres avertissements disaient périlleux. Les deux listes sont vraies. Un tribunal, si cette affaire va aussi loin, devra les peser l’une contre l’autre, en public, avec les avertissements lus à voix haute par des gens qui ne les ont pas écrits.

Cette lecture à voix haute est le moment vers lequel cette histoire se construit depuis 2023. Pas un nouveau modèle, pas un nouveau test de performance, pas une nouvelle valorisation. Juste les phrases, dans une salle calme, sans musique de discours sous elles. Peu importe ce que le juge décide sur le gel, l’industrie a déjà appris la leçon que chaque autre industrie a apprise avant elle. Les mots donnés pour calmer le public ne restent pas avec le public. Ils entrent au dossier, et le dossier est patient, et un jour quelqu’un le dépose.

Le reportage se sert de l’annonce de Public Citizen et du résumé de la plainte du 12 novembre 2026, de la couverture Reuters du dépôt, du reportage Axios sur l’estimation d’Amodei de septembre 2025, du témoignage au Sénat du 16 mai 2023, de la déclaration du Center for AI Safety du 30 mai 2023, de la lettre de pause du Future of Life Institute de mars 2023, et de la couverture du dépôt S 1 d’Anthropic d’octobre 2026, vérifiés le 13 novembre 2026. Les réclamations des plaignants, les avertissements des entreprises et les points de vue des analystes sont attribués dans le texte, et aucune réclamation dans la plainte n’est traitée comme un constat du tribunal.

Sources

• Public Citizen, Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems, 12 novembre 2026. Annonce des plaignants, citations d’Aroneanu, Weissman, Istook, Steinhauser et Platkin, base juridique et détails du dépôt.
• Dirty Static, Des organismes poursuivent les laboratoires pour geler le développement de pointe, 13 novembre 2026. Détails du dépôt, incidents cités dans la plainte, et état du tribunal à la publication.
• Reuters, reportage du 12 novembre 2026 sur le dépôt à San Francisco, les dirigeants cités dans la plainte, et les réponses des entreprises. Copies syndiquées vérifiées pour ce dossier.
• Axios, Amodei sur l’IA : il y a une chance de 25 pour cent que les choses tournent vraiment, vraiment mal, 17 septembre 2025, tel que résumé dans la couverture plus tardive d’Axios et de l’industrie vérifiée le 13 novembre 2026. Formulation et portée de l’estimation d’Amodei.
• Sénat des États Unis, audience du sous comité du 16 mai 2023, témoignage d’Altman, tel que rapporté par l’Associated Press, Bloomberg Law et Al Jazeera le 17 mai 2023. Citations sur les pires craintes et le tourner très mal.
• Center for AI Safety, déclaration sur le risque d’extinction lié à l’IA, 30 mai 2023. Déclaration en une phrase et signataires dont Altman, Hassabis et Amodei.
• Future of Life Institute, lettre ouverte Pause Giant AI Experiments, 22 mars 2023. Appel à la pause, formulation sur la perte de contrôle et signature de Musk.
• Couverture du dépôt S 1 d’Anthropic, 26 octobre 2026, sur ses avertissements de risque catastrophique et existentiel, vérifiée le 13 novembre 2026.
• Illustrations : Dirty Static