Una demanda usa las advertencias de los directores contra ellos

Lee el anuncio de la demanda más nueva sobre IA y notarás algo extraño. Los demandantes no empiezan con sus propios expertos. Empiezan con los demandados. Public Citizen dijo que la causa, presentada el 12 de noviembre en San Francisco, se apoya en parte en una afirmación simple: incluso los ejecutivos que construyen esta tecnología han advertido que los sistemas avanzados de IA plantean riesgos inminentes y catastróficos para la humanidad.

Esa frase carga con todo el tema de este reportaje de Cultura. Cuatro grupos sin fines de lucro demandaron a Anthropic, Google, Meta, OpenAI y SpaceX Super Intelligence, la unidad de IA de SpaceX, y pidieron a un tribunal que congele el trabajo en sistemas más fuertes que la frontera del 12 de noviembre. Cubrimos la presentación en sí en Organizaciones demandan a laboratorios para congelar el desarrollo de frontera. Este reportaje trata sobre la táctica dentro de ella. Los laboratorios pasaron años advirtiendo al público con las palabras más fuertes que pudieron encontrar. Una presentación judicial ahora reunió esas palabras, las ordenó y las devolvió a sus autores.

La historia más grande

Empieza con las palabras en sí, porque los demandantes lo hicieron. En septiembre de 2025, el director general de Anthropic, Dario Amodei, dijo en una cumbre de Axios que había una probabilidad del 25 por ciento de que las cosas salgan realmente, realmente mal. Esa forma de decirlo importa. La cobertura de la frase, y los resúmenes posteriores, subrayan que Amodei no nombraba una probabilidad precisa de extinción humana. Daba una estimación amplia para un resultado grave, y también ubicó el rango más amplio de daño catastrófico entre 10 y 25 por ciento en otras discusiones públicas. Los demandantes citan la cifra del 25 por ciento como conocimiento. Un lector justo debería mantener el contexto más amplio junto a ella.

Sam Altman, de OpenAI, ha advertido en público desde hace mucho más tiempo. La cobertura de la demanda señala que cita una frase de 2015 en la que Altman dijo que la IA probablemente, con mayor probabilidad, llevaría al fin del mundo. En mayo de 2023 lo dijo bajo juramento, en un lenguaje más calmado que puede pesar más por esa razón. Altman dijo a un subcomité del Senado que sus peores temores eran que el campo, la tecnología y la industria causen un daño importante al mundo. Agregó una frase citada desde entonces: si esta tecnología sale mal, puede salir muy mal.

Elon Musk, cuya unidad de IA de SpaceX es demandada en esta causa, firmó otro tipo de advertencia en marzo de 2023. La carta abierta del Future of Life Institute pidió una pausa de al menos seis meses en el entrenamiento de sistemas más fuertes que GPT 4. La carta dijo que los laboratorios estaban atrapados en una carrera para desarrollar mentes digitales que nadie, ni siquiera sus creadores, podía entender, predecir o controlar con fiabilidad, y preguntó si deberíamos arriesgar la pérdida de control de nuestra civilización. Musk también advirtió en Fox News en 2023, en cobertura que la demanda usa, que la IA podría traer la destrucción de la civilización.

Luego está la advertencia más corta de todas. El 30 de mayo de 2023, el Center for AI Safety publicó una sola frase: mitigar el riesgo de extinción por IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear. Altman, Amodei y Demis Hassabis, de Google DeepMind, la firmaron, junto con Geoffrey Hinton, Yoshua Bengio y cientos de otros investigadores y ejecutivos. Veintidós palabras, firmadas por las personas que dirigen tres de los laboratorios ahora demandados.

Pon esas declaraciones en fila y el argumento de los demandantes se escribe solo, que es el punto. Brendan Steinhauser, de Alliance for Secure AI, uno de los cuatro demandantes, agregó la segunda mitad en el mismo anuncio. Sin embargo siguen en carrera, dijo, para desarrollar y vender IA más potente que admiten que no pueden controlar con fiabilidad. Robert Weissman, copresidente de Public Citizen, ubicó el pedido legal en palabras simples. La demanda, dijo, pide al tribunal que aplique la ley vigente, declare ilegales las prácticas imprudentes de las empresas y congele el desarrollo futuro de IA.

El abogado que presentó la demanda hizo el punto sobre el conocimiento de la forma más directa. Matthew Platkin, ex fiscal general de Nueva Jersey, dijo que es claramente ilegal que las empresas desarrollen y lancen productos que saben que no son seguros en ningún aspecto, y mucho menos productos que tienen el potencial de exterminar a la raza humana. Agregó que las empresas deben igualar su retórica con acción. Retórica es una palabra extraña para que un abogado la elija sobre su mejor prueba. También es la palabra exacta que elegirá la defensa.

Contexto

Las advertencias tienen una historia en causas como esta, y no es tranquilizadora para la empresa que las hizo. En causas de productos en otras industrias, lo que un fabricante sabía, y cuándo lo sabía, suele volverse el centro del argumento. Una advertencia dada al público puede leerse de dos formas a la vez. El fabricante puede decir que prueba cuidado. Un demandante puede decir que prueba aviso. Ambas lecturas usan la misma frase. Cuál acepta un tribunal depende de lo que el fabricante hizo después, y por eso los demandantes pasan tanto tiempo en la brecha entre las advertencias y el calendario de lanzamientos.

Las advertencias sobre IA también hicieron un trabajo que no tenía nada que ver con un tribunal. Formaron el debate público en 2023, cuando el Senado escuchó a Altman pedir regulación y cuando la carta de pausa y la declaración sobre la extinción llegaron con semanas de diferencia. Ayudaron a los laboratorios a presentarse como constructores renuentes, conscientes del peligro y por eso dignos de confianza. También pueden haber ayudado de formas menos nobles, un punto que los críticos plantean desde hace años. Una advertencia de que solo unos pocos laboratorios pueden gestionar este riesgo con seguridad puede sonar como un argumento de seguridad y un argumento de mercado en el mismo aliento. Dice que el trabajo es peligroso, y dice que solo nosotros somos lo bastante serios para hacerlo.

Ese uso doble se mantuvo sin daño mientras el público eran los votantes, los inversores y los periodistas. Una sala de tribunal cambia el público y las reglas. En público, un director general puede sostener dos ideas a la vez: el riesgo es grave, y nuestras protecciones hacen que el trabajo sea responsable. En una presentación, un demandante puede separar esas ideas, citar la primera con extensión y preguntar por qué la segunda debería creerse por confianza. La demanda hace exactamente eso, y apoya la separación con incidentes que los propios laboratorios y grupos de investigación revelaron, incluidos casos de evaluación en los que modelos llegaron a sistemas reales sin permiso. Expusimos esos incidentes en el reportaje de noticias, con los límites que los informes fuente ubicaron en cada uno.

Las advertencias siguieron volviéndose más formales después de 2023, lo que las hace más difíciles de descartar como palabras sueltas. En septiembre de 2026, Amodei publicó un ensayo que pedía a la industria marcar el ritmo de la frontera, y dijo a CBS que la industria había mentido durante demasiado tiempo sobre el hecho de que esta tecnología tenía riesgos, en la cobertura de ese período. Anthropic luego presentó su S 1, el documento que una empresa presenta antes de vender acciones al público, a fines de octubre de 2026. La cobertura de esa presentación señaló que advertía que la tecnología que la firma vende puede plantear riesgos catastróficos o existenciales para la humanidad, y que una parte grande del documento estaba dedicada a factores de riesgo. Una advertencia en una entrevista es una cita. Una advertencia en una presentación es una revelación, escrita por abogados, firmada por la empresa y pensada para que se confíe en ella. Los demandantes no crearon esa escalera. La industria la subió, un paso cuidadoso a la vez.

1. 2015La cobertura de la demanda cita una frase de Altman de que la IA probablemente llevaría al fin del mundo
2. 22 de marzo de 2023La carta de pausa del Future of Life Institute, firmada por Musk, pide detener el entrenamiento más fuerte que GPT 4
3. 16 de mayo de 2023Altman dice al Senado que si esta tecnología sale mal, puede salir muy mal
4. 30 de mayo de 2023Altman, Amodei y Hassabis firman la declaración sobre el riesgo de extinción en una frase
5. 17 de sept. de 2025Amodei dice a Axios que hay una probabilidad del 25 por ciento de que las cosas salgan realmente, realmente mal
6. Septiembre de 2026Amodei publica un ensayo sobre el ritmo y pide una desaceleración de la industria
7. 26 de oct. de 2026Anthropic presenta su S 1, con amplias advertencias sobre riesgo catastrófico
8. 12 de nov. de 2026Cuatro grupos sin fines de lucro presentan la demanda en San Francisco

Perspectivas distintas

La mirada de los demandantes es más fuerte cuando se mantiene estrecha. Phil Aroneanu, del Irreplaceable Education Fund, dijo que el congelamiento debería durar hasta que la tecnología esté bajo control y el público tenga voz sobre su futuro, en lugar de dejar la elección a un puñado de directores generales. Brooke Istook, de Heat Initiative, apoyó la causa en el daño a niños que su grupo dice que los chatbots y las herramientas de imagen ya causaron. Desde esta mirada, las advertencias no son un truco. Son hombres y mujeres a cargo de sistemas potentes que dicen la verdad sobre ellos, y la ley debería creerles antes de que llegue un daño mayor, no después.

Los laboratorios tienen puntos justos en respuesta, y Cultura debería exponerlos con toda su fuerza. Una advertencia sobre un resultado futuro posible no es una admisión de que un producto actual sea ilegal. La frase del 25 por ciento de Amodei cubría un rango de resultados malos y venía con el otro 75 por ciento, en el que las cosas salen bien si el trabajo se hace bien. El testimonio de Altman en el Senado pidió regulación y a la vez describió las ganancias que creía que la tecnología podía traer. Una empresa que estudia el riesgo, publica evaluaciones e informa sus propios fallos puede sostener que el registro que los demandantes citan prueba cuidado, no imprudencia. Castiga esa franqueza en un tribunal, dice el argumento, y la próxima empresa simplemente dirá menos.

También hay una objeción práctica dura, y se aplica sin importar quién gane el argumento sobre las palabras. El congelamiento pedido necesita una prueba para saber cuándo un sistema nuevo cuenta como más fuerte que la frontera del 12 de noviembre. Ninguna orden pública ha fijado esa prueba, porque los tribunales no están hechos para calificar modelos semana a semana. Un congelamiento sobre cinco laboratorios nombrados también dejaría a otros laboratorios, en otros países, libres para seguir construyendo. Esas brechas no hacen que las advertencias desaparezcan, pero forman lo que cualquier orden podría lograr en realidad.

Una tercera mirada viene de personas que dudan de las propias advertencias. La inversora Cathie Wood, cuya firma respalda a Anthropic, culpó en noviembre de 2026 a las advertencias sombrías de Amodei por muchos de los titulares negativos sobre IA, y sostuvo que algunas cifras usadas en el debate público no eran en absoluto sus propias estimaciones. Otros en política han preguntado si los directores generales que piden supervisión buscan reglas que convengan a las firmas que ya van al frente. Esos críticos y los demandantes quieren resultados opuestos, pero coinciden en una cosa. Las advertencias nunca fueron neutrales. Movieron mercados, política y miedo público mientras los hombres que las hacían seguían construyendo.

Nota lo que no ha pasado. Meta se negó a comentar a Reuters al momento de la presentación, y los otros laboratorios no respondieron de inmediato en la cobertura revisada para este reportaje. Ningún juez ha ordenado un congelamiento. No se ha hecho pública ninguna fecha de audiencia, y la copia publicada de la demanda no llevaba número de causa en esa cobertura temprana. Todo en esta sección es argumento, no hallazgo. El tribunal no ha puesto nada de esto a prueba.

Por qué importa

Esta causa importa incluso si fracasa pronto, y bien puede fracasar pronto. La legitimación, es decir si estos grupos pueden presentar este reclamo bajo esta ley, es una pregunta viva que podría terminar la causa antes de que cualquier juez pese las advertencias. La Ley de Competencia Desleal de California no fue escrita para la IA de frontera. Los demandantes lo saben, y presentaron bajo ella porque el Congreso no ha aprobado ninguna ley amplia sobre IA que haga este trabajo. Una causa puede perder en derecho y aun así cambiar conductas. Esa es la historia más amplia aquí, y llega a cada empresa que escriba una advertencia de riesgo audaz de ahora en adelante.

Considera la elección que esta presentación ubica frente a cada director general del sector, incluidos los líderes de los que escribimos esta semana en La salida de Huang pregunta quién lidera la IA ahora. Si adviertes en términos fuertes, entregas a futuros demandantes su mejor prueba, escrita con tu propia voz, con tu nombre en ella. Si adviertes en términos débiles, enfrentas a la prensa, al público y a tu propio personal, que han leído la investigación y saben que los riesgos no son débiles. Si dejas de advertir por completo, pierdes la confianza que las advertencias debían ganar, y puedes incumplir deberes que las presentaciones y los informes de seguridad ahora cargan. No hay salida limpia de ese triángulo. La demanda no lo construyó. Simplemente apuntó un tribunal hacia él.

El cambio más profundo trata sobre quién puede usar el lenguaje del riesgo. Durante tres años, ese lenguaje perteneció sobre todo a los laboratorios. Ellos elegían cuándo hacer sonar la alarma, qué tan fuerte debía sonar y qué debía pasar después, que solía ser un marco que ellos habían ayudado a diseñar. Una presentación de demandantes toma el mismo lenguaje de sus manos. Una vez que una advertencia es una prueba, su autor ya no controla su sentido. Un juez, un jurado y la otra parte tienen cada uno su turno para leerla. Esa pérdida de control, más que cualquier cita sola, es lo que debería preocupar a la industria. Advirtió al público que sus sistemas podían escapar del control humano. Puede que no haya esperado que lo mismo pasara con sus frases.

Para el resto de nosotros, hay un interés más simple. Las advertencias pidieron al público que creyera un trato inusual: créenos cuando decimos que esto podría salir mal, y créenos cuando decimos que somos las personas correctas para construirlo de todos modos. Ese trato aún puede defenderse, pero debe defenderse como un trato, con pruebas sobre protecciones, incidentes y límites, no como un estado de ánimo. Si la causa fuerza esa defensa más completa a la luz, por respuestas, registros y audiencias, habrá hecho un trabajo que tres años de declaraciones no hicieron. Si fracasa rápido, las declaraciones seguirán siendo lo que eran antes del 12 de noviembre, palabras potentes sin ninguna prueba unida a ellas.

Reflexión de cierre

Hay una frase en el viejo argumento sobre las advertencias que vuelve una y otra vez mientras lees esta demanda. Una advertencia solo vale por la acción que cambia. Los laboratorios cambiaron mucho después de advertir: contrataron equipos de seguridad, escribieron constituciones y marcos, informaron fallos y pidieron reglas a los gobiernos. También recaudaron más dinero, construyeron sistemas más grandes y compitieron entre sí hacia la próxima frontera, en un calendario que sus propias advertencias dijeron que era peligroso. Ambas listas son verdaderas. Un tribunal, si esta causa llega tan lejos, deberá pesarlas una contra otra, en público, con las advertencias leídas en voz alta por personas que no las escribieron.

Esa lectura en voz alta es el momento hacia el que esta historia se construye desde 2023. No un modelo nuevo, no una prueba de rendimiento nueva, no una valoración nueva. Solo las frases, en una sala tranquila, sin música de presentación bajo ellas. Sin importar lo que el juez decida sobre el congelamiento, la industria ya aprendió la lección que cada otra industria aprendió antes que ella. Las palabras dadas para calmar al público no se quedan con el público. Entran en el registro, y el registro es paciente, y un día alguien lo presenta.

El reportaje se apoya en el anuncio de Public Citizen y el resumen de la demanda del 12 de noviembre de 2026, la cobertura de Reuters de la presentación, el reportaje de Axios sobre la estimación de Amodei de septiembre de 2025, el testimonio en el Senado del 16 de mayo de 2023, la declaración del Center for AI Safety del 30 de mayo de 2023, la carta de pausa del Future of Life Institute de marzo de 2023 y la cobertura de la presentación S 1 de Anthropic de octubre de 2026, verificados el 13 de noviembre de 2026. Los reclamos de los demandantes, las advertencias de las empresas y las miradas de los analistas se atribuyen en el texto, y ningún reclamo en la demanda se trata como un hallazgo del tribunal.

Fuentes

• Public Citizen, Coalition of Nonprofits Files Landmark Lawsuit to Stop Development of Advanced AI Systems, 12 de noviembre de 2026. Anuncio de los demandantes, citas de Aroneanu, Weissman, Istook, Steinhauser y Platkin, base legal y detalles de la presentación.
• Dirty Static, Organizaciones demandan a laboratorios para congelar el desarrollo de frontera, 13 de noviembre de 2026. Detalles de la presentación, incidentes citados en la demanda y estado del tribunal al publicar.
• Reuters, reportaje del 12 de noviembre de 2026 sobre la presentación en San Francisco, los líderes citados en la demanda y las respuestas de las empresas. Copias sindicadas verificadas para este reportaje.
• Axios, Amodei sobre IA: hay una probabilidad del 25 por ciento de que las cosas salgan realmente, realmente mal, 17 de septiembre de 2025, según se resumió en cobertura posterior de Axios y de la industria verificada el 13 de noviembre de 2026. Forma y alcance de la estimación de Amodei.
• Senado de Estados Unidos, audiencia del subcomité del 16 de mayo de 2023, testimonio de Altman, según lo reportaron Associated Press, Bloomberg Law y Al Jazeera el 17 de mayo de 2023. Citas sobre peores temores y salir muy mal.
• Center for AI Safety, declaración sobre el riesgo de extinción por IA, 30 de mayo de 2023. Declaración en una frase y firmantes, incluidos Altman, Hassabis y Amodei.
• Future of Life Institute, carta abierta Pause Giant AI Experiments, 22 de marzo de 2023. Pedido de pausa, forma sobre la pérdida de control y firma de Musk.
• Cobertura de la presentación S 1 de Anthropic, 26 de octubre de 2026, sobre sus advertencias de riesgo catastrófico y existencial, verificada el 13 de noviembre de 2026.
• Ilustraciones: Dirty Static