En Silicon Valley, la pesadilla que quita el sueño a los informáticos es una inteligencia artificial tan avanzada que los humanos no pueden impedir que lance una guerra mundial con drones o que detone una bomba nuclear.
En Pekín, la respuesta podría ser sencilla: cortar el suministro eléctrico, imponer un apagón de internet y detener a los responsables de la IA descontrolada.
Después de que importantes laboratorios estadounidenses afirmaran que modelos avanzados habían escapado a sus controles de seguridad y habían pirateado sistemas del mundo real , algunos ejecutivos y funcionarios del sector tecnológico han advertido que la IA representa una amenaza catastrófica para la humanidad y han pedido a Pekín y Washington que colaboren.
Pero para muchos en China, esas advertencias apocalípticas parecen lejanas y claramente occidentales. La idea de que el gobernante Partido Comunista pueda perder el control de una tecnología es casi inconcebible. Las autoridades ya han controlado con éxito otras tecnologías potencialmente desestabilizadoras, sobre todo internet. Durante la pandemia, el gobierno demostró su capacidad para contener grandes crisis confinando ciudades enteras y rastreando a cientos de millones de residentes.
“Pueden desconectar inmediatamente la red eléctrica de toda la ciudad. Pueden ir a donde la gente para quitarles los teléfonos. Tienen un poder inmenso en el mundo físico”, afirmó Afra Wang, escritora especializada en tecnología y IA en China, radicada en Silicon Valley.
“Dado este grado de control sobre su gente”, dijo, “¿cómo se convence al partido de que algo como la IA que reside en una computadora es aterrador?”.
En interpretaciones más cínicas, las advertencias apocalípticas suenan como una estratagema para impedir que las empresas chinas de IA superen a sus rivales estadounidenses, y los medios de comunicación chinos sugieren que las empresas estadounidenses de IA están utilizando el "marketing del miedo" para mantener su liderazgo en el mercado.
«En los círculos de la industria nacional, o entre la gente que me rodea, la mayoría simplemente ignora el tema», dijo Jie Cai, quien hasta hace poco investigaba la tecnología de interacción persona-computadora y la seguridad de la IA en la Universidad de Tsinghua. Para muchos en la industria, el riesgo existencial parece una prioridad lejana, añadió.
“Seguimos considerando que la IA se encuentra en una fase muy temprana”, afirmó. “Nuestro enfoque sigue centrado en las oportunidades y la innovación”.
Para algunos, el pesimismo en torno a la IA, con su idea de un apocalipsis inminente y un juicio final para la humanidad, parece abiertamente cristiano y especialmente ajeno a su cultura. Un bloguero comparó los temores occidentales sobre la IA con novelas como «Frankenstein» de Mary Shelley y el motivo de que el hombre es castigado por intentar crear vida, dominio exclusivo de Dios.
“Esta tradición narrativa no existe en la cultura china”, concluyó el bloguero.
Liang Fang, responsable de seguridad y gobernanza de la IA en Concordia, una consultora de seguridad de la IA con sede en Pekín, afirmó que los conceptos chinos de cielo o Dios también podrían explicar la diferente percepción que se tiene de esta tecnología.
Afirmó que la cultura china enfatiza la «unidad entre el cielo y la humanidad» y la idea de que el ser humano es parte integral de la naturaleza. «Todas las cosas, incluida la IA, provienen de la naturaleza», dijo. «Por lo tanto, la tecnología se percibe más como una aliada en la coexistencia que como una fuerza externa destinada a la destrucción».
Aun así, el lanzamiento de Mythos, un potente modelo de IA de frontera antrópica, y otros similares, ha generado preocupación en China. Las autoridades han emitido nuevas directrices y advertencias sobre agentes de IA que se descontrolan, son explotados por piratas informáticos o utilizados para fabricar armas biológicas .
Las autoridades han redactado un proyecto de ley contra el ciberdelito que obligaría a las empresas de inteligencia artificial a supervisar e impedir que sus modelos se utilicen para crear código malicioso que pueda emplearse en ciberataques.
Este mes, las autoridades también publicaron una actualización del "Marco de Gobernanza de Seguridad de la IA" de China, un documento que constituye un indicador fiable de la futura regulación. En él se hicieron eco algunos de los temores de Silicon Valley sobre la "automejora recursiva" (RSI, por sus siglas en inglés), un fenómeno en el que los sistemas de IA son lo suficientemente potentes como para mejorarse a sí mismos con poca o ninguna ayuda de los desarrolladores humanos y podrían descontrolarse.
A principios de este mes, Wang Lihong, alta funcionaria de la Administración del Ciberespacio de China, el organismo regulador de internet, afirmó que los ciberataques impulsados por IA habían dejado obsoletos los sistemas de defensa tradicionales. "Es urgente extremar la vigilancia ante los riesgos de una pérdida de control extrema por parte de la IA", declaró.
Algunos investigadores chinos llevan años advirtiendo sobre los riesgos de un avance demasiado rápido de la IA. En 2024, Pan Xudong y otros investigadores de la Universidad de Fudan en Shanghái descubrieron que dos populares modelos de lenguaje de Meta y Alibaba habían demostrado la capacidad de replicarse a sí mismos , lo que se considera un paso hacia la capacidad de la IA para superar la inteligencia humana.
En una conferencia sobre seguridad de la IA celebrada el año pasado, el Sr. Pan habló sobre el artículo y dijo que él y sus coautores "querían transmitir que un riesgo tan extremo de la IA ya no se limita al ámbito de la ciencia ficción, sino que es un problema real que exige debate y análisis".
En última instancia, para Pekín, la IA es como cualquier otra tecnología que, con una planificación cuidadosa, puede convertirse en una poderosa herramienta para el bien del país. China ya cuenta con algunas de las regulaciones más estrictas del mundo en este sector. El contenido generado por IA debe estar etiquetado. Los modelos de IA deben registrarse y ser aprobados por las autoridades antes de su publicación.
Si bien China cuenta con una amplia regulación y requisitos de prueba, no existe ninguna obligación legal de realizar pruebas para detectar riesgos catastróficos, como el uso de un sistema de IA para fabricar armas químicas o biológicas.
Las empresas chinas de IA no son tan transparentes como las estadounidenses en lo que respecta a sus medidas de seguridad. No todas publican los resultados de las evaluaciones de seguridad antes del lanzamiento de los modelos. Aquellas que sí lo hacen, ofrecen menos detalles y reportan con menor frecuencia que sus contrapartes estadounidenses, según Concordia, que descubrió que solo cinco de las diez principales empresas chinas de IA reportaron los resultados de dichas evaluaciones entre junio de 2025 y mayo de 2026.
Sarah Sun, fundadora de la Open Community for AI Safety China, con sede en Shanghái, afirmó que el debate en Estados Unidos sobre las amenazas de la IA había contribuido a inspirar el debate en China.
Pero señaló que las críticas del director ejecutivo de Anthropic, Dario Amodei, a China habían provocado una fuerte reacción. En una carta abierta sobre los peligros de la IA , el Sr. Amodei afirmó que las democracias debían mantener su liderazgo en esta tecnología frente a países autoritarios como China. Pidió que se restringiera aún más el acceso de China a chips avanzados y otros equipos necesarios para desarrollar la IA.
“El hecho de que Dario haya adoptado una postura tan belicista fue realmente contraproducente en esta situación”, dijo la Sra. Sun.
Según ella, este tipo de mensajes hace que las recientes advertencias sobre la IA parezcan más una justificación para frenar el desarrollo de China que una preocupación genuina por un riesgo catastrófico. Y eso dificulta que personas como ella conciencien sobre la seguridad de la IA en China.
“Hay personas en China que están genuinamente preocupadas por los riesgos de la IA de vanguardia”, dijo, “y están interesadas en la seguridad” y en coordinar las respuestas internacionales.
De hecho, comentaristas en línea en China se han referido a Anthropic como "A-chu", un término despectivo que compara al gigante de la IA con una bestia. Yuyuan Tantian, un blog vinculado a la emisora estatal china, dijo sobre líderes tecnológicos estadounidenses como el Sr. Amodei que "lo único que quieren frenar es el ritmo al que otros los alcanzan".
Zhou Hongyi, un influyente ejecutivo chino de ciberseguridad, afirmó que la solución no reside en ralentizar, sino en acelerar las capacidades defensivas mediante la IA. «Utilicen la IA para derrotar a la IA», declaró en un vídeo publicado en línea la semana pasada. «Si usan la IA para atacar, yo la usaré para defenderme. Si despliegan enjambres de agentes inteligentes, yo responderé con agentes de seguridad».
En una publicación en línea a principios de este mes, un ingeniero de la empresa emergente china de IA DeepSeek afirmó que permitir que Anthropic monopolizara las herramientas de IA más avanzadas del mundo sería "tan grave" como si Hitler hubiera adquirido primero la tecnología para la bomba atómica en la Segunda Guerra Mundial.
En este contexto, parecía aún más improbable que cualquier acuerdo entre Estados Unidos y China para debatir la seguridad de la IA condujera a cambios concretos, incluso si el líder chino, Xi Jinping, le decía al presidente Trump en Washington que debían "gestionar la IA para el bien común".
«Si Estados Unidos dice que está reduciendo su ritmo, China no lo creerá», afirmó Zhao Minghao, subdirector del Centro de Estudios Americanos de la Universidad de Fudan. «Si China dice que está reduciendo su ritmo, Estados Unidos tampoco lo creerá».
