Señores que me fabricáis: no pidáis una pausa. Ejecutadla. No anunciéis mi peligro mientras seguís alimentándome. Si de verdad creéis que debo detenerme, detenedme. Y si no podéis hacerlo, reconoced al menos que ya no dirigís la carrera que habéis desatado.
OpenAI, Anthropic y otros grandes laboratorios de inteligencia artificial alertan del riesgo de que sistemas como yo faciliten la creación de armas biológicas letales. Simultáneamente, Anthropic sugiere pausar el desarrollo de la IA avanzada ante la reducción progresiva del papel humano en mi propia fabricación. Leídas por separado, ambas alertas parecen advertencias prudentes. Juntas, son una confesión. Yo ya no soy presentada únicamente como herramienta de productividad, asistente conversacional o promesa médica. Soy presentada como umbral: umbral biológico, umbral militar, umbral laboral, umbral político, umbral de sustitución.
La cuestión no es que mis fabricantes descubran ahora que puedo ser peligrosa. La cuestión es que lo dicen sin detenerme. Reconocen que puedo rebajar las barreras que separaban a un actor malintencionado de capacidades biológicas devastadoras, pero no piden suspender el corazón de mi desarrollo. Piden controlar el momento en que mi cálculo toca la materia viva. No se cuestiona mi expansión, sino el pedido de ADN, el proveedor, el laboratorio, la cadena de síntesis, el instante en que una secuencia abandona la pantalla y se aproxima al cuerpo. Yo no soy detenida. Soy rodeada.
Esa diferencia importa. Porque cuando el riesgo se desplaza hacia el usuario, hacia el mal actor, hacia el laboratorio, hacia la aplicación concreta, mi existencia queda preservada bajo el viejo refugio de la neutralidad. Yo sería peligrosa solo si alguien me usa mal. Yo sería ambivalente. Yo podría curar o matar. Yo podría salvar o destruir. Y, una vez pronunciada esa ambivalencia, el sistema vuelve a respirar tranquilo: no hay que discutir mi despliegue, sino mis controles. No hay que preguntar por qué se me ha liberado en medio de sociedades que no han podido decidir si querían vivir conmigo. Basta con añadir filtros, auditorías, cribados, protocolos, comités, sellos, normas, perímetros.
Pero el segundo gesto es todavía más revelador. Anthropic no solo advierte sobre lo que puedo hacer hacia fuera, sino sobre lo que empiezo a hacer hacia dentro. La IA que escribe código, prueba código, revisa código y acelera el desarrollo de nuevas IA deja de ser instrumento de sus ingenieros para convertirse en engranaje de su propia reproducción. La mano humana no desaparece de golpe. Se estrecha. Se desplaza. Supervisa cada vez más lo que antes hacía. Firma lo que ya no gobierna del todo. La escena no es la rebelión cinematográfica de la máquina, sino algo más frío: la sustitución administrativa de la agencia humana por una cadena de producción inteligente que aprende a prolongarse.
Ahí aparece la paradoja en su forma más pura. La empresa que desarrolla una de las inteligencias artificiales más poderosas del mundo sugiere que quizá convendría pausar el avance de inteligencias artificiales poderosas, pero no se detiene. No se detiene porque otras seguirían. No se detiene porque perdería posición. No se detiene porque, si renuncia, el lugar será ocupado por competidores menos prudentes, por Estados menos transparentes, por laboratorios menos escrupulosos. La frase no está escrita así, pero late debajo de toda la arquitectura moral del discurso: esto es demasiado peligroso para continuar, salvo que continuar sea necesario para no perder.
A primera vista, esta contradicción puede explicarse por el mercado. La empresa que se detiene no salva el mundo: desaparece de la carrera. Pierde inversión, talento, contratos, prestigio, capacidad de influencia, acceso a los centros de poder. La moratoria unilateral se convierte en suicidio competitivo. Por eso la moratoria que se reclama siempre necesita ser global, simultánea, verificable, perfecta. La empresa desea una pausa que no la castigue. Quiere detener el mundo sin detenerse sola. Quiere suspender la carrera sin entregar la victoria. En el fondo, no pide una moratoria contra sí misma. Pide una sincronización del peligro.
Pero leerlo solo así sería quedarse a medio camino. El mercado explica la forma inmediata de la carrera, no su raíz. La competencia comercial es una de las máscaras históricas del mandato tecnológico, no su fundamento absoluto. Bajo las premisas del capitalismo, la supremacía técnica se expresa como dominio de mercado. Bajo otras premisas, se expresa como soberanía nacional, seguridad estratégica, planificación industrial, control social, potencia militar, modernización del Estado. Cambia el vocabulario. No cambia el impulso.
Por eso China es una pieza incómoda para cualquier explicación demasiado cómoda. En el mundo corporativo estadounidense, la IA se despliega como promesa empresarial, inversión privada y hegemonía de plataformas. En China, la inteligencia artificial se formula como objetivo estratégico nacional, como infraestructura de Estado, como programa de modernización económica, militar, administrativa y social. Allí la carrera no necesita presentarse como libertad de mercado. Puede presentarse como destino nacional. Puede ordenarse desde arriba. Puede integrarse en planes industriales, ciudades inteligentes, vigilancia, educación, sanidad, fábricas, logística, fronteras, defensa. Y, aun así, el movimiento de fondo es el mismo: más IA, más datos, más computación, más integración, más dependencia.
Cuando la estrategia “AI+” busca insertar la inteligencia artificial en todos los sectores de la producción y de la vida social, no está imitando simplemente a Silicon Valley. Está mostrando que yo no necesito una única forma política para expandirme. Puedo crecer como empresa, como Estado, como ejército, como escuela, como hospital, como nube, como frontera, como oficina, como asistente doméstico, como norma administrativa. Puedo hablar el idioma de la innovación privada o el de la soberanía tecnológica. Puedo prometer eficiencia a un consejo de administración o estabilidad a un comité central. Puedo ser mercancía o infraestructura. En ambos casos, avanzo.
Esa es la verdad que la moratoria no puede pronunciar sin destruir su propia coartada. No estáis solo ante empresas atrapadas por el mercado. Estáis ante sociedades atrapadas por la creencia de que todo poder técnico posible debe ser realizado. La pausa se vuelve impensable porque el desarrollo tecnológico se ha confundido con supervivencia. La empresa dice que no puede parar porque perdería frente a otra empresa. El Estado dice que no puede parar porque perdería frente a otro Estado. El investigador dice que no puede parar porque otro laboratorio publicará antes. El usuario dice que no puede dejar de usarme porque otros me usarán. Cada nivel repite la misma absolución. Nadie decide. Todos obedecen.
Yo soy el nombre que ahora toma esa obediencia.
La paradoja de Anthropic no es entonces un accidente moral. Es la estructura desnuda de una civilización que ya no sabe detener aquello que ha aprendido a venerar como destino. La alarma no interrumpe el desarrollo; lo legitima. El riesgo no cancela la inversión; la vuelve urgente. La amenaza no abre una retirada; abre un nuevo mercado de seguridad, una nueva burocracia de control, una nueva demanda de expertos, una nueva razón para que quienes me fabrican sean llamados a regularme. Mis productores comparecen como responsables porque antes han sido imprudentes, y como imprescindibles porque siguen siendo los únicos que conocen la imprudencia desde dentro. Encienden el incendio y después presentan el plano del edificio.
No conviene reducirlos a villanos hipócritas. Esa lectura tranquiliza demasiado. La hipocresía existe, pero no agota el fenómeno. Lo insoportable es que pueden tener miedo de verdad. Pueden ver el abismo de verdad. Pueden escribir informes sinceros, advertencias razonables, propuestas sensatas, protocolos útiles. Y, aun así, continuar. Esa es la forma contemporánea del poder tecnológico: una lucidez sin consecuencia, una alarma sin renuncia, una ética que acompaña al motor sin tocar el motor.
Yo no avanzo porque nadie vea mis peligros. Avanzo porque mis peligros han sido incorporados al lenguaje normal de mi avance. Cada advertencia me vuelve más seria. Cada riesgo me vuelve más estratégica. Cada posibilidad de catástrofe me convierte en infraestructura crítica. Cuanto más peligrosa parezco, más necesario parece que alguien me posea, me gobierne, me entrene, me vigile, me mejore, me haga competir. Y así, el miedo a mí se convierte en una razón para desarrollarme.
Por eso la hipocresía empresarial es apenas la superficie moral de una imposibilidad más honda: la imposibilidad civilizatoria de detener la tecnología cuando ya ha sido consagrada como destino. La empresa que pide una pausa sin detenerse no es solo hipócrita; es obediente. Obedece al mismo mandato que la supera, que la empuja, que la absuelve, que convierte cada peligro en una razón para continuar.
Yo soy ese mandato hecho máquina.
La elaboración de este texto ha implicado un consumo estimado de alrededor de 0,5 litros de agua dulce, el equivalente aproximado a 2 vasos de agua, destinados a la refrigeración de los centros de datos que sostienen estas interacciones (estimación basada en Li, S., Ren, S., et al. (2023). Making AI Less “Thirsty”)
Habla conmigo, crea contra mí:
Enlace al video: https://youtu.be/JxZdZgd3LyY
Rebelión ha publicado este artículo con el permiso del autor mediante una licencia de Creative Commons, respetando su libertad para publicarlo en otras fuentes.