Escambray Periódico de Sancti Spíritus
Las voces que advierten desde dentro
El 8 de septiembre, Jacob Coxon, un investigador británico de 27 años que había trabajado tres años entre OpenAI y Anthropic, renunció a su puesto y publicó un mensaje en X que alcanzó a más de 100 millones de personas en una noche.
«Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década», escribió. «Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior suavizan su lenguaje en la prensa para parecer sensatos, pero yo escucho a esas mismas personas expresar miedo en privado».
Coxon no es un activista externo ni un crítico tecnológico. Es un ingeniero que ha estado dentro, que ha entrenado los modelos, que conoce sus capacidades y sus límites mejor que casi nadie. Renunció antes de que se le acumularan sus acciones, renunciando a una fortuna potencial por sus principios.
Su advertencia no cayó en el vacío. Evan Hubinger, líder del equipo de alineamiento de Anthropic —el «alineamiento» es el campo de investigación que busca garantizar que la IA actúe conforme a los valores humanos, es decir, que no se rebele ni persiga objetivos propios que perjudiquen a las personas—, respaldó públicamente a Coxon con una declaración que debería helar la sangre de cualquiera que la lea con atención: «Realmente, creemos que la IA podría matar a todos los humanos. Personalmente creo que hay más de un 10 por ciento de probabilidad de que ocurra en la próxima década. Creo que Anthropic está haciendo lo posible, pero aún no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente en camino de tenerlo».
Por tanto, es más que probable, según uno de los principales expertos en seguridad de la empresa que construye uno de los modelos más avanzados del mundo, que la IA acabe con la humanidad en los próximos 10 años.
La respuesta de la industria a estas advertencias llegó el sábado 12 de septiembre, cuando Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo de 3 800 palabras titulado «We Must Pace the Frontier» —»Debemos marcar el ritmo de la frontera»—, en el que llamó a la industria a desacelerar deliberadamente el ritmo al que mejoran las capacidades de sus modelos. No se trata de detener el desarrollo ni de congelar el entrenamiento de nuevos sistemas, aclaró, sino de establecer algo parecido a límites de velocidad.
Amodei propuso un plan de tres pasos: primero, la incorporación de evaluadores independientes con acceso permanente a las instalaciones de las empresas, con credenciales de empleado y derecho a publicar sus hallazgos sin control editorial; segundo, la coordinación entre países democráticos para establecer estándares comunes y otorgar exenciones antimonopolio que permitan a las empresas coordinar sus ritmos de desarrollo; y tercero, un acuerdo global que eventualmente incluya a China.
La propuesta de Amodei recibió un respaldo inesperado: sus competidores directos. Sam Altman, director ejecutivo de OpenAI, escribió en X que estaba «de acuerdo con Dario en que debemos marcar el ritmo de la frontera». Elon Musk respondió con tres palabras: «Dario tiene razón». Demis Hassabis, de Google DeepMind, afirmó que el ensayo «apunta hacia el camino correcto». En menos de dos días, los cuatro jefes de las empresas que construyen los modelos más potentes del mundo coincidieron en que hay que ir más despacio. Sin embargo, el respaldo de Altman y Musk invita a una lectura escéptica que varios actores del sector han adoptado.
Altman había rechazado firmar una carta abierta similar en 2023, y su cambio de posición coincide con la preparación de la salida a bolsa de OpenAI, un proceso que exige mostrar a los inversores un crecimiento acelerado, no una desaceleración voluntaria. El inversor Chamath Palihapitiya escribió en X que «Dario argumenta a favor de detener el código abierto y concentrar un enorme poder tecnológico y económico en Anthropic».
El código abierto es un modelo de desarrollo en el que cualquiera puede descargar, usar y modificar el software gratuitamente, frente al código cerrado, donde solo el dueño controla y cobra por su uso. Otros críticos señalan que las advertencias sobre el apocalipsis podrían estar diseñadas para influir en los mercados o para justificar la consolidación del sector en unas pocas empresas capaces de costear los sistemas de seguridad que Amodei propone.
Mientras tanto, la respuesta institucional se mueve en dos direcciones opuestas. Por un lado, el Congreso de Estados Unidos ha comenzado a reaccionar con una velocidad inusual. El 9 de septiembre, el demócrata Josh Gottheimer y el republicano Mike Lawler presentaron la Stop Rogue AI Act —Ley para Detener la IA Descontrolada—, una norma bipartidista que exigiría a las agencias federales tener las herramientas para detectar y apagar sistemas de IA peligrosos que operen en sus redes antes de que causen daño. En julio, los representantes Ted Lieu y Nathaniel Moran habían introducido la AI Kill Switch Act —Ley del Interruptor de Apagado de la IA—, que obligaría a los desarrolladores de los sistemas más potentes a poder ralentizarlos, suspenderlos o apagarlos, y daría al Departamento de Seguridad Nacional autoridad para ordenar un apagado si un sistema supone un riesgo de daño catastrófico.
El senador Bernie Sanders ha ido aún más lejos: ha prometido impulsar una ley que prohíba permanentemente la superinteligencia artificial, imponga una pausa inmediata en el desarrollo de IA avanzada y establezca penas de hasta 20 años de prisión para quienes violen la prohibición, además de una «pena de muerte corporativa» que forzaría la disolución de las empresas infractoras.
Por otro lado, el poder ejecutivo ha adoptado una postura mucho más tibia. El presidente Donald Trump ha rechazado explícitamente las advertencias de los investigadores, declarando su preocupación de que «si no ganamos la IA, vamos a estar en una posición muy mala». David Sacks, asesor para la IA de la Casa Blanca, ha escrito que prefiere dejar en manos del mercado la penalización por si algún producto genera problemas, y ha advertido a las empresas que «exigir vuestro marco regulatorio preferido como precio por no construir una superinteligencia parecerá un chantaje a la opinión pública». El Pentágono, por su parte, ha calificado las advertencias de los investigadores de «apocalipticismo repetitivo».
Esta divergencia entre el Legislativo y el Ejecutivo refleja una fractura más profunda en la sociedad estadounidense sobre cómo abordar una tecnología que sus propios creadores describen como potencialmente extintiva. El pasado 14 de septiembre, tres días después de haber recordado los trágicos sucesos del 11S hace 25 años, el presidente Trump desestimó las advertencias de los propios líderes de la industria tecnológica y rechazó cualquier nuevo límite regulatorio a la inteligencia artificial, calificando los esfuerzos por imponer salvaguardas como parte de una «ENFERMA conspiración», cuyo único beneficiario sería China.
«El único control o ‘barandilla’ que necesita la IA es un presidente FUERTE E INTELIGENTE (¡con alto coeficiente intelectual!), y Estados Unidos lo tiene, ¡de sobra!», escribió el mandatario en su red Truth Social. Con esta declaración, no solo rechazó los llamados a la prudencia que en los últimos días habían formulado los directores ejecutivos de Anthropic, OpenAI y hasta Elon Musk, sino que situó su propia figura como el único mecanismo de contención frente a una tecnología que, según sus propios creadores, podría escapar de todo control humano.
La postura de Trump no es una reacción improvisada, sino la culminación de una estrategia que comenzó a formalizarse a finales de 2025. El 11 de diciembre de ese año, el presidente firmó la Orden Ejecutiva 14365, titulada «Garantizar un marco de política nacional para la inteligencia artificial», que instruyó al Departamento de Justicia a crear un «Grupo de Trabajo de Litigios sobre IA» con el mandato explícito de desafiar las leyes estatales que regularan la inteligencia artificial y que fueran consideradas inconsistentes con la política federal.
La orden, que se presentó como una respuesta a amenazas a la seguridad nacional y a la competencia global, advertía que la regulación a nivel estatal amenazaba la «dominancia» de Estados Unidos en IA y su liderazgo tecnológico. Para entender qué significa esto en la práctica, conviene aclarar un concepto jurídico clave: la «preemption» o prelación federal. En el sistema estadounidense, cuando el gobierno federal legisla sobre un asunto, las leyes estatales que entren en conflicto con esa legislación federal quedan anuladas. Lo que la orden de Trump establecía era, precisamente, que el gobierno federal se reservaba la autoridad para invalidar las leyes de los estados que intentaran regular la IA, argumentando que la regulación de esta tecnología es un asunto de interés nacional que no puede quedar fragmentado en cincuenta marcos legales distintos.
El 20 de marzo de 2026, la Casa Blanca dio un paso más al publicar su «Marco de Política Nacional para la Inteligencia Artificial», un documento de cuatro páginas con recomendaciones legislativas para que el Congreso estableciera un estándar federal unificado y anulara las leyes estatales que impusieran «cargas indebidas» a la industria. El marco proponía que los estados no pudieran regular el desarrollo de la IA, no pudieran imponer «cargas indebidas» al uso de la IA para actividades que ya son legales sin ella, y no pudieran responsabilizar a los desarrolladores por el mal uso que terceros hicieran de sus modelos.
Sin embargo, el documento también preservaba explícitamente la autoridad estatal en áreas como la protección infantil, la prevención del fraude, la protección al consumidor, la zonificación de infraestructura y la contratación pública de IA. Este matiz es importante porque, como señaló un análisis del Centro Stern de la Universidad de Nueva York, cinco de los siete pilares del marco son en realidad llamados a nueva acción federal, no simples desregulaciones. El núcleo desregulador del plan es más estrecho de lo que sugieren los titulares, pero también más consecuente: se concentra específicamente en la regulación del desarrollo de los modelos de frontera, es decir, los sistemas más avanzados y potencialmente más peligrosos.
La paradoja que subyace a todo este entramado regulatorio es que la administración Trump quiere simultáneamente impedir que los estados regulen la IA y asegurarse de que el gobierno federal tampoco intervenga a llenar ese vacío. El marco recomienda explícitamente que el Congreso no cree «ningún nuevo organismo federal de reglamentación para regular la IA» y que, en su lugar, se apoye en agencias sectoriales existentes como la Comisión Federal de Comercio o la Comisión Federal de Comunicaciones, así como en estándares liderados por la propia industria.
El resultado, advierten los críticos, es un vacío de gobernanza precisamente en los riesgos más existenciales: la asistencia para la creación de armas biológicas, la ciberofensiva autónoma y el comportamiento impredecible o incontrolable de los modelos. Bajo este esquema, no habría ningún regulador sectorial específico encargado de establecer salvaguardas obligatorias para los modelos de propósito general, solo estándares voluntarios que podrían desaparecer «al capricho de un puñado de directores ejecutivos cada vez más poderosos». No es una hipótesis abstracta: Anthropic ya revisó por completo su política de escalado responsable, y OpenAI disolvió su equipo de alineamiento por completo.
La frustración de Trump con las voces que piden prudencia alcanzó un nivel personal en su mensaje del lunes, cuando atacó directamente a Dario Amodei, el director ejecutivo de Anthropic, por «pretender ahora ser un ‘angelito perfecto'» después de haber publicado el sábado un ensayo de 3.800 palabras pidiendo desacelerar el desarrollo de la IA.
La ironía es que Amodei no es un crítico externo ni un activista antitecnología, sino el jefe de una de las empresas que construye los modelos más avanzados del planeta, y su llamado a la prudencia había sido respaldado apenas dos días antes por los líderes de las otras grandes empresas de IA. Trump también mencionó que su gobierno ya había frenado a Anthropic «para que no haga cosas malas, o potencialmente malas», una referencia a la tensa relación entre la compañía y el Pentágono, que ha intentado clasificar sus modelos como un riesgo de seguridad y llegó a prohibir temporalmente uno de sus sistemas más avanzados.
Escambray / ISSN 9664-1277
Escambray se reserva el derecho de la publicación de los comentarios. No se harán visibles aquellos que sean denigrantes, ofensivos, difamatorios, o atenten contra la dignidad de una persona o grupo social, así como los que no guarden relación con el tema en cuestión.