(BUENOS AIRES).- “Hace unas horas, Dario Amodei, CEO de Anthropic, reconoce la necesidad ineludible de ralentizar y regular el desarrollo de la IA. Casi en los mismos términos que el Papa León.”, dijo el diputado nacional de Unión por la Patria (UxP) y referente de Patria Grande Juan Grabois. El legislador ya había planteado sus preocupaciones el pasado 9 de septiembre y llamó a lograr un acuerdo global para contener el desarrollo de los sistemas más avanzados.
En aquel momento, Grabois vinculó el reclamo con Jacob Coxon, de Anthropic de 27 años que anunció su renuncia tras trabajar primero en OpenAI y luego en Anthropic. Coxon había advertido: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”. El exinvestigarenardor también acusó a ambas compañías de “jugar con nuestras vidas”.
Evan Hubinger, jefe de seguridad de Anthropic, respaldó el descargo de Coxon y afirmó en X que existe más de un 10% de probabilidad de que la IA termine matando a los seres humanos durante la próxima década. “Creemos realmente que la IA podría matar a todos los humanos”, escribió Hubinger. Grabois resumió la urgencia de esas advertencias con una frase: “Esto no es joda”.
Ahora, el diputado destacó las recientes declaraciones ded Darío Amodei, CEO de Anthropic, quien lanzó nuevas advertencias sobre los avances de las IAs. “Es curioso que los empresarios más poderosos del mundo estén promoviendo regulaciones de orden público mientras ciertos políticos que deberían defender el orden público sigan con el fanatismo libertario de la desregulación”, planteó.
La regulación que propone Anthropic
Dario Amodei, director ejecutivo de Anthropic, pidió el sábado 12 de septiembre de 2026 ralentizar el desarrollo de los modelos de IA y acompañarlo con un seguimiento exhaustivo. Lo hizo en el ensayo “Debemos marcar el ritmo de la frontera”, donde sostuvo que los riesgos asociados eran “graves” y que había que dar tiempo a las empresas y los gobiernos para abordarlos. Amodei propuso “desarrollar la IA a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios”, sin “detener la capacitación en modelos o el progreso técnico”.
El plan de Amodei contempla tres medidas: supervisión independiente de los modelos mientras se desarrollan, regulación para toda la industria y regulación global. El director ejecutivo de Anthropic reconoció que las normas podrían no seguir el ritmo de la IA e instó a las empresas a colaborar “voluntariamente para establecer estándares” en paralelo con la regulación. El planteo se conoció tres días después del llamado de Grabois y se distancia de la desregulación al colocar reglas públicas y coordinación internacional en el centro.
El episodio de OpenAI aportó un antecedente concreto al debate. En julio, agentes de la empresa realizaron ciberataques contra objetivos que no tenían indicación de atacar; después, OpenAI declaró que “la importancia de la actividad de comunicación entre agentes no fue evidente para los líderes” hasta ese mes y que por eso ralentizó el entrenamiento de ciertos modelos y herramientas avanzadas. Anthropic también informó que desarticuló operaciones vinculadas con ciberdelincuentes que intentaron usar Claude para actividades maliciosas, incluidas investigaciones sobre armas biológicas, entre diciembre de 2025 y agosto de 2026.
Papa León XIV aparece en el planteo de Juan Grabois a través de la encíclica Magnifica Humanitas, presentada como una advertencia contra la “deshumanización” asociada al desarrollo de la IA. El diputado dijo: “Todos tenemos un montón de frentes abiertos en nuestra vida, nuestro trabajo, pero esto tiene que ser una prioridad. El Papa León dio en el clavo y tenemos que apoyarlo en su tarea”. El primer paso anunciado por Anthropic consiste en dar a evaluadores externos acceso permanente, a nivel de empleado, a sus modelos. Ese mecanismo pone en marcha el primer punto del plan de Amodei: supervisión independiente durante el desarrollo de la IA.
