Tras la renuncia de un investigador debido a la falta de garantías en la seguridad de los modelos, el fundador de Anthropic advierte sobre los peligros tecnológicos y exige una regulación conjunta entre democracias frente al avance de potencias como China.
En el centro de una creciente controversia, Dario Amodei, director de Anthropic, aseguró que la industria de la inteligencia artificial ha engañado a la sociedad durante demasiado tiempo respecto a los riesgos reales de esta tecnología, marcando distancia con las prácticas de su propia firma. Las declaraciones, difundidas este domingo tras la polémica generada el sábado, sostienen que tanto las administraciones públicas como los ciudadanos deben intervenir de inmediato. En una entrevista concedida al programa ‘Sunday Morning’ de CBS y consignada por la agencia EFE, el empresario detalló amenazas concretas como el ciberataque, el bioterrorismo, la pérdida de control de los sistemas y la disrupción económica.
Pese a este diagnóstico crítico, el directivo descartó una prohibición total de la tecnología al considerar que privaría a la humanidad de beneficios indispensables, tales como nuevos descubrimientos médicos, y porque su desarrollo continuaría inexorablemente en otras naciones, especialmente en regímenes autoritarios. Para Amodei, el mayor dilema de la regulación global es que una desaceleración tecnológica por parte de Estados Unidos dejaría el camino libre a China, perfilada como el principal escollo para un control efectivo.
El ejecutivo reconoció su incomodidad ante el hecho de que corporaciones privadas controlen una herramienta de tal magnitud en lugar de quedar bajo la supervisión de administraciones elegidas democráticamente. Por esta razón, propuso un sistema de gobernanza conjunta y monitoreo estricto integrado por potencias democráticas. Según advirtió, un desarrollo inadecuado maximiza las probabilidades de incidentes graves, mientras que un enfoque correcto reduce notablemente dichos riesgos.
La postura del empresario adquiere mayor relevancia tras la reciente dimisión de Jacob Coxon, un investigador con paso previo por OpenAI que abandonó Anthropic esta semana. Su salida respondió al temor de que ni la compañía ni sus competidores directos estén construyendo sus modelos de inteligencia artificial bajo principios plenamente responsables.
