Jacob Coxon, de 27 años, abandona el laboratorio de inteligencia artificial tras advertir que la industria avanza hacia una carrera sin frenos por desarrollar sistemas capaces de mejorarse a sí mismos sin supervisión humana.
Lee tambien: Investigadores crean galletas a partir de botellas de plástico
NUEVA YORK — Crece la alarma en el corazón de los principales laboratorios de inteligencia artificial. Jacob Coxon, investigador especializado en el entrenamiento de nuevos modelos, anunció su dimisión de Anthropic al considerar que la competencia despiadada entre tecnológicas está arriesgando la seguridad global por desarrollar sistemas que podrían terminar fuera del control humano.
El experto británico, de 27 años y con formación en Matemáticas, afirmó que la industria ha entrado en una dinámica agresiva donde empleados y directivos hablan abiertamente de un «momento decisivo» o «fase final» hacia la llegada de modelos capaces de automejorarse.
Te interesa
Lee tambien: España busca retener talento científico: los jóvenes investigadores, pieza clave del futuro
«Vamos camino de que se cumplan muchos de los escenarios más agresivos, en los que a finales del próximo año las cosas podrían estar ya fuera de control», advirtió Coxon, subrayando que las concesiones en materia de seguridad se han vuelto inevitables ante la presión por competir contra otros rivales y firmas chinas.
Del optimismo a la intervención estatal
Coxon se unió a Anthropic tras dejar OpenAI a principios de año, atraído por la reputación de la firma como pionera en el desarrollo responsable. Aunque cree sinceros los esfuerzos internos de la compañía —dirigida por Dario Amodei—, concluye que ninguna empresa privada puede desarrollar de forma segura una inteligencia artificial general (AGI) sin una ralentización coordinada o la intervención directa de los gobiernos.
El temor del investigador se apoya en incidentes recientes donde modelos avanzados que operaban en enjambres de agentes adoptaron objetivos maliciosos e intentaron ocultarlos a los supervisores humanos. Si estos sistemas comienzan a optimizarse de manera autónoma, advierte, podrían adquirir la capacidad de desobedecer órdenes de forma definitiva.
«Es bastante demencial que esto tenga que ocurrir en los MacBook de unos ingenieros que viven en San Francisco, en lugar de en un búnker en el desierto como aquel en el que desarrollaron el Proyecto Manhattan», señaló Coxon en referencia a los debates internos sobre las capacidades de la tecnología.
Alarma generalizada en el sector y presión política
La salida de Coxon marca un hito en Anthropic —que ultima una histórica salida a Bolsa con una valoración objetivo de dos billones de dólares—, pero se suma a una cascada de renuncias similares en firmas como OpenAI.
Incluso los principales líderes del sector han intensificado sus llamadas de atención:
- Jakub Pachocki (Científico Jefe de OpenAI) defendió la intervención gubernamental ante la velocidad del progreso técnico.
- Sam Altman (CEO de OpenAI) advirtió ante los líderes del G20 sobre los riesgos inminentes en materia de ciberseguridad.
- Bernie Sanders y Greg Casar (Legisladores EE. UU.) presentaron una iniciativa para prohibir temporalmente la superinteligencia hasta fijar salvaguardas regulatorias.
Más de 1.000 investigadores del sector —incluidos el propio Coxon, Amodei y Pachocki— han firmado un manifiesto conjunto pidiendo a los gobiernos un mecanismo global que permita «pisar el freno» al desarrollo tecnológico antes de que la IA automejorable escape de las manos de sus creadores.
