Jacob Coxon acusó a OpenAI y Anthropic de competir por desarrollar una superinteligencia capaz de mejorarse por sí misma y aseguró que ambas compañías están “jugando con nuestras vidas”.
Internacional.— Jacob Coxon, investigador de inteligencia artificial que durante los últimos tres años trabajó en proyectos de preentrenamiento tanto en OpenAI como en Anthropic, anunció su renuncia a esta última compañía y lanzó una severa advertencia sobre el rumbo que está tomando el desarrollo de esta tecnología.
En una serie de mensajes publicados en su cuenta verificada de X, Coxon afirmó que ninguna de las dos empresas está actuando responsablemente y las acusó de encontrarse en una carrera directa hacia la creación de una superinteligencia capaz de mejorarse por sí misma.
“Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió.
La publicación generó una fuerte reacción en redes sociales. Al momento de la captura compartida, el primer mensaje acumulaba 18.7 millones de visualizaciones, más de 194 mil reacciones y alrededor de 40 mil republicaciones.
Coxon pidió no subestimar el poder que podrían alcanzar estos sistemas. Sostuvo que pronto podrían convertirse en tecnologías sobrehumanas capaces de vulnerar prácticamente cualquier sistema informático, revolucionar cualquier campo de conocimiento de un día para otro y adquirir poder y recursos reales.
El investigador aseguró que ya se han observado avances en cada una de esas áreas y advirtió que el progreso no muestra señales de desaceleración.
En uno de los pasajes más alarmantes de su mensaje, Coxon afirmó que las propias personas encargadas de construir sistemas avanzados de inteligencia artificial creen sinceramente que esta tecnología podría acabar con la humanidad antes de que concluya la presente década.
Aclaró que, desde su perspectiva, no se trata de una estrategia publicitaria. Señaló que numerosos ejecutivos e investigadores de alto nivel moderan sus expresiones ante la prensa para proyectar una postura sensata, pero que, en conversaciones privadas, esas mismas personas manifiestan temor por las posibles consecuencias de la inteligencia artificial.
Según Coxon, ninguna otra actividad desarrollada por el ser humano representa actualmente un nivel de peligro comparable.
El investigador también respondió a una de las preguntas que con mayor frecuencia surgen frente a este tipo de advertencias: si quienes construyen estos sistemas realmente creen que podrían causar una catástrofe, ¿por qué continúan desarrollándolos?
Sobre OpenAI, Coxon consideró que muchas personas dentro de la compañía todavía no han comprendido profundamente las consecuencias que esta carrera podría tener para la civilización. En el caso de Anthropic, aseguró que los riesgos sí son ampliamente entendidos, pero que la empresa se encuentra atrapada en una competencia por llegar primero.
De acuerdo con su explicación, en Anthropic prevalecería la idea de que ninguna otra compañía actuará responsablemente y que, por esa razón, ellos mismos deben encabezar el desarrollo, aun cuando reconocen los peligros.
Coxon calificó la aceptación de esa carrera y la entrada en lo que denominó el “juego final” como una apuesta arrogante que no debería decidirse mediante conversaciones internas en el Slack de una empresa privada.
También cuestionó la intención de acelerar al máximo la llamada “alineación” de la inteligencia artificial, es decir, los esfuerzos para conseguir que estos sistemas actúen conforme a objetivos y valores humanos. A su juicio, avanzar de manera precipitada requeriría una certeza extraordinaria de que no existen rutas más seguras.
A pesar de sus críticas, Coxon dijo sentirse optimista sobre la posibilidad de alcanzar acuerdos de coordinación. Mencionó como una señal de advertencia el episodio al que se refirió como “el ataque a Hugging Face”, el cual, desde su perspectiva, habría hecho más viables los acuerdos entre laboratorios estadounidenses para moderar el ritmo de desarrollo.
Sin embargo, reconoció que no considera que actualmente exista una ruta efectiva para impedir una competencia mundial por la inteligencia artificial. Añadió que evitarla podría requerir medidas costosas y extraordinarias, entre ellas una prohibición temporal para continuar incrementando las capacidades de los modelos.
Finalmente, Coxon dirigió un llamado a quienes todavía trabajan como investigadores dentro de los principales laboratorios de inteligencia artificial.
Les pidió reflexionar sobre cómo podrían desarrollarse realmente los próximos años y cuestionó si estarían dispuestos a iniciar un proceso de entrenamiento por aprendizaje por refuerzo de una superinteligencia sin contar previamente con una comprensión rigurosa de su funcionamiento interno.
“¿Deben simplemente bajar la cabeza porque ‘esto ocurrirá de cualquier manera’, o aprovechar este momento para exigir condiciones diferentes?”, planteó.
A continuación, compartimos las imágenes del mensaje que Jacob Coxon publicó en X.
