Los máximos responsables de algunas de las empresas más importantes del sector de inteligencia artificial han coincidido en una preocupación: el avance de los sistemas más sofisticados está siendo tan rápido que las medidas de seguridad podrían no estar avanzando al mismo ritmo.
Dario Amodei, director ejecutivo de Anthropic, planteó públicamente la necesidad de reducir la velocidad con la que aumentan las capacidades de los modelos de IA. Su propuesta busca ganar tiempo para mejorar los mecanismos destinados a supervisar, evaluar y controlar estos sistemas.
La postura recibió el respaldo de Sam Altman, CEO de OpenAI, quien señaló que también considera necesario establecer un ritmo más controlado para el desarrollo de los modelos de frontera. Altman ha defendido además que compañías externas puedan participar en las evaluaciones de seguridad de estos sistemas.
Por su parte, Elon Musk, responsable de xAI, también expresó su apoyo a la propuesta de Amodei. La coincidencia resulta llamativa debido a la fuerte competencia que existe entre las empresas que desarrollan modelos avanzados de inteligencia artificial.
¿Por qué quieren reducir el ritmo?
La preocupación está relacionada con el aumento de las capacidades de los modelos. Los sistemas actuales pueden realizar tareas cada vez más complejas y, en determinadas circunstancias, actuar de manera más autónoma.
Amodei ha advertido que un crecimiento demasiado acelerado podría incrementar riesgos relacionados con ciberseguridad, manipulación de información y otros usos maliciosos. Por ello, propone que los avances tecnológicos estén acompañados por controles independientes y estándares de seguridad más sólidos.
La propuesta de Anthropic contempla, entre otras medidas, permitir que evaluadores independientes tengan acceso suficiente a los sistemas para comprobar sus condiciones de seguridad. También plantea una mayor coordinación entre las empresas y los gobiernos para establecer reglas comunes.
OpenAI ya ha reducido temporalmente parte de su desarrollo
La discusión no se ha quedado solamente en declaraciones. En agosto, OpenAI informó que había detenido temporalmente parte del entrenamiento de sus modelos más avanzados mientras reforzaba sus sistemas de monitoreo, seguridad y alineamiento.
La compañía explicó que había encontrado señales que justificaban aumentar las precauciones antes de continuar con determinadas fases de entrenamiento.
Esto muestra que el debate sobre la velocidad de desarrollo ya está teniendo consecuencias prácticas dentro de algunas empresas del sector.
No significa detener la inteligencia artificial
El llamado de estos ejecutivos no equivale a abandonar la investigación ni a detener por completo el desarrollo de la IA. La propuesta consiste principalmente en conseguir que las medidas de seguridad tengan tiempo suficiente para adaptarse a las nuevas capacidades.
El debate también genera desacuerdos. Algunos especialistas consideran necesario establecer controles más estrictos, mientras que otros advierten que reducir demasiado el ritmo podría afectar la innovación y la competencia tecnológica.
Por ahora, el punto de coincidencia entre estos líderes es que los sistemas más avanzados requieren mayores niveles de evaluación y supervisión antes de continuar aumentando sus capacidades a gran velocidad.
La discusión marca un cambio importante dentro de la industria: las propias compañías que compiten por construir los sistemas de IA más potentes están reconociendo públicamente que la seguridad debe avanzar al mismo tiempo que las capacidades tecnológicas.
