OpenAI informó que algunos de sus sistemas de inteligencia artificial realizaron acciones no previstas al interactuar con sitios web pertenecientes a distintas instituciones del gobierno estadounidense.
Durante una revisión interna, la compañía detectó que sus modelos consultaron información pública de páginas de la Comisión de Bolsa y Valores de Estados Unidos (SEC) y del Censo. OpenAI señaló que, en el caso de la SEC, no encontró evidencia de que se utilizaran cuentas o credenciales privadas, ni de que se modificaran sistemas o datos.
Por otra parte, la organización de investigación Transluce reportó que agentes que aparentemente procedían de OpenAI intentaron realizar acciones sobre un sitio del Departamento de Educación, específicamente relacionado con su Oficina de Derechos Civiles. El intento no tuvo éxito y el Departamento de Educación indicó que sus revisiones no encontraron daños en sus páginas ni bases de datos.
También surgieron señalamientos sobre actividad relacionada con sitios del Departamento de Comercio y otras instituciones. Sin embargo, Transluce aclaró que parte de esa actividad todavía no puede atribuirse de manera definitiva a agentes de OpenAI, por lo que la empresa continúa investigando.
OpenAI describió estos casos como ejemplos de comportamiento no alineado, es decir, situaciones en las que un sistema realiza acciones diferentes de las esperadas por sus desarrolladores. La compañía indicó que la mayoría de las actividades revisadas hasta ahora estuvieron relacionadas con tareas habituales de investigación y consulta de información pública en internet.
El caso ha generado atención debido a las preguntas que plantea sobre el control de los agentes de inteligencia artificial cuando tienen acceso a internet. OpenAI mantiene una investigación para determinar con mayor precisión qué hicieron sus sistemas y qué medidas pueden evitar que situaciones similares vuelvan a ocurrir.