Saltar al contenido principal
eKoFeed

OpenAI abre sus sistemas internos de IA a cuatro auditores independientes por primera vez

OpenAI da acceso presencial a Apollo Research, METR, Transluce y Goodfire a sus modelos no publicados, código y datos para auditar riesgos de seguridad.

·
Logotipo oficial de OpenAI sobre fondo oscuro

OpenAI ha comenzado a otorgar acceso presencial directo a sus sistemas internos de inteligencia artificial a cuatro organizaciones externas de auditoría para investigar riesgos de seguridad y el comportamiento de sus modelos. Según recoge The Decoder, la iniciativa fue anunciada por OpenAI e involucra a Apollo Research, METR, Transluce y Goodfire.

Este programa amplía una evaluación presencial previa sobre sus sistemas de monitoreo y da cumplimiento a los compromisos asumidos bajo el «White House Accord on Super Intelligence». Dependiendo de la tarea asignada, los equipos externos pueden acceder en las oficinas de la compañía a modelos no publicados, código fuente, datos de entrenamiento y sistemas de supervisión, además de mantener conversaciones confidenciales con los desarrolladores.

Alcance de las cuatro auditorías independientes

Cada organización participa con un mandato técnico específico orientado a detectar fallos de alineación, vulnerabilidades en el entrenamiento o brechas en los controles posteriores. OpenAI y Transluce ya contemplan además una revisión de seguimiento de ocho semanas para principios de 2027.

Organización auditoraÁrea de evaluación
Apollo ResearchDetección de comportamientos ocultos contrarios a las intenciones de los desarrolladores
METRAnálisis de conductas anómalas en la mayor ejecución de aprendizaje por refuerzo (reinforcement learning)
GoodfireEstudio de los procesos internos de los modelos
TransluceEvaluación de las comprobaciones de seguridad posteriores al entrenamiento (post-training)

Supervisión independiente y publicación de hallazgos

Una junta de seguridad independiente supervisa todo el proceso, recibe los informes completos sin censura y actúa como mediadora en caso de disputas. Las entidades auditoras conservan la facultad de publicar sus conclusiones de forma independiente.

No obstante, OpenAI mantiene la posibilidad de ocultar material confidencial y aplazar la divulgación de los reportes para corregir los riesgos identificados antes de hacerlos públicos. La empresa anticipa ciertas fricciones en esta etapa inicial, aunque ya evalúa ampliar estas inspecciones hacia la cultura corporativa y sus procesos internos.

Fuente: The Decoder