OpenAI, Anthropic y Google DeepMind sostienen conversaciones para impulsar un organismo sectorial que defina estándares de seguridad para los modelos de inteligencia artificial más avanzados, de acuerdo con reportes de medios especializados y declaraciones recientes de OpenAI. La propuesta está en fase de discusión: no se ha anunciado la creación formal de una nueva institución, ni se han divulgado reglas, integrantes, presupuesto o mecanismos de cumplimiento.
El tema cobró relevancia después de que Chris Lehane, director de Asuntos Globales de OpenAI, confirmara que la empresa ha trabajado durante varias semanas con Anthropic y Google DeepMind en asuntos de seguridad de IA. La información fue reportada el 15 de septiembre por TechCrunch, que señaló que las conversaciones ocurren en paralelo a un debate más amplio sobre cómo vigilar sistemas capaces de realizar tareas cada vez más complejas.
La posibilidad de un organismo de estándares fue dada a conocer inicialmente por The Information y retomada por The Washington Post. Según ese reporte, las compañías han dialogado sobre una entidad que podría establecer criterios comunes de seguridad para una industria que compite por desarrollar modelos de frontera: sistemas con capacidades especialmente avanzadas y potencial de uso en ámbitos científicos, empresariales, de ciberseguridad y automatización.
Un esquema inspirado en la supervisión financiera
La idea se relaciona con una propuesta previa de Demis Hassabis, cofundador de Google DeepMind. El planteamiento, referido por agencias y medios internacionales, contempla un modelo inspirado en la Financial Industry Regulatory Authority (FINRA), una organización autorregulatoria estadounidense del sector financiero.
FINRA no es una dependencia gubernamental, pero supervisa a sus firmas miembro bajo el marco legal federal y la vigilancia de la Comisión de Bolsa y Valores de Estados Unidos (SEC). Entre sus funciones están emitir y hacer cumplir reglas para intermediarios financieros, revisar el cumplimiento de obligaciones e investigar conductas indebidas. Trasladar una lógica semejante al sector de IA supondría crear reglas compartidas y procesos técnicos de evaluación para los laboratorios participantes, aunque hasta ahora no se conocen detalles sobre la autoridad que tendría un eventual organismo ni sobre si podría imponer sanciones.
El punto es relevante porque la autorregulación no equivale a una ley. Una entidad formada por empresas podría establecer pruebas, auditorías o protocolos voluntarios, pero sus alcances dependerían de la adhesión de las compañías y de las disposiciones que eventualmente aprueben los gobiernos. OpenAI ha sostenido públicamente que un esfuerzo de la industria debe complementar, y no reemplazar, la supervisión democrática y los requisitos federales obligatorios.
OpenAI plantea estándares voluntarios y regulación obligatoria
En un documento publicado el 9 de septiembre, OpenAI afirmó que buscará colaborar con otros laboratorios de frontera para desarrollar estándares de seguridad de la industria, incluso mediante una iniciativa voluntaria que pueda avanzar mientras se definen normas públicas. La empresa también pidió una regulación nacional obligatoria en Estados Unidos, basada en las capacidades y riesgos de los modelos, con exigencias de pruebas comunes, evaluaciones independientes, protecciones de ciberseguridad y reportes de incidentes.
La compañía plantea que las obligaciones más estrictas deben dirigirse a los grupos que desarrollan los sistemas más potentes, y no aplicarse de la misma forma a startups, investigadores o desarrolladores que no operen en esa frontera tecnológica. Ese enfoque pretende evitar que las reglas se conviertan en una barrera desproporcionada para proyectos pequeños, aunque el diseño de los umbrales técnicos sigue siendo uno de los puntos centrales de discusión.
En la misma publicación, OpenAI reconoció que las capacidades de los sistemas están avanzando con rapidez y sostuvo que los desarrolladores deben ralentizar o detener el desarrollo cuando no puedan cumplir parámetros de seguridad suficientes. Sin embargo, la compañía no informó qué compromisos concretos habría asumido con Anthropic y Google, ni confirmó que las tres empresas hayan acordado una estructura institucional específica.
Cooperación entre rivales y dudas sobre competencia
La colaboración entre compañías que rivalizan por clientes, talento, infraestructura y avances técnicos enfrenta un desafío adicional: las leyes de competencia económica. The Washington Post reportó que Dario Amodei, director ejecutivo de Anthropic, planteó la posibilidad de una exención antimonopolio limitada que permitiera coordinar medidas de seguridad. TechCrunch, por su parte, informó que Lehane consideró que no sería necesaria una dispensa de ese tipo.
La diferencia ilustra una cuestión clave: compartir criterios de evaluación y prevención de riesgos puede ser útil para elevar prácticas comunes, pero los acuerdos entre los mayores participantes del mercado deben evitar coordinar precios, restringir indebidamente la competencia o excluir a nuevos desarrolladores. Por ello, cualquier organismo de este tipo tendría que transparentar sus reglas de participación, su gobernanza y la relación entre sus estándares voluntarios y las obligaciones legales.
También han surgido críticas desde otras empresas tecnológicas. Aiden Gomez, cofundador y director ejecutivo de la firma canadiense Cohere, cuestionó que los principales laboratorios definan por sí mismos las reglas del sector y advirtió que el debate no es sólo si la IA requiere salvaguardas, sino quién las redacta y a quién benefician. Estas posturas reflejan el riesgo de que requisitos muy costosos o diseñados sin participación amplia fortalezcan la posición de los grupos con mayor capacidad financiera y de cómputo.
Qué se sabe y qué falta por definir
La información disponible permite establecer que OpenAI, Anthropic y Google DeepMind han conversado sobre seguridad de IA y que existe interés en estándares sectoriales. No obstante, aún no hay evidencia pública de que se haya constituido un organismo regulador ni de que exista un acuerdo definitivo para limitar el ritmo de desarrollo de modelos.
Las definiciones pendientes incluyen qué sistemas serían sometidos a pruebas, quién realizaría las evaluaciones, si los resultados se publicarían, cómo participarían empresas más pequeñas, qué papel tendrían académicos y sociedad civil, y qué ocurriría ante el incumplimiento de una norma. Mientras esas preguntas sigan sin respuesta, la iniciativa debe entenderse como una conversación de política industrial y seguridad tecnológica, no como la puesta en marcha de un regulador formal.
El debate ocurre mientras autoridades y empresas discuten cómo equilibrar los posibles beneficios de la inteligencia artificial con riesgos como usos maliciosos, fallas de ciberseguridad, pérdida de control operativo y concentración de poder tecnológico. La eventual creación de estándares comunes podría influir en ese proceso, pero su legitimidad y eficacia dependerán de que no sustituya la rendición de cuentas pública ni se convierta en una herramienta para cerrar el mercado.
Fuentes consultadas
Imagen ilustrativa. Foto de Ludovic Delot en Pexels.
