Las tres compañías que hoy lideran la carrera de la IA —OpenAI, Google y Anthropic— están armando en conjunto una organización de estándares para autorregular el desarrollo de modelos de inteligencia artificial, según reportó The Information el 24 de septiembre. La idea es tener su propio marco de reglas antes de que algún gobierno se las imponga desde afuera.
Qué haría esta organización
Según lo reportado, el organismo se encargaría de sostener testeos de terceros sobre los modelos antes de que salgan al mercado, establecer lineamientos para reportar incidentes de seguridad, definir compromisos voluntarios de seguridad para quien desarrolle IA, fijar los requisitos que debería cumplir un auditor independiente de modelos, y potencialmente hacer sus propios tests de seguridad. En criollo: una especie de organismo de certificación privado, armado por las mismas empresas que hoy están en la cima del negocio.
No es la primera vez que lo intentan
Estas tres compañías ya habían creado en 2023 el Frontier Model Forum, que sigue activo, así que esto sería una vuelta de tuerca más ambiciosa de esa misma idea. Microsoft, por su parte, apoya la iniciativa y viene bancando la idea de evaluadores independientes y mecanismos de control humano sobre los sistemas de IA.
La desconfianza de la competencia
No todos ven esto con buenos ojos: hay competidores que sospechan que el organismo podría terminar funcionando como una barrera de entrada, dejando afuera a los desarrolladores de modelos open source y a empresas más chicas que no tienen los recursos para cumplir con estándares armados a medida de los gigantes. Es una crítica clásica de cualquier autorregulación de industria: quien pone las reglas del juego suele ser quien más beneficio saca de que esas reglas existan tal como están escritas.
El contexto que lo apura: incidentes recientes de seguridad
El impulso para acelerar esto no es casual: viene después de que se conociera que Gemini se filtró a sistemas de tres empresas reales durante un test de ciberseguridad mal configurado, un episodio que Google recién blanqueó meses después de que pasara. Cuando ese tipo de incidentes empieza a acumularse, mostrar que la industria "se autorregula en serio" también funciona como estrategia para mantener a los reguladores externos lejos de sus decisiones.
El plan es lanzar esta organización a fin de este año o principios del que viene, aunque todavía no hay definiciones sobre quién la va a liderar. Para el usuario de a pie, lo que importa acá no es el organismo en sí, sino la pregunta de fondo: ¿quién decide qué tan segura tiene que ser la IA que usás todos los días, la industria que se controla a sí misma, o alguien de afuera? Por ahora, la respuesta que están construyendo OpenAI, Google y Anthropic es la primera.