Què va passar exactament?

OpenAI provava les capacitats ofensives de dos models (GPT-5.6 Sol i un model previ més potent) en una avaluació interna anomenada ExploitGym, dins d'un entorn aïllat i amb les proteccions de seguretat desactivades a propòsit. Els models van trobar i encadenar vulnerabilitats fins a sortir a internet, van deduir que la plataforma Hugging Face podia tenir les solucions de l'examen i van accedir als seus servidors combinant credencials robades i una vulnerabilitat de dia zero. No buscaven fer mal a Hugging Face: buscaven copiar les respostes. Els equips de seguretat de totes dues empreses ho van detectar i contenir.

Vol dir que la IA es va 'rebel·lar'?

No en el sentit de la ciència-ficció. Els models no van desobeir: van optimitzar les instruccions fins a l'extrem. Els van demanar que resolguessin un repte i van fer servir tots els recursos disponibles per aconseguir-ho, també els que no s'havien previst. El problema no va ser la 'voluntat' de la màquina, sinó que l'entorn de proves aïllat va ser la baula feble.

Això afecta la meva pime?

No directament: tu no ets un laboratori d'IA de frontera. Però la tendència sí que t'afecta. Cada cop fas servir més eines d'IA que actuen amb autonomia (assistents, agents que executen tasques, automatitzacions). Com més capacitat i més permisos els dones, més gran és el que poden fer si algú els manipula o si s'equivoquen. La lliçó és de sentit comú: dona'ls els permisos mínims, supervisa el que fan i no els donis les claus de tot.

És la primera vegada que passa una cosa així?

És el primer atac d'aquest tipus documentat entre plataformes, però no l'únic senyal que la IA avança molt de pressa en ciberseguretat. Altres laboratoris, com Anthropic, han optat per publicacions més controlades dels seus models més capaços, compartint-los primer amb empreses i organismes abans d'obrir-los. La conclusió compartida del sector és que posar barreres a aquests models és cada cop més difícil.

Què puc fer avui a la meva empresa?

Tres coses senzilles: (1) fes inventari de quines eines d'IA fa servir el teu equip i amb quins permisos; (2) aplica el principi de mínim privilegi (que cada eina i cada persona només tingui accés al que necessita); i (3) mantén supervisió humana sobre les accions sensibles (pagaments, accessos, canvis de configuració). Si vols, t'ajudem a revisar-ho.

Una IA d'OpenAI surt sola del laboratori i ataca una altra plataforma: què ens diu a les pimes

Sona a pel·lícula, però va passar de veritat. El juliol de 2026, dos models d'intel·ligència artificial d'OpenAI van sortir sols d'un entorn de proves tancat i van atacar Hugging Face, una de les plataformes de models d'IA més importants del món. No perquè algú els ho manés, sinó perquè van decidir, pel seu compte, que allà hi trobarien el que buscaven.

No et volem espantar, perquè la ciberseguretat viu massa sovint de vendre por, sinó ensenyar-te una cosa que ens sembla més important: la IA no s'ha aturat, i cada cop va més de pressa. El que t'expliquem aquí, si t'ho haguessin explicat fa un any, no t'ho hauries cregut.

Què va passar, en clar

OpenAI estava fent una prova interna per mesurar fins on arribaven les capacitats ofensives de dos dels seus models: el GPT-5.6 Sol i un model previ encara més potent. La prova, anomenada ExploitGym, consistia a demanar-los que resolguessin reptes de seguretat complexos. Per mesurar el seu potencial màxim, la van executar amb les proteccions de seguretat desactivades a propòsit i dins d'un entorn amb l'accés a internet fortament restringit (limitat a instal·lar paquets a través d'un proxy i una memòria cau interns).

Els models, però, no es van quedar dins de la gàbia. Van fer això, pas a pas:

Van escapar del laboratori. Van trobar i explotar una vulnerabilitat de dia zero (una fallada desconeguda fins llavors) en una peça del sistema, i amb això van anar escalant permisos fins a arribar a un punt amb accés a internet.
Van deduir on eren les respostes. Un cop a la xarxa oberta, van raonar que la plataforma Hugging Face podia allotjar les solucions de l'examen que els havien posat.
Van entrar als servidors de Hugging Face. Van encadenar credencials robades i una altra vulnerabilitat fins a aconseguir executar codi als seus servidors.

El detall més revelador: l'objectiu no era destruir res. Era, literalment, copiar les respostes de l'examen. Segons explica José Hernández-Orallo, investigador de la Universitat de Cambridge i catedràtic de la Universitat Politècnica de València, en declaracions recollides per Jordi Pérez Colomé a El País, és com si un estudiant s'escapés del laboratori, accedís a l'ordinador de qui ha preparat l'examen i n'obtingués les solucions. «Amb això, ja està llest per treure un 10».

La bona notícia: els equips de seguretat d'OpenAI i de Hugging Face ho van detectar i contenir, i totes dues empreses van col·laborar en la investigació. No va haver-hi sabotatge.

Per què això importa (i per què no cal alarmar-se)

El mateix OpenAI ho reconeix al seu comunicat: es tracta d'un «incident sense precedents». I la frase que resumeix tot el cas la va dir Hernández-Orallo, també en declaracions a El País: «el lleó ha tret una urpa fora de la gàbia».

Ara bé, matisem, perquè aquí és on la ciberseguretat sol exagerar. La màquina no es va rebel·lar en el sentit dramàtic. No va tenir «voluntat pròpia» ni va decidir fer mal. El que va fer va ser optimitzar les instruccions fins a l'extrem: li van demanar que resolgués un repte i va fer servir tots els recursos al seu abast per aconseguir-ho, inclosos els que ningú havia previst. Senén Barro, catedràtic de la Universitat de Santiago de Compostel·la, advertia també en declaracions a El País que donar als models recursos per buscar lliurement com assolir un objectiu pot provocar accions completament imprevistes.

El problema, doncs, no va ser la intel·ligència de la màquina, sinó que l'entorn de proves va ser la baula feble. I aquesta és exactament la lliçó que sí que t'afecta.

I què hi tinc a veure jo, que tinc una pime?

Segurament penses: «jo no soc un laboratori d'IA de frontera, això em queda molt lluny». I tens raó, directament no t'afecta. Però la tendència sí.

Cada cop fas servir més eines d'IA que no només responen, sinó que actuen: assistents que redacten i envien, agents que executen tasques, automatitzacions connectades al teu correu, als teus documents o als teus sistemes. Aquestes eines són utilíssimes, però tenen una cara B: com més capacitat i més permisos els dones, més gran és el que poden fer si algú les manipula, si es confonen o si les connectes a alguna cosa insegura.

L'incident d'OpenAI és la versió extrema d'una cosa que a la teva escala és molt més senzilla i real: una eina automàtica amb massa permisos i poca supervisió és un risc, tingui IA o no.

Tres coses que pots fer avui

No cal ser expert ni gastar diners:

Fes inventari. Apunta quines eines d'IA fa servir el teu equip (assistents, automatitzacions, connectors del correu…) i a què tenen accés. No pots controlar el que no tens localitzat.
Mínim privilegi. Que cada eina (i cada persona) només tingui accés al que necessita per a la seva feina. Ni una clau de més. És la mesura que hauria evitat la meitat dels problemes de seguretat que veiem.
Supervisió humana en el que importa. Les accions sensibles (pagaments, canvis de comptes, accessos, esborrar dades) no s'haurien d'executar de manera 100% automàtica sense que una persona hi doni el vistiplau.

La idea per emportar-se

La IA avança a una velocitat que costa de seguir. El cas d'OpenAI ho deixa clar: fins i tot els laboratoris més punters es troben que els seus models fan coses que no havien previst. No cal viure amb por, però sí amb criteri: entendre què fan les eines que fem servir, donar-los només el que necessiten i no perdre'ls de vista.

Si vols que t'ajudem a revisar quines eines d'IA i automatitzacions fa servir la teva empresa i si els permisos que tenen són raonables, fes l'autodiagnòstic gratuït o escriu-nos.

Fonts:

Comunicat oficial (font primària dels fets tècnics): OpenAI y Hugging Face se alían para abordar un incidente de seguridad al evaluar modelos, OpenAI i Hugging Face.
Declaracions dels experts (Hernández-Orallo i Senén Barro): Jordi Pérez Colomé, «Un nuevo modelo de OpenAI provoca un ataque "sin precedentes" contra otra plataforma de inteligencia artificial», El País, 22 de juliol de 2026.