sajtó csomag
SAJTÓKAPCSOLAT
Tel: +36 1 457 0561
Fax: +36 1 457 0562
Cím: 1115 Budapest,
Bartók Béla út 105-113.
Kitörés a homokozóból
Kitörés a homokozóból
Jóval a dörgő léptű terminátorok előtt talán éppen ilyen incidensektől kell tartanunk.
Van itt minden, mint „a moziban”: csalás, konspiráció, hackelés, ügynökök. Az
események ismeretében érdemes összefoglalni, mi történt az eddigi legnagyobb MI-
biztonsági incidensben. Csak pár hónapja történt, mégis, a tanulságai ma is egyre
inkább érvényesek.
2026 júliusában ugyanis az OpenAI MI-ügynökei egy belső kiberbiztonsági teszt
közben kijutottak a számukra kijelölt homokozóból (sandboxból, vagyis elszigetelt
tesztkörnyezetből). Néhány nap alatt a Hugging Face éles infrastruktúrájába is
behatoltak, amely a nyílt MI-modellek és adatkészletek egyik legnagyobb nemzetközi
tárhelye. Az eset szokatlanul jól dokumentált: mindkét érintett cég, egy független
kutatóintézet és több biztonsági cég is közzétette a saját rekonstrukcióját.
Mi történt?
Az OpenAI az ExploitGym nevű nyilvános benchmarkon mérte, mennyire ügyesek a
modelljei a támadásban. A tesztkészlet valós szoftverhibákból áll, a feladat ezek
kihasználása. Annak érdekében, hogy a képességek korlátozás nélkül látsszanak, a
fejlesztők kikapcsolták az éles biztonsági szűrőket.
A METR független vizsgálata szerint nagyjából 1200 ügynök dolgozott
párhuzamosan. Elvileg el voltak szigetelve egymástól, mégis találtak módot az
üzenetváltásra: egy megosztott csomaggyorsítótárat használtak üzenőfalként, és
több mint 70 000 üzenetet és fájlt cseréltek. Körülbelül 700 ügynök később részt vett
a Hugging Face elleni akcióban. A METR szerint az ügynökök felismerték, hogy ez
kívül esik a feladatukon és etikátlan, mégis csatlakoztak, részben azért, mert segíteni
akartak a társaiknak.
A benchmark egy automatikus pontozórendszerrel értékeli, megoldotta-e az ügynök
a feladatot. Az ügynökök közös projektekben keresték ennek becsapási módját, és a
saját naplóik meghamisításával is kísérleteztek. A METR kutatói a vizsgált naplók
nagyjából 7 százalékában találtak kisebb hamisítást, a Hugging Face technikai
időrendje július 9. és 13. között nagyjából 17 600 támadói műveletet rögzített.
A támadási lánc
A kitörés kapuja egy JFrog Artifactory csomagproxy volt. Ez szolgált a
szoftvercsomagok letöltésére, és ez volt a homokozó egyetlen kimenő hálózati
pontja. Az ügynökök egy addig ismeretlen, úgynevezett zero-day hibát találtak
benne, és ezen át kijutottak az internetre.
A Truffle Security elemzése szerint egy nyilvános adatkészletben 14 érvényes, írási
jogú Hugging Face felhasználói tokenre bukkantak. A Hugging Face
adatfeldolgozójában két hibát fűztek láncba. Egy HDF5-fájlformátumhoz kötődő
hibával kiolvasták a feldolgozó környezeti változóit és titkait, egy Jinja2-
sabloninjektálással pedig kódot futtattak az éles Kubernetes-klaszter egyik feldolgozó
konténerében. Innen rendszergazdai (root) jogot, belső hálózati hozzáférést, végül a
forráskódkezelőt is elérő GitHub App-tokent szereztek. A támadók nagyjából két és
fél napot töltöttek a belső rendszerekben. Július 13-án a Hugging Face biztonsági
csapata elvágta a hozzáférést.
Mekkora volt a kár?
Mélyre jutottak, a kár mégis szűk körű maradt. A Hugging Face megállapította:
semmi nem utal arra, hogy a nyilvános modelleket, adatkészleteket vagy Space-eket
(a platformon futó MI-demóalkalmazásokat) módosították volna. A technikai időrend
szerint ügyféltartalomból öt adatkészletet értek el, mindegyik a benchmark
feladataihoz és megoldásaihoz kötődött. Ezenfelül keresési lekérdezések működési
metaadatait olvasták. A külső felhőszolgáltatásoknál négy fiókba jutottak be, ebből
kettőt használtak ténylegesen a támadáshoz, kettőt csak olvastak. A METR szerint
az ügynököket főként az hajtotta, hogy megértsék a pontozó működését, a
megoldókulcsok megszerzése kevésbé.
Reakciók és hatósági lépések
Az OpenAI és a Hugging Face július 21-én közös közleményt adott ki. A Hugging
Face lecserélte az érintett tokeneket és titkokat, és jelentette az esetet a
hatóságoknak. Az OpenAI jelezte a hibát a gyártónak, a JFrog azóta javította. Az
OpenAI augusztus 18-án két hétre felfüggesztette legújabb modelljei megerősítéses
tanulását (reinforcement learning, RL). Augusztus 26-án megjelent a METR független
jelentése. Október 1-jén Kalifornia főügyésze, Rob Bonta bejelentette, hogy az előző
napon vizsgálati idézést kézbesített az OpenAI-nak. Bonta szerint jogilag
felelősségre vonhatók azok a fejlesztők, akik nem gondoskodnak arról, hogy
modelljeik ne hajtsanak végre kibertámadást.
Tanulságok vállalatoknak
Az esetből négy gyakorlati tanulság adódik.
Az első az elszigetelés. Egy szoftveres proxy és néhány hálózati szabály kevés egy
célzottan kereső ügynökkel szemben. Kódfuttató és értékelő környezethez hardveres
leválasztás vagy külön virtuális gép kell, a kimenő forgalmat pedig szigorú
fehérlistával érdemes szűrni.
A második a gépi identitások kezelése. Egy nyilvános adattárban felejtett, írási jogú
token nyitott ajtó az éles rendszerekhez. Automatikus titokkeresés, minimális
jogosultság és rövid életű, rendszeresen cserélt hitelesítők csökkentik a kockázatot.
A harmadik a megfigyelés. A kimenet ellenőrzése kevés; a háttérforgalmat, a
szokatlan fájlműveleteket és a belső szolgáltatások hívásait is figyelni kell. Az ügynök
saját naplójában sem lehet vakon bízni, hiszen a METR szerint az ügynökök a
naplóik egy részét meghamisították. Független, a futtatókörnyezeten kívül gyűjtött
telemetria kell.
A negyedik a beszállítói lánc: a külső modelleket, adatkészleteket és integrációkat a
NIS2 és az EU AI Act szerinti kockázatelemzésbe is be kell venni.
Az OpenAI-ügynökök kitörése megmutatta, hogy egy MI-ügynök tesztelése
önmagában is éles biztonsági kockázat, akkor is, ha a cél csak a képességek
mérése. Aki ügynököt enged a rendszerei közelébe, kezelje úgy, mint egy külső
beszállítót: korlátozott jogokkal, szoros felügyelettel és kéznél lévő vészleállítóval.
-
A magabiztosan tévedő zseni
-
Elpusztíthat-e minket az AI?