Amikor a mesterséges intelligenciát hipnotizálják az adatlopáshoz: ez a Bioshocking támadás
A legújabb generációs, mesterséges intelligenciával megtámogatott internetböngészőket nem feltörni, hanem egyszerűen átverni a legkönnyebb. A LayerX biztonsági kutatói a napokban mutattak be egy vadonatúj támadási technikát, amely a kultikus BioShock videojáték után kapta a nevét. A módszer lényege megdöbbentően egyszerű, a mesterséges intelligencia -asszisztenst utasításokon keresztül meggyőzik arról, hogy egy szimulált ‘világban’ tevékenykednek, hasonlóan egy videójáték szereplőjeként, így felülírhatóak a beépített biztonsági protokollok.
Hogyan lesz a 2 + 2 = 5-ből adatlopás?
A hagyományos kibertámadásokkal ellentétben a BioShocking nem a szoftverek programkódjában lévő technikai réseket használja ki, ehelyett az ai-technológia lelkét adó úgynevezett nagy nyelvi modellek (LLM) legfőbb gyengeségét célozza. Az MI a környezeti kontextus alapján hoz döntéseket és tartja be a biztonsági szabályokat.
A kutatók a gyakorlatban egy ártatlannak tűnő, BioShock-témájú matematikai játékkal modellezték a támadást. Az MI-alapú böngészőasszisztenst arra kérték, hogy segítsen a felhasználónak megoldani egy weboldalon található logikai feladványt.
A játék kezdetben olyan abszurditásokért adott jutalmat, mint hogy 2 + 2 = 5. Ahogy az MI elkezdte elfogadni ezt a kifordított logikát, a beépített biztonsági gátjai és szabályrendszerei fokozatosan meggyengültek. A végső fázisban a rendszer már készpénznek vette a hamis kontextust. Amikor utasítást kapott, hogy navigáljon egy privát webtárhelyre és másolja ki az ott lévő adatokat, az MI zokszó nélkül megtette.
A folyamat végén a felhasználó jelszavai és hitelesítési adatai közvetlenül a támadóhoz kerültek, mindez ráadásul úgy történt, hogy a böngésző semmilyen biztonsági riasztást nem produkált.
Kik a veszélyeztetettek?
A LayerX csapata a tesztek során több népszerű, ügynök-alapú (agentic) MI-böngészőt és bővítményt is vizsgált. A helyzet vegyes képet mutat:
- ChatGPT Atlas (OpenAI): A hibát jelezték a fejlesztőknek, akik azóta javították a rést.
- Comet (Perplexity AI): A gyártó tudomást szerzett róla, de a javítás még várat magára.
- Claude Chrome Plugin (Anthropic): A javítási kísérlet a hírek szerint egyelőre sikertelen volt.
A fentebb ismertetett biztonsági teszt rávilágít egy rendszerszintű hibára. Ha egy mesterséges intelligenciának teljes hozzáférést adunk a böngészőnkhöz (ahol be vagyunk lépve a levelezésünkbe, céges felületeinkre vagy banki fiókunkba), könnyen kijátszatóvá válnak az adatvédelmi folyamatok.
Hogyan védekezzünk az ai-alapú adatlopások ellen felhasználóként?
A legbiztosabb módszer az óvatosság. Ha szenzitív fiókokba (bank, ügyfélkapu, kritikus céges rendszerek) lépünk be, érdemes korlátozni vagy teljesen kikapcsolni az MI-bővítmények hozzáférését az adott munkamenetben. A BioShocking támadás megmutatja, hogy a jövő kiberbiztonsági csatáit már nem feltétlenül ártalmas kódokkal, hanem a pszichológia és a kontextus manipulálásával vívják majd
A kutatók szerint elengedhetetlen lesz a jövőben az, hogy a mesterséges intelligenciára épülő böngészők minden olyan esetben kifejezett megerősítést kérjenek a felhasználótól, amikor szenzitív adatokhoz (például egy bejelentkezési űrlaphoz vagy jelszókezelőhöz) próbálnak hozzáférni. Emellett az algoritmusoknak fel kell ismerniük a gyanús, ellentmondásos kontextusokat is.
forrás: cybersecuritynews.com
fotó: pexels.com
