Súlyos biztonsági rést találtak a Meta AI chatbotjánál
A Meta nemrég élesített ügyfélszolgálati AI chatbotját alaposan kijátszották a hackerek az elmúlt napokban. Manipulatív szöveges utasításokkal vették rá a rendszert, hogy érdemi ellenőrzés nélkül szolgáltassa ki felhasználói fiókok hozzáférését, köztük fokozottan védett személyékét is.
A Meta automatizált rendszerén keresztül végrehajtott támadássorozat olyan kiemelt fontosságú profilokat érintett, mint a Fehér Ház hivatalos weboldala, a Sephora szépségápolási óriáscég vállalati fiókja, valamint az amerikai Űrhaderő (Space Force) egyik magas rangú tisztviselőjének Instagram profilja. A támadás nem kímélte a neves kiberbiztonsági szakértőket sem, jónéhányuk Instagram hozzáférését percek alatt, tudtuk és jóváhagyásuk nélkül módosították a támadók a chatboton keresztül.
A ‘Prompt Injection’ (utasítás befecskendezés) csapdája
A probléma gyökere egy úgynevezett ‘prompt injection’ (utasítás-befecskendezéses) sérülékenység. Kiberbiztonsági szakértők beszámolói alapján a hackereknek sikerült ‘túlbeszélniük’ és manipulálniuk az AI asszisztenst. A chatbotot arra kérték, hogy módosítsa az online fiókokhoz tartozó belépési adatokat és küldjön jelszó-visszaállítási linket, amit az AI meg is tett, anélkül, hogy a felhasználó valós identitását független, szigorú biztonsági protokollokon keresztül ellenőrizte volna
“Ez egy alapvető strukturális és architektúrabeli hiba. A nyelvi modellnek úgy adtak megemelt jogosultságokat a chatben kérteknek megfelelően, hogy mögé nem építették ki a megfelelő hozzáférés-szabályozási falakat” – nyilatkozta Brian Westnedge, a Red Sift kiberbiztonsági cég alelnöke.
A jelenség ráadásul nem egyedi az AI-szektorban. Emlékezetes eset volt korábban, amikor egy autókereskedés AI chatbotját sikerült rászedni arra, hogy 1 dollárért adjon el egy prémium SUV-t. A különbség most az, hogy a Meta esetében a globális digitális identitások védelme és a fiókokba való biztonságos belépés volt a tét.
A spórolás és a rohamtempó ára
A Meta még idén márciusban vezette be a mesterséges intelligenciával támogatott support-rendszert. A cél az volt, hogy kezeljék a felhasználók évek óta tartó, jogos elégedetlenségét: a platformokon ugyanis szinte lehetetlen volt élő, hús-vér ügyfélszolgálatost elérni, ha valakit kizártak a fiókjából vagy tévesen tiltottak le. A vállalat az elmúlt időszakban több ezer munkahelyet szüntetett meg, miközben elképesztő összeget, közel 145 milliárd dollárt irányzott elő az AI-infrastruktúra fejlesztésére.
Ez a súlyos baki éppen ezért érzékeny ponton találta el a tech-óriást, a befektetők azonnal reagáltak az automatizációs fiaskóra, így a Meta részvényei több mint 5%-ot estek a hírre. Bár a cég közleményében jelezte, hogy a hibát azóta elhárították és az érintett fiókokat biztonságba helyezték, a Meta reputációján jelentős csorba esett.
Hogyan védhetjük meg online fiókjainkat a támadások ellen?
Fontos leszögezni, hogy a kényelem nem mehet a biztonság rovására. Amikor egy folyamat – legyen az regisztráció, jelszócsere vagy kétlépcsős azonosítás (2FA) – teljes egészében az automatizáció kezébe kerül, a rendszerek sebezhetővé válnak a kifinomult, szociális manipuláción alapuló támadásokkal szemben.
Bár a Meta központi chatbot hibája ellen egyénileg nem sokat tehettünk, online fiókjainkat az alábbi a legnagyobb biztonságban:
- Aktiváljuk a kétlépcsős azonosítást (2FA): Lehetőleg ne az SMS-alapút, hanem dedikált hitelesítő alkalmazást (pl. Google Authenticator) használj!unk!
- Figyeljük a biztonsági értesítéseket: Ha kéretlen jelszó-visszaállítási kísérletről kapunk e-mailt vagy SMS-t, azonnal lépjünk be a hivatalos applikáción keresztül fiókunkba, és ellenőrizzük a bejelentkezett eszközöket.
- Használjunk egyedi jelszavakat: Soha ne használjuk ugyanazt a jelszót több különböző regisztráció alkalmával!
forrás: reuters.com
fotó: pexels.com
