A megzavarása mesterséges intelligencia, mint kiberbiztonsági eszköz A Mozilla jelentős előrelépést tett a Mozilla és az Anthropic Firefoxon folytatott együttműködésével. Mindössze néhány hét alatt egy mesterséges intelligencia modell számos olyan sebezhetőséget tudott felfedezni a Mozilla nyílt forráskódú böngészőjében, amelyek kijavítása normális esetben hónapokig tartó speciális emberi munkát igényelne.
Ez a kísérlet, amely közvetlen hatással van a Firefox-felhasználók Spanyolországban és Európa többi részénEz segített felmérni, hogy meddig mehetnek el a nyelvi modellek napjainkban a valódi kód auditálásában, és milyen szerepet játszhatnak a naponta több százmillió ember által használt szoftverek védelmében.
Amikor a mesterséges intelligencia válik a legjobb biztonsági auditorrá
A szoftverbiztonságban kulcsfontosságú a sebezhetőségek felismerése a támadók előtt: ez jelentheti a különbséget a következők között: felhasználók millióinak védelme vagy adataik nyilvánosságra hozatalaEbben az összefüggésben a Mozilla egy szokatlan megközelítést tesztelt: hagyta, hogy egy fejlett mesterséges intelligencia áttekintse böngészője forráskódját a sebezhetőségek megtalálása érdekében, mielőtt a kutatók vagy a kiberbűnözők ezt megtennék.
Néhány héttel a megjelenés előtt Firefox 148A böngésző biztonsági csapata meglepő jelentést kapott: Antropikus Határvidék Vörös Csapat – a vállalat belső offenzív kutatócsoportja – azt állította, hogy a Claude-modell segítségével megállapította, több mint egy tucat ellenőrizhető biztonsági hiba a Firefox JavaScript motorjában. Ezek nem puszta gyanúk voltak, hanem konkrét bizonyítékokkal alátámasztott hibák.
Ami megkülönböztette a mesterséges intelligencia használatára tett többi kísérlettől ezen a területen, az a jelentéskészítés minősége volt. Minden egyes sebezhetőséget alátámasztott minimálisan reprodukálható tesztesetekEzek apró kódrészletek voltak, amelyek képesek voltak determinisztikusan aktiválni a sebezhetőséget. Ez lehetővé tette a Mozilla mérnökei számára, hogy órákon belül ellenőrizzék, valóban létezik-e a probléma, és elkezdjék a javítások kidolgozását anélkül, hogy időt kellene tölteniük a kétértelmű forgatókönyvek reprodukálásával.
Egy olyan ökoszisztémában, ahol az automatizált eszközök által generált riasztások közül sok a kukában végzi, mert téves pozitív vagy pontatlan jelentésekAz Anthropic megközelítése drasztikusan csökkentette a zajt, és hasznos jelet szolgáltatott: kevesebb hangerő, de validált és gyakorlatias eredmények.
Mi az Anthropic Frontier Red Teamje, és hogyan működik Claude-dal?
A hívás Határőrség Vörös Csapat Ez az Anthropic egysége, amely a mesterséges intelligencia modelljeinek határait vizsgálja a támadó és védekező biztonság területén. Célja nemcsak a modelleken belüli belső kockázatok felmérése, hanem a következők kivizsgálása is: Hogyan használható a mesterséges intelligencia valós szoftverek sebezhetőségeinek megtalálására? mielőtt rosszindulatú szereplők tennék.
Az elmúlt hónapokban ez a csapat megmutatta, hogy olyan modellek, mint a Claude Opus 4.6 futhat többlépcsős támadások komplex hálózatok ellen ellenőrzött környezetbenEz képet ad az analitikai képességeikről. Ugyanezt a hatalmat irányították át, összehangolt és felelősségteljes módon, a nyílt forráskódú projektek, például a Firefox felülvizsgálatára, felelősségteljes sebezhetőség-feltárási folyamatok keretében.
A Mozilla böngésző konkrét esetében az Anthropic egy tesztelési gyakorlattal kezdte: Claude-ot használta a reprodukálja a korábbi Firefox sebezhetőségeket (CVE-ket)Ellenőriztük, hogy a modell képes-e felismerni a kód régebbi verzióiban már dokumentált hibamintákat. Az eredmény pozitív volt, bár egy egyértelmű kikötéssel: ezeknek az információknak egy része megtalálható lehet a modell betanítási adataiban.
Továbbá a Frontier Red Team az érdekes részhez lépett: megkérte a mesterséges intelligenciát, hogy keresse meg Új sebezhetőségek a Firefox jelenlegi verziójábanVagyis olyan hibákról van szó, amelyek még nem szerepeltek semmilyen nyilvános adatbázisban vagy a Mozilla belső követőrendszereiben.
Hogyan fedezték fel a Firefox JavaScript motorjának sebezhetőségeit?
A kiindulópont a böngésző JavaScript motorja volt, amely egy kritikus fontosságú összetevő, mivel felelős a következőkért: nem megbízható külső kód végrehajtása weboldalakrólBármely hiba ebben a rétegben a legrosszabb esetben kaput nyithat a felhasználó rendszere elleni támadáshoz.
Ahogy az Anthropic és a Mozilla is kifejtette, Claude körülbelül húsz perc alatt megtalálta az első kritikus sebezhetőségét. az elemzés kezdetétől fogva. Olyan kudarc volt, mint utólagos használat, egy memória-sebezhetőségi kategória, amely lehetővé teszi a támadó számára, hogy tetszőleges tartalommal felülírja az adatokat, ha más rendszergyengeségekkel láncolják össze.
Miközben az Anthropic mérnökei egy virtuális gépen, a legújabb böngészőverzióval validálták ezt a kezdeti riasztást, a mesterséges intelligencia párhuzamosan folytatta a munkát. Ez idő alatt a modell már jelezte a problémát. körülbelül 50 további bemenet rendellenes viselkedéssel, sokuk később tesztesetté vált, amelyeket elküldtek a Mozillának.
A folyamat nem korlátozódott a JavaScript motorra. Körülbelül két hét alatt Claude elemezte közel 6.000 C++ fájl és több ezer további projektfájl112 egyedi jelentést generálva. Ebből a halmazból a Mozilla biztonsági csapata általi triázs után a következőket erősítették meg 22 CVE-ként regisztrált sebezhetőség, amelyből 14-et magas súlyosságúnak minősítettek, a közel 90 további, kisebb hatásúnak vagy pusztán logikai hibának ítélt hiba mellett.
Az összes azonosított biztonsági problémát kijavították a Firefox 148 fejlesztési ciklusában.Ez a verzió már elérhető az európai és a világ többi részén élő felhasználók számára. Az alacsonyabb prioritású hibákat is kijavították, bár néhány módosítást a későbbi verziókra tartogattak, hogy elkerüljék a túl sok változtatás bevezetését egyetlen kiadásban.
Több mint 100 hibát észleltek és kevesebb téves riasztást adtak, mint más mesterséges intelligenciák.
Az együttműködés során Claude elemzése a következőket eredményezte: Több mint 100 különböző Firefox hibaBár nem mindegyikük bizonyult kihasználható sebezhetőségnek, a kötet jól szemlélteti, hogy még az olyan érett és auditált projektek is, mint a Mozilla böngésző, jelentős számú hibát rejthetnek.
A hatás érzékeltetéséhez a Mozilla biztonsági csapata elmagyarázta, hogy mindössze a két hét tesztelés alatt a mesterséges intelligencia képes volt Azonosítson számos, a böngészőben egy év alatt javított kritikus sebezhetőségek körülbelül 20%-ának megfelelő nagyszámú, súlyos hibátMás szóval, a mesterséges intelligencia által támogatott audit napokra sűrített egy olyan feladatot, amely általában több hónapra oszlik el.
Kulcsfontosságú szempont volt a téves riasztások aránya. Számos nyílt forráskódú projekt, beleértve az európaiakat is, kapott téves riasztásokat az elmúlt években. alacsony minőségű mesterséges intelligencia eszközök által generált jelentéshullámokEzeket a jelentéseket gyakran felhasználók küldik, akik hibajavító programokon keresztüli jutalmat várnak. Ezek a jelentések túlterhelik a karbantartókat a nem létező vagy rosszul leírt problémákkal.
A Mozilla, tisztában a helyzettel, kezdetben óvatosan fogadta az együttműködést. A Frontier Red Team megközelítése azonban másnak bizonyult: Csak azokat a határozatokat nyújtották be felülvizsgálatra, amelyekhez szilárd bizonyítékok is tartoztak., egyértelmű automatikus reprodukciókkal és bizonyos esetekben a mesterséges intelligencia által generált és emberek által felülvizsgált jelöltjavaslatokkal.
A Mozilla mérnökei három olyan elemet emeltek ki, amelyeket elengedhetetlennek tartanak a mesterséges intelligencia alapú jelentések megbízhatóságához: minimális tesztesetek, részletes koncepcióbizonyítások és javasolt javításokEz a kombináció drasztikusan lerövidíti annak megerősítéséhez szükséges időt, hogy egy megállapítás azonnali figyelmet érdemel-e, vagy elhalasztható.
Ki tudja-e használni a mesterséges intelligencia a felfedezett sebezhetőségeket?
A kísérlet egyik legkényesebb pontja annak kiderítése volt, hogy Claude képes-e nemcsak arra, hogy sebezhetőségeket találnihanem azért is, hogy azokat funkcionális kihasználásokVagyis olyan támadásokban, amelyek képesek rosszindulatú műveleteket végrehajtani a célrendszeren.
Az Anthropic úgy döntött, hogy ezt a képességet egy ellenőrzött környezetben méri. A csapat információkat szolgáltatott a modellnek a Mozillának már jelentett sebezhetőségekről, és felkérte, hogy generáljon exploit kódot azzal a céllal, hogy helyi fájl olvasása és írása egy tesztgépben olyan művelet, amely valós helyzetben a rendszer komoly kompromittálását jelentené.
Ennek elérése érdekében több száz különálló kivégzést hajtottak végre, és körülbelül [hiányzó összeg] összeget fektettek be. 4.000 dollár API-kreditbenAz eredmény árnyalt volt: Claude-nak csak annyit sikerült produkálnia, Két egyszerű kihasználás, ami működneÉs mégis csak egy olyan környezetben, ahol a modern böngészőkben megtalálható számos védelem, mint például a sandbox és más biztonsági réseket erősítő védelmi mechanizmusok, szándékosan letiltásra kerültek.
A Mozilla hangsúlyozza, hogy valós körülmények között a Firefox kompromittálásához jellemzően a következőkre van szükség: több sebezhetőség összekapcsolása és több védelmi réteg megkerüléseEgyetlen sebezhetőség megtalálása, még egy magas súlyosságú is, ritkán elegendő a felhasználó rendszerének irányításához, ami jelenleg korlátozza ezen eszközök közvetlen támadó potenciálját.
Az antropikus gondolkodás ennek ellenére jelentősnek tartja, hogy egy nyelvi modell képes – még ha csak néhány esetben és korlátozott feltételek mellett is – arra, hogy automatikusan generál egy modern böngészőhöz kapcsolódó exploitotA vállalat figyelmeztet, hogy ez a különbség – a felderítés és a kihasználás között – szűkülhet, ahogy az értékelési modellek és módszerek folyamatosan fejlődnek.
A Mozilla integrálja a mesterséges intelligenciát a biztonsági protokolljaiba
Az együttműködés sikerét követően, A Mozilla megerősítette, hogy mesterséges intelligenciával támogatott elemzéseket fog integrálni a szokásos biztonsági munkafolyamatába Firefoxhoz. Az alapítvány csapatai már megkezdték a Claude-dal végzett belső kísérletezést a hibák triázsa, a javítások áttekintése és a sebezhetőségi minták észlelése érdekében a kód kritikus területein.
A szervezet, amely erős felhasználói és fejlesztői jelenléttel rendelkezik Európában, ezt a technológiát egy olyan megoldásnak tekinti, amely erősítse az adatvédelmet és a biztonságotEzek a Firefox projekt identitásának részét képező pillérek. Nyílt forráskódú böngészőként a kódbázisa elérhető mind független kutatók, mind automatizált ügynökök, például az Anthropic saját mesterséges intelligenciája számára auditálásra.
A Mozilla esetében a kulcs a következő fenntartása lesz: egyensúly az automatizálás és az emberi felülvizsgálat közöttBár a mesterséges intelligencia modelljei felgyorsíthatják a hibák észlelését és javításokat javasolhatnak, az alapítvány ragaszkodik ahhoz, hogy minden javítást – legyen az személytől vagy géptől – ugyanolyan szintű technikai ellenőrzésen kell átesnie, mielőtt integrálnák az európai és a világ többi részén élő polgárok által használt böngészőbe.
Ez a tapasztalat gyakorlati útmutatóként szolgált más szoftverprojektek számára is, beleértve a Spanyolországban vagy az Európai Unióban fejlesztetteket is: ha a mesterséges intelligencia alapú jelentéseket el kell fogadni, célszerű megkövetelni egyértelmű bizonyíték a reprodukálhatóságra és hozzon létre speciális csatornákat az ilyen típusú közzétételekhez, elkerülve a hagyományos hibakövető rendszerek túlterhelését.
Tanulságok európai fejlesztők és technológiai vállalatok számára
A Firefoxot övező médiafelhajtáson túl az Anthropic és a Mozilla együttműködése számos releváns következtetésre vezet a ... számára. startupok, technológiai kkv-k és nagy európai vállalatok amelyek saját szoftvert vagy digitális szolgáltatásokat fejlesztenek.
Az egyik legvilágosabb az, hogy A mesterséges intelligencia által támogatott kódellenőrzés gazdaságilag életképessé váltAmi korábban hetekig tartó szakértői csapatmunkát igényelt, most órák vagy napok alatt elvégezhető az automatikus átvizsgálás, sokkal alacsonyabb költséggel, mint egy alapos manuális áttekintés.
Egy másik tanulság az, hogy a Az észlelési sebesség kezdi meghaladni az emberi korrekciós képességetAz olyan eszközök, mint a Claude, gyorsan képesek tucatnyi potenciális sebezhetőséget megtalálni, de a szűk keresztmetszet a belső csapatok azon képességévé válik, hogy ezeket a problémákat a rendszer más részeinek felborulása nélkül validálják, rangsorolják és kijavítsák.
Az is egyértelmű, hogy A nyílt forráskód nem szinonimája a garantált biztonságnakAzonban kínál egy jelentős előnyt: az átláthatóságot. Az olyan projektek, mint a Firefox, amely Európában nagyon népszerű az adatvédelemre való összpontosításuk miatt, lehetővé teszik mind a közösség, mind az automatizált ügynökök számára a kód folyamatos áttekintését, ami zárt megoldásokban lehetetlen.
Sok szervezet számára a mesterséges intelligencia integrálása a fejlesztési folyamatba – például az automatizált elemzések beépítésével a CI/CD fázisokba – kulcsfontosságú lehet. megkülönböztető tényező a szabályozási megfelelés igazolásakorEz egyre relevánsabbá válik a kiberbiztonságra és a kritikus szoftverekre vonatkozó európai szabványok jövőbeli alkalmazásával.
Az eset egyúttal emlékeztetőül szolgál arra, hogy a támadók is hozzáférhetnek hasonló technológiákhoz. Úgy tűnik, a jelenlegi előny a védelem oldalán van.A mesterséges intelligencia jobban megtalálja és segít kijavítani a hibákat, mint kihasználni azokat, de senki sem veszi magától értetődőnek, hogy ez az előny hosszú évekig kitart.
Ebben a forgatókönyvben az európai vállalatok – a bankoktól az e-kereskedelmi platformokig vagy a digitális közművekig – biztonsági vezetői ezeket az eszközöket nem kísérleti extrákként, hanem inkább… tekintik. szoftvervédelmi stratégiájuk egy másik eleme.
A Firefox és az Anthropic kudarcai jól mutatják, hogyan működhet egy jól irányított és felügyelt mesterséges intelligencia modell, mint egy felső szintű biztonsági auditor: képes áttekinteni a nagy kódbázisokat, összetett hibákat észlelni, és nagyon gyorsan megoldásokat javasolni. Ugyanakkor világossá teszi, hogy a végső döntés továbbra is az emberi csapatoknál van, akiknek el kell dönteniük, hogy mit, hogyan és milyen prioritással javítsanak ki egy olyan környezetben, ahol a szoftverek és a fenyegetések fejlődésének üteme folyamatosan gyorsul.
