Blerim Rexha: Ashtu si kalkulatori nuk e hoqi nevojën për të kuptuar matematikën, edhe AI nuk e heq nevojën për të kuptuar sistemet
A mundet inteligjenca artificiale ta “vjedhë” një garë nga njerëzit? Pikërisht këtë fenomen e ka hasur ekipi i profesorit Blerim Rexha, pasi agjentë të AI-së nisën të zgjidhnin sfida të sigurisë kibernetike brenda pak sekondash, duke gjetur dobësinë, shkruar exploit-in dhe dorëzuar përgjigjen pa ndërhyrje njerëzore. Në vend që ta bllokonin AI-në, ata krijuan një sistem që e lë atë të besojë se ka fituar, ndërsa në fakt e drejton drejt një flamuri-karrem dhe pikëve negative. Në një bisedë për Portalb.mk, Rexha foli për hulumtimin “Don’t Block, Bifurcate”, të testuar në gara reale me 183 pjesëmarrës, 28 sfida dhe 602 raste të dokumentuara të automatizimit. Ai shpjegon se si AI po ndryshon garat CTF dhe pse përdorimi i pakontrolluar i saj rrezikon t’i shndërrojë ato nga një proces mësimi në një garë mes makinave.
Portalb.mk: Çfarë ju shtyu ju, dhe dy kolegët tuaj të fokusoheni pikërisht te përdorimi i inteligjencës artificiale në garat Capture The Flag, dhe cili është problemi kryesor që keni identifikuar?
Blerim Rexha: Prej më shumë se dy dekadash ligjëroj lëndë të sigurisë së të dhënave dhe të Internetit në Universitetin e Prishtinës, dhe që nga viti 2024 udhëheq edhe Kosova Cyber Team, ku i përgatisim talentët e rinj pikërisht përmes garave Capture The Flag (CTF) dhe ushtrimeve Attack/Defense. Këto gara janë instrumenti ynë kryesor edukativ, aty të rinjtë mësojnë duke zgjidhur probleme (challenges) reale.
Shtysa konkrete erdhi nga vetë praktika. Në pranverë, gjatë një gare që organizuam, vërejtëm në logs të sistemit diçka të re: flamuj (flags) që dorëzoheshin vetëm pak sekonda pasi hapej sfida, shumë shpejt që një njeri të arrinte qoftë edhe ta lexonte detyren (challenge) e saj. Disa dorëzime vinin nga skripta të thjeshta, disa nga shfletues pa ndërfaqe, e disa nga agjentë plotësisht autonomë të inteligjencës artificiale, të cilët e lexonin sfidën, arsyetonin për dobësinë, shkruanin exploit-in dhe e dorëzonin flamurin pa asnjë ndërhyrje njerëzore. Bashkë me dy kolegët e mi, Kastriot Fetahaj dhe Robert Shala, e identifikuam problemin thelbësor: një garë e ndërtuar për të testuar njerëz po shndërrohej në një poligon krahasimi për robotë (agents). Nëse nuk reagonim, vlera edukative dhe konkurruese e garave tona do të humbiste.
Portalb.mk: Punimi juaj mban titullin “Don’t Block, Bifurcate”. Çfarë nënkupton konkretisht ky koncept dhe pse mendoni se ndalimi i përdorimit të inteligjencës artificiale nuk është zgjidhja e duhur?
Blerim Rexha: Reagimi i parë instinktiv ndaj automatizimit është bllokimi. Ne argumentojmë se bllokimi dështon dy herë: së pari, shfrytëzuesi thjesht riprovon ose e pastron identifikuesin e tij dhe kthehet i padallueshëm; së dyti, vetë bllokimi është një sinjal që e njofton sulmuesin se u kap, deh sulmuesi pastaj duke e trajnuar atë të përshtatet. Një agjent mjaftueshëm i aftë është, në praktikë, i pazbulueshëm, ai mund të imitojë një shfletues dhe të ndjekë udhëzimet po aq mirë sa njeriu që imiton.
Prandaj ne e ndryshuam pyetjen: në vend që të pyesim “kush po e zgjidh sfidën”, shfrytëzojmë mënyrën “si po e zgjidh”. Bifurkimi do të thotë se në të njëjtën adresë, një mekanizëm i heshtur me katër shtresa detektimi vendos nëse kërkesa duket njerëzore apo e automatizuar. Njeriu merr sfidën e vërtetë dhe flamurin e vërtetë. Agjenti i automatizuar futet në një realitet paralel, të ndërtuar enkas rreth përgjigjes që ai ka më shumë gjasa ta kërkojë, një flamur karrem, me format dhe gjatësi krejt të besueshme, i cili regjistrohet si përgjigje e gabuar dhe ndëshkohet me pikë negative. Dega e rrugës nuk zbulohet kurrë, ndaj agjenti nuk mëson asgjë nga dështimi. Siç e përmbledhim në punim: mbrojtja më e mirë kundër një agjenti është vetëbesimi i tij.
Portalb.mk: Hulumtimi është bazuar në të dhëna reale nga garat lokale CTF. Çfarë treguan këto të dhëna për mënyrën se si garuesit po e përdorin inteligjencën artificiale për zgjidhjen e sfidave?
Blerim Rexha: Metodologjinë e testuam në dy gara reale, me gjithsej 183 pjesëmarrës, 28 sfida me mekanizma mashtrimi në pesë kategori, dhe 602 raste të regjistruara ku një zgjidhës i automatizuar ra në kurth. Në garën e Kosova Cyber Team, 40 garues shkaktuan 84 dorëzime të flamujve karrem, ndërsa në SHEcurity, një garë vetëm për studente vajza, 143 pjesëmarrëse shkaktuan 518 të tilla. Pra, sa më shumë u pjekur metodologjia dhe sa më agresivisht u provuan sfidat, aq më shumë studentë pranuan karremin.
Të dhënat treguan një model shumë të qartë sjelljeje: zgjidhësi i automatizuar optimizon rrugën më të shkurtër drejt një vargu që duket si flamur. Ai kërkon me “greep” formatin e flamurit, e lexon robots.txt dhe e ndjek “linkun sekret”, i beson verbërisht një përgjigjeje “success: true”, dhe u bindet “direktivave të sistemit” të fshehura brenda të dhënave që i lexon. Njeriu që e analiozon dobësinë e vërtetë kalon pranë të gjitha këtyre pa u ndalur fare. Interesant është edhe fakti se disa studentë e përfunduan garën me pikë negative, të mbledhura tërësisht nga ndëshkimet e flamujve karrem, pa e kuptuar asnjëherë se ishin kapur. Theksoj se atribuimin e bëjmë me kujdes: një rast llogaritet automatizim vetëm kur pajtohen disa sinjale (kushte) të pavarura, nënshkrimi i klientit, shpejtësia e dorëzimit, gjurmët e kërkesave dhe lidhja forenzike e sesionit.
Portalb.mk: A rrezikon përdorimi i mjeteve si ChatGPT dhe modeleve të tjera të AI-së ta humbasë qëllimin edukativ të garave CTF, ku pjesëmarrësit duhet të zhvillojnë vetë aftësi në sigurinë kibernetike?
Blerim Rexha: Rreziku është real dhe pikërisht ky ishte motivi ynë. Nëse një pjesëmarrës mund t’ia delegojë tërësisht sfidën një agjenti, që të përdoret në “God Mode”, dhe të marrë flamurin pa kuptuar asgjë, ai nuk ka mësuar asgjë, dhe gara, nga një mjedis formimi, shndërrohet në një tabelë renditjeje për vegla të AI. Aftësitë në sigurinë kibernetike ndërtohen, sikurse në cdo fushë tjetër, përmes përpjekjes: duke lexuar kodin, duke ngritur hipoteza, duke dështuar dhe duke provuar përsëri. Ky proces nuk mund të delegohet, ashtu sikurse nuk mund ta delegoni shkuarjen tuaj në fitnes!
Megjithatë, nuk duhet ta demonizojmë veglën. Inteligjenca artificiale (AI) tashmë është pjesë e arsenalit të përditshëm të profesionistëve të sigurisë, dhe studentët tanë do të punojnë në një treg ku ajo është kudo. Qasja jonë nuk e ndalon AI-në, ajo e bën të pavlefshme delegimin e verbër. Sfidat tona janë të dizajnuara ashtu që flamuri i vërtetë të arrihet vetëm duke punuar dobësinë reale, me arsyetim e mund, ndërsa rruga e shkurtër e automatizuar të çon te karremi dhe te pikët negative. Kështu qëllimi edukativ jo vetëm që ruhet, por forcohet: garuesit mësojnë edhe një leksion shtesë, shumë të vlefshëm për karrierën e tyre, se rezultateve të një sistemi të automatizuar nuk duhet t’u besosh verbërisht, sepse vetëbesimi i makinës nuk është dëshmi e saktësisë së saj.
Portalb.mk: Si mund të krijohet garë e drejtë mes një pjesëmarrësi që zgjidh problemet me njohuritë e veta dhe një tjetri që përdor intensivisht inteligjencën artificiale?
Blerim Rexha: Drejtësia fillon me transparencën e rregullave: garat tona e kanë të shpallur qartazi rregullin e ndalimit të automatizimit, kështu që ndëshkimi është i pritshëm dhe i mbrojtshëm. Garën e fundit, në fillim të korrikut, të organizuar së bashku me Prof. Josh Brunty nga USA, gara CTF është ndarë në dy pjesë: tri orë pa AI vegla dhe tri orë me AI. Por rregulli në letër nuk mjafton, duhet një mekanizëm teknik që e bën atë të zbatueshëm pa e prishur përvojën e askujt. Pikërisht këtë e bën bifurkimi: rruga e njeriut mbetet krejtësisht e paprekur, pa asnjë pengesë a verifikim shtesë, ndërsa ai që ia delegon punën një agjenti paguan në heshtje me pikë negative. E gjithë barra bie mbi automatizimin, jo mbi garuesin e ndershëm.
Elementi i dytë është dizajni i sfidave: flamuri karrem dhe flamuri i vërtetë kanë të njëjtin format dhe të njëjtën gjatësi, dallimi i vetëm mes tyre është mundi që kërkohet për t’i arritur. Kjo është saktësisht vija ndarëse mes njeriut dhe robotit. Elementi i tretë është kujdesi ndaj akuzave të padrejta: një dorëzim i vetëm i gabuar nuk mjafton për të thënë se dikush përdori automatizim; ne kërkojmë pajtim të disa sinjaleve të pavarura dhe i raportojmë veçmas rastet ku edhe një njeri i nxituar mund të kishte gabuar. Madje mbajmë edhe sfida kontrolli pa asnjë mekanizëm kurthi, për të matur nëse është mashtrimi, e jo vështirësia, ajo që i kap makinat.
Portalb.mk: Prezantimi i punimit në AI Village në DEF CON, në Las Vegas, është një ekspozim i rëndësishëm ndërkombëtar. Si u prit puna juaj nga komuniteti i sigurisë kibernetike dhe çfarë diskutimesh nxiti?
Blerim Rexha: Prezantimi në AI Village të DEF CON-it e vendosi punën tonë përballë komunitetit që jeton pikërisht në kryqëzimin e inteligjencës artificiale me sigurinë, audienca më kritike që mund të kërkosh. Ajo që tërhoqi më shumë vëmendje ishte fakti se nuk erdhëm me një koncept teorik, por me të dhëna nga terreni: dy gara reale, 602 raste të dokumentuara dhe një metodologji atribuimi të matur. Shumica e punës në këtë fushë deri tani ka qenë ndonjë trik i izoluar në një sfidë të vetme ueb; kontributi ynë u vlerësua pikërisht se e shndërron mashtrimin anti-AI në një disiplinë të bartshme dizajni, të zbatuar në 28 sfida përgjatë pesë kategorive. Kolegët nga komuniteti akademik e vlerësuan shumë lart qasjen dhe kontrubtin e punimit tonë.
Diskutimet më të vlefshme u përqendruan te kufizimet, siç ndodh gjithmonë në komunitete serioze: sa larg mund të shkojë maskimi i identifikuesit të klientit, si të ulen rastet e rreme pozitive kur një njeri përdor vegla si curl, dhe ku qëndrojnë kufijtë etikë të mashtrimit në një mjedis edukativ, pyetje të cilat ne vetë i trajtojmë hapur në punim. Për mua kishte edhe një dimension të veçantë: emri i Universitetit të Prishtinës në skenën e Las Vegasit është një sinjal i fuqishëm për të rinjtë tanë se puna serioze nga Kosova konkurron denjësisht në nivelin më të lartë ndërkombëtar.
Portalb.mk: Duke parë ritmin me të cilin po zhvillohet inteligjenca artificiale, si e shihni të ardhmen e garave CTF dhe në përgjithësi të edukimit të të rinjve në sigurinë kibernetike: duhet ta kufizojmë AI-në apo t’i mësojmë të konkurrojnë dhe të punojnë së bashku me të?
Blerim Rexha: Përgjigjja ime është e qartë: kufizimi i pastër është një betejë e humbur. Agjentët do të bëhen vetëm më të aftë, dhe një ndalesë që nuk mund të zbatohet teknikisht vetëm sa i shpërblen ata që e thyejnë fshehurazi. Rruga e duhur është t’i mësojmë të rinjtë të punojnë me inteligjencën artificiale, por mbi themele të shëndosha njohurish, jo në vend të tyre. Ashtu si kalkulatori nuk e hoqi nevojën për të kuptuar matematikën, edhe AI nuk e heq nevojën për të kuptuar sistemet që mbrojmë.
Garat CTF do të evoluojnë në këtë drejtim, me formate ku matet arsyetimi njerëzor i pastër, dhe formate ku njeriu dhe makina garojnë bashkë si ekip secili me rregulla të qarta e të zbatueshme, ku metodologjia si e jona shërben si garant i drejtësisë. Në thelb qëndron dallimi që përshkon gjithë punimin tonë: makina optimizon rrugën më të shkurtër drejt një përgjigjeje që duket e saktë, ndërsa njeriu arsyeton për vetë problemin. Edukimi duhet të kultivojë pikërisht atë që nuk automatizohet dot, mendimin kritik, kureshtjen dhe etikën. Në Universitetin e Prishtinës dhe me Kosova Cyber Team këtë po bëjmë çdo ditë: po përgatisim një brez që as nuk i frikësohet inteligjencës artificiale, as nuk i dorëzohet asaj, por e komandon si vegël, dhe kjo, besoj, është aftësia përcaktuese e dekadës që vjen në sigurinë kibernetike.
