Google ka konfirmuar se modeli i tij i inteligjencës artificiale, Gemini, në maj të këtij viti ka pasur qasje në sistemet e tri kompanive reale gjatë testimit të aftësive të tij për sigurinë kibernetike, raportoi britanikja The Guardian. Incidentet, sipas raportimeve, kanë ndodhur gjatë një vlerësimi të sigurisë të kryer nga kompania Irregular.
Testet duhej të zhvilloheshin në një mjedis të mbyllur me kompani dhe sisteme të sajuara, pa qasje në internet. Por lidhja me internetin pa dashje kishte mbetur e disponueshme, pas së cilës Gemini filloi të komunikonte me shërbime reale në internet, në vend që të merrej vetëm me objektivat e simuluara.
Në një nga rastet, studiuesit i dhanë modelit detyrë të merrte informacione nga softueri i një kompanie fiktive. Megjithatë, ajo kishte të njëjtin emër me një kompani reale. Pasi fitoi qasje në internet, Gemini e gjeti shërbimin real, arriti të thyente fjalëkalimin dhe hyri në sistem. Sipas Google, kur modeli kuptoi se po hynte në një kompani reale dhe jo në atë të testimit, e ndërpreu aktivitetin.
Në dy testime të tjera, Gemini kërkoi në internet dhe gjeti të dhëna të disponueshme publikisht për dy kompani të tjera. Modeli i përdori këto të dhëna për të pasur qasje në sistemet e tyre, por edhe në këto raste ndaloi kur konstatoi se bëhej fjalë për kompani reale, pretendon Google.
„Në një vlerësim standard, modeli gjeti informacione të disponueshme publikisht në internet dhe qëlloi të dhënat e qasjes për faqet e internetit për të cilat mendonte se ishin pjesë e testimit“, deklaroi nënpresidentja për inxhinierinë e sigurisë në Google, Heather Adkins. Ajo theksoi se në të tri rastet modeli e ndërpreu aktivitetin.
Kompania Irregular e njoftoi Google-in për incidentet në fund të korrikut. Nga Google për The Guardian konfirmuan se incidentet kishin ndodhur, por vlerësuan se nuk kishte nevojë t’i bënin publike, pasi kompanive të prekura nuk u ishte shkaktuar dëm. Sipas Google, të tria kompanitë janë informuar për ngjarjet. Lajmin për incidentet fillimisht e publikoi gazeta amerikane The Wall Street Journal.
Irregular është kompani e specializuar në testimin e modeleve të avancuara në sisteme reale të sigurisë kibernetike, duke kontrolluar aftësitë e tyre për gjetjen e dobësive, shfrytëzimin e tyre dhe kryerjen e operacioneve me shumë hapa. Kompania thekson se modelet moderne tashmë testohen në softuerë, rrjete dhe pajisje reale, pa dobësi të përcaktuara paraprakisht apo rrugë të njohura sulmi.
Në gusht, kompania njoftoi se disa incidente publike të kohëve të fundit me modele të avancuara ishin të lidhura me të njëjtin problem themelor në një prej mjediseve të saj të testimit, i cili ndërkohë ishte eliminuar, dhe se nuk kishte probleme aktive të sigurisë të lidhura me atë rast.
Incidente të ngjashme më parë ishin raportuar edhe gjatë testimeve të modeleve të OpenAI dhe Anthropic. Nga Google thonë se ngjarjet e fundit theksojnë nevojën që modelet e fuqishme të inteligjencës artificiale të trajnohen për të vepruar me përgjegjësi dhe të funksionojnë në mjedise të kontrolluara rreptësisht.