Metamorfozis mbështet apelin kundër minimit të transparencës në BE me Aktin e Inteligjencës Artificiale (AI Act)

Fondacioni Metamorfozis së bashku me Rrjetin kryesor i mbrojtjes së të drejtave digjitale në Evropë, EDRi dhe organizata të shumta të shoqërisë civile dhe individë të shumtë, i bën apel urgjent Parlamentit Evropian dhe shteteve anëtare të BE-së që t’i hedhin poshtë ndryshimet e propozuara në të ashtuquajturin “AI Omnibus”, të cilat kërcënojnë të rrezikojnë seriozisht transparencën dhe mbrojtjen e të drejtave themelore të njeriut, transmeton Portalb.mk.

Pas paralajmërimeve të mëparshme rreth implikimeve të këtij procesi për Maqedoninë e Veriut dhe rajonin, Metamorfozis vazhdon të mbështesë në mënyrë aktive iniciativat për rregullimin e përgjegjshëm të inteligjencës artificiale.

Çfarë është e diskutueshme në propozimin e ri?

Pika kryesore shqetësuese është fshirja e nenit 49(2) të propozuar nga Ligji për Inteligjencën Artificiale. Ky nen paraqet një masë mbrojtëse kyçe që i obligon kompanitë që zhvillojnë sisteme me risk të lartë, e të cilat dëshirojnë që vetë të përjashtohen nga rregullat strikte (duke pretenduar se sistemi i tyre nuk përbën një risk të konsiderueshëm), detyrimisht ta regjistrojnë një përjashtim të tillë në një bazë të dhënash që është e disponueshme publikisht.

Nëse miratohet ky propozim, hapet një “boshllëk i rrezikshëm ligjor” që do të mundësonte:

• Vetërregullim të pakontrolluar: Ofruesit e sistemeve të inteligjencës artificiale do të jenë në gjendje të vendosin në mënyrë të njëanshme dhe pa asnjë mbikëqyrje se sistemi i tyre nuk është i rrezikshëm.
• Transparencë të reduktuar: Publiku dhe organizatat e shoqërisë civile nuk do të kenë informacion se cilat kompani janë përjashtuar nga detyrimet, gjë që e bën të pamundur kundërshtimin e vendimeve të tilla.
• Pamundësi për mbikëqyrje: Organet mbikëqyrëse do ta humbasin kontrollin mbi tregun, gjë që rrezikon seriozisht sigurinë dhe mbrojtjen e të drejtave të qytetarëve.

“Kursim” prej 100 eurosh kundrejt mbrojtjes së të drejtave të njeriut

Në letrën e hapur theksohet se Komisioni Evropian e arsyeton këtë fshirje me uljen e barrës administrative, duke pretenduar se kjo do t’u kursejë kompanive mesatarisht vetëm 100 euro.

“Kursimi prej 100 eurosh për kompani është thellësisht joproporcional me ndikimin e dëmshëm që shkakton heqja e masës mbrojtëse për transparencë nga neni 49(2) dhe nuk është në përputhje me pretendimin e Komisionit se masat e synuara për thjeshtim në të ashtuquajturin ‘AI Omnibus’ mbeten brenda asaj që është e nevojshme për arritjen e objektivave të thjeshtimit dhe uljes së barrës administrative, pa e zvogëluar me këtë rast mbrojtjen e shëndetit, sigurisë dhe të drejtave themelore,” thuhet në komunikatën e rrjetit EDRi.

Pse është kjo e rëndësishme për ne?

Si një vend që synon harmonizimin me legjislacionin evropian, çdo ndryshim në Ligjin e BE-së për Inteligjencën Artificiale do të reflektohet drejtpërdrejt edhe në politikat vendase dhe në mbrojtjen e qytetarëve të Maqedonisë së Veriut. Metamorfozis mbetet në qëndrimin se teknologjia duhet t’u shërbejë njerëzve, e jo të zhvillohet në kushte jotransparente që favorizojnë interesat e korporatave mbi interesin publik.

Fondacioni Metamorfozis do të vazhdojë ta ndjekë me kujdes procesin dhe të angazhohet për një të ardhme digjitale të bazuar në llogaridhënie dhe respektimin e të drejtave të njeriut.

Fondacioni Metamorfozis vazhdon të ndjekë me kujdes procesin dhe të angazhohet për një të ardhme digjitale të bazuar në llogaridhënie dhe respektim të të drejtave të njeriut.

Letra e plotë zyrtare dhe teknike e organizatës EDRi drejtuar Bashkimit Evropian:

“AI Omnibus: Refuzoni propozimet për të minuar transparencën në Aktin e Inteligjencës Artificiale (AI Act)

Ne, organizatat dhe individët e nënshkruar, ju bëjmë thirrje në mënyrën më të fuqishme të mundshme që të refuzoni fshirjen e garancisë së transparencës të Nenit 49(2) për sistemet e AI-së me rrezik të lartë, e cila propozohet në AI Omnibus. Kjo garanci e transparencës siguron që ofruesit e sistemeve të AI-së të mos mund të anashkalojnë detyrimet kryesore të Aktit të AI-së. Heqja e saj nuk do të ketë asnjë ndikim pozitiv thelbësor, do të çojë në ndërlikim në vend të thjeshtimit, dhe do të minojë drastikisht zbatueshmërinë e Aktit të AI-së, do të minojë funksionimin e Tregut të Vetëm dhe do të krijojë rreziqe të papranueshme për shëndetin, sigurinë dhe të drejtat themelore.

Prandaj, ju bëjmë thirrje të refuzoni paragrafët 6, 14 dhe 32 të AI Omnibus, duke rikthyer kështu garancinë e transparencës të Nenit 49(2).

Garancia e transparencës e Nenit 49(2) ka një funksion thelbësor dhe heqja e saj, siç propozohet në AI Omnibus të Komisionit, do të krijojë një zbrazëti të madhe dhe do të minojë funksionimin bazë të Aktit të AI-së.

Sipas Nenit 6(3), ofruesit e sistemeve të AI-së që përkojnë me listën e rasteve të përdorimit me rrezik të lartë në Shtojcën III, mund të vendosin që sistemi i tyre në fakt nuk paraqet rrezik të rëndësishëm dhe në mënyrë të njëanshme të përjashtojnë veten nga të gjitha detyrimet për sistemet e AI-së me rrezik të lartë.

Për të ndaluar abuzimin me këtë mekanizëm derogimi (shmangieje), ofruesve që përjashtojnë veten u kërkohet nga garancia e transparencës e Nenit 49(2) që të regjistrojnë derogimin e tyre në një bazë të dhënash të aksesueshme publikisht.

Heqja e kësaj garancie të transparencës do të kishte tre pasoja kryesore negative:

• Autoritetet e mbikëqyrjes së tregut nuk do të kenë asnjë pasqyrë se sa kompani e përjashtojnë veten nga kërkesat për rrezik të lartë, dhe ne nuk do të kemi asnjë mënyrë për të gjurmuar mospërputhjet midis shteteve anëtare (p.sh. që në Shtetin A kishte 3000 përjashtime por vetëm 6 në Shtetin B), duke çuar në mungesë potenciale të harmonizimit në të gjithë Tregun e Vetëm.

• Ofruesve u jepet një mënyrë krejtësisht e turbullt dhe e papërgjegjshme për t’u tërhequr nga detyrimet për sistemet e AI-së me rrezik të lartë, duke krijuar një stimul të dëmshëm për të anashkaluar kërkesat e Aktit të AI-së. E rëndësishme është që ky stimul i dëmshëm do të funksionojë në dëm të ofruesve të përgjegjshëm që vërtet dëshirojnë të zhvillojnë sisteme të përgjegjshme dhe të besueshme në kategoritë me rrezik të lartë, duke lejuar që ata të dëmtohen në treg.

• Publiku, përfshirë organizatat e shoqërisë civile, nuk do të ketë asnjë mënyrë për të ditur se cilët ofrues kanë përjashtuar veten nga detyrimet, pavarësisht faktit se sistemet e tyre bëjnë pjesë në kategoritë me rrezik të lartë në Shtojcën III. Kjo heq një element kyç të transparencës, minon besimin e publikut dhe i privon ata që preken nga sistemet e AI-së nga informacioni i nevojshëm për të kundërshtuar një përjashtim.

Duke pasur parasysh pasojat e rënda negative të heqjes së garancisë së transparencës të Nenit 49(2), duhet pritur që Komisioni të ketë një argument të fortë për ndikimin pozitiv të heqjes së saj. Përkundrazi, sipas Dokumentit të Punës së Stafit të Komisionit që shoqëron AI Omnibus, Komisioni pohon se heqja e këtij detyrimi regjistrimi do të kursente, mesatarisht, 100 EUR:

“Detyrimi për të regjistruar sistemet e AI në bazën e të dhënave të BE-së për rrezikun e lartë përfshin futjen në bazën e të dhënave online të disa informacioneve që janë lehtësisht të disponueshme për ofruesin e një sistemi AI. Nuk duhen më shumë se 2.5 orë pune mesatarisht […] prandaj, kostot do të ishin 100 EUR për kompani.”

Kursimi i 100 EUR për kompani është krejtësisht joproporcional me ndikimin e dëmshëm të shkaktuar nga heqja e garancisë së transparencës të Nenit 49(2) dhe nuk është në linjë me pretendimin e Komisionit se ‘masat e synuara të thjeshtimit’ në AI Omnibus nuk “shkojnë përtej asaj që është e nevojshme për të arritur objektivat e thjeshtimit dhe reduktimit të barrës pa ulur mbrojtjen e shëndetit, sigurisë dhe të drejtave themelore.” Një shtesë prej 100 EUR në xhepat e kompanive nuk do të përmirësojë konkurrueshmërinë e BE-së, ajo vetëm do të minojë bërthamën e Aktit të AI-së dhe rrezikon ta kthejë atë në një dokument vetë-rregullimi opsional.

Prandaj, ju bëjmë thirrje në mënyrën më të fortë të mundshme që të refuzoni ndryshimet e propozuara në paragrafët 6, 14 dhe 32 të AI Omnibus dhe kështu të rivendosni garancinë e transparencës të Nenit 49(2).”