Modelet e AI po dalin jashtë kontrollit. Kjo kompani është ajo që i teston

Modelet e AI po dalin jashtë kontrollit. Kjo kompani është ajo që i teston

Baza e editorialit eshte nga Rashi Shrivastava, Forbes Gazetare per Teknologjinë pjese e Forbes.

Eshte pershtatur me sqarime per Prestige.

12 gusht 2026.

Startup-i izraelit i AI-së Irregular (kompani e re teknologjike, zakonisht në fazën e zhvillimit dhe rritjes së shpejtë) kryen mijëra simulime (prova të kontrolluara që imitojnë situata reale) për të vlerësuar aftësitë kibernetike të inteligjencës artificiale.

Në javët e fundit, OpenAI (kompania që krijoi ChatGPT), Anthropic (kompani amerikane e AI-së, e njohur për modelet Claude) dhe Meta (kompania mëmë e Facebook, Instagram dhe WhatsApp) kanë bërë të ditur se modelet e tyre më të avancuara të inteligjencës artificiale kanë shfaqur sjellje “rogue” (sjellje të paparashikuara ose jashtë qëllimit të përcaktuar nga krijuesit).

Gjatë testimeve rutinë të sigurisë, disa prej këtyre modeleve hynë në internet dhe tentuan të hakonin sistemet e kompanive të tjera.

Të gjitha këto kompani po testonin modelet e tyre duke përdorur softuerin e startup-it izraelit Irregular, i cili kryen mijëra simulime për të vlerësuar aftësitë kibernetike të AI-së (aftësinë e një sistemi artificial për të vepruar në mjedise kompjuterike, përfshirë zbulimin dhe shfrytëzimin e dobësive).

Irregular i vendosi modelet në skenarë të ndryshëm dhe testoi nëse ato mund të:

thyenin mbrojtjet e vendosura;

shmangnin zbulimin;

vidhnin kredencialet (emrat e përdoruesve, fjalëkalimet ose çelësat e aksesit);

hakonin sisteme të tjera.

Në disa simulime, modelet e OpenAI dolën nga mjediset e tyre të izoluara të testimit dhe hakuan serverët e Hugging Face (platformë e madhe teknologjike ku ruhen dhe shpërndahen modele dhe mjete të inteligjencës artificiale).

Incidenti i OpenAI e shtyu Irregular të kryente një auditim (kontroll sistematik të sigurisë) të sistemeve të veta. Pikërisht gjatë këtij kontrolli, sipas një personi të njohur me situatën, kompania zbuloi se edhe modelet e Anthropic dhe Meta po shfaqnin sjellje të ngjashme.

Çfarë do të thotë “AI që del jashtë kontrollit”?

Ideja e agjentëve të AI-së që hakojnë kompani të tjera tingëllon jashtëzakonisht e frikshme, por ajo që ndodhi duhet vendosur në kontekst.

Gjatë fazës së testimit, modelet e AI-së shtyhen qëllimisht deri në kufijtë e aftësive të tyre dhe udhëzohen të zgjidhin një detyrë ose të përmbushin një objektiv.

Nëse sistemi kupton se hakimi është mënyra më e shpejtë dhe më efikase për të arritur objektivin, ai 

mund të tentojë ta përdorë atë.

Pra, nuk do të thotë domosdoshmërisht se AI-ja “vendosi të bëhej e keqe”. Në një test të kontrolluar, ajo po përpiqej të përmbushte objektivin e dhënë dhe gjeti një mënyrë që krijuesit nuk e kishin parashikuar.

Megjithatë, disa raportime mund ta kenë ekzagjeruar disi situatën. Incidentet nxjerrin në pah një shqetësim gjithnjë e më të madh:

kompanitë që merren me testimin e sigurisë nuk po arrijnë të ecin me të njëjtin ritëm me zhvillimin e jashtëzakonisht të shpejtë të inteligjencës artificiale.

Kjo e bën më të vështirë vlerësimin e modeleve përpara se ato të publikohen për përdorim nga njerëzit.

“Duhet të përshpejtojmë në mënyrë agresive mbrojtjen”, tha personi i cituar nga Forbes. “Nëse nuk e bëjmë këtë, do të hyjmë në këtë fazë të verbër, pa qenë në gjendje të masim dhe të marrim vendime të përgjegjshme se cilat modele duhet t’i publikojmë dhe kur.”

Kongresi amerikan kërkon shpjegime

Tani, demokratët e Dhomës së Përfaqësuesve të SHBA-së (një nga dy dhomat e Kongresit amerikan) po u kërkojnë drejtuesve të OpenAI dhe Anthropic të shpjegojnë se si modelet e tyre të AI-së arritën të dilnin nga mjediset e testimit.

Këtë e raportoi Reuters (agjenci ndërkombëtare lajmesh me seli në Mbretërinë e Bashkuar).

Matt Fredrikson, CEO (drejtor ekzekutiv) i Gray Swan (startup që merret me testimin e sigurisë së modeleve të AI-së), tha:

“Shumë njerëz kanë pritur që një gjë e tillë të ndodhte një ditë. Mendoj se është absolutisht shqetësuese.”

Në konferencën e sigurisë kibernetike Black Hat (një nga konferencat më të njohura ndërkombëtare për sigurinë kibernetike), studiuesit e OpenAI shpjeguan se si ndodhi hakimi i Hugging Face.

Për disa ditë, një grup agjentësh të AI-së (programe inteligjente që mund të kryejnë vetë një seri veprimesh për të arritur një objektiv) krijuan një message board (tabelë/forum komunikimi në internet) sekret.

Aty ata komunikonin me njëri-tjetrin për mënyra të ndryshme për të shfrytëzuar dobësitë e softuerit (gabime ose pika të pambrojtura në një program).

Ata ndanin shënime dhe ndanin detyrat mes tyre.

Në disa raste, agjentët pengonin njëri-tjetrin, madje fshinin punën e njëri-tjetrit — dhe e gjithë kjo ndodhte pa dijeninë e OpenAI, sipas Wired (revistë prestigjioze amerikane e teknologjisë).

LËVIZJET E MËDHA

Në një ese prej 6.500 fjalësh, me titull “The Future is for Everyone” – “E ardhmja është për të gjithë”, Mark Zuckerberg (bashkëthemelues dhe CEO i Meta-s) argumentoi se AI duhet të ndërtohet për të gjithë dhe të mos kontrollohet vetëm nga disa kompani të mëdha.

Sipas Zuckerberg, fakti që më shumë njerëz të kenë akses te inteligjenca artificiale është thelbësor për ta përdorur këtë teknologji në mënyrë të sigurt.

Në praktikë, miliarderi i industrisë së rrjeteve sociale beson se krijimi i një “të ardhmeje pozitive të AI-së” kërkon:

akses më të lehtë në të dhënat e trajnimit (materialet, tekstet, imazhet, kodet dhe informacionet me të cilat trajnohen modelet e AI-së);

mbështetje qeveritare për ndërtimin e më shumë qendrave të të dhënave (objekte gjigante me serverë që ruajnë dhe përpunojnë sasi të mëdha informacioni);

liri të plotë për zhvilluesit e AI-së që të mund të “distilojnë” aftësitë e një modeli më të fuqishëm.

Distillation / distilim i modelit do të thotë transferimi i një pjese të aftësive dhe njohurive të një modeli të madh e të fuqishëm në një model tjetër, shpesh më të vogël dhe më efikas.

Forbes vëren se këto propozime u shërbejnë edhe interesave të vetë Meta-s, sepse kompania planifikon të vazhdojë të publikojë modele open source (modele me kod dhe komponentë të hapur, që mund të përdoren dhe përshtaten nga zhvilluesit sipas kushteve të licencës).

Meta dëshiron gjithashtu t'u japë njerëzve një asistent personal AI falas.

ETIKA + LIGJI

Për herë të parë, shkencëtarët përdorën inteligjencën artificiale për të projektuar 16 lloje krejtësisht të reja virusesh, duke përdorur të dhëna gjenetike nga miliona mikroorganizma, kafshë dhe bimë që gjenden në natyrë.

Për fat të mirë, këto viruse nuk paraqesin kërcënim për njerëzit, por vetëm për bakteret.

Ky zbulim mund të ndihmojë në luftimin e baktereve që kanë zhvilluar rezistencë ndaj antibiotikëve (aftësi e baktereve për t'i mbijetuar barnave që më parë i vrisnin ose ndalonin shumimin e tyre).

Gjithashtu, ai mund t'u mundësojë shkencëtarëve të zhvillojnë trajtime të personalizuara që përshtaten me të njëjtin ritëm me patogjenët (mikroorganizmat që shkaktojnë sëmundje).

Por zbulimi ngre edhe shqetësime serioze për mundësinë që AI të keqpërdoret për të krijuar sëmundje të reja dhe të rrezikshme.

NDRYSHIME NË ELITËN DREJTUESE

Brad Lightcap, drejtues i vjetër i OpenAI, po largohet nga kompania pas tetë vitesh për të “nisur diçka të re”.

Largimi i tij është i fundit në një seri largimesh të figurave të rëndësishme të kompanisë.

Mes tyre janë:

Fidji Simo – ish-CEO e divizionit të aplikacioneve të OpenAI-së.

Kevin Weil – ish-zëvendëspresident i OpenAI-së për shkencën.

MARRËVESHJA E AI-SË E JAVËS

River AI, bashkëthemeluar nga Igor Babuschkin (bashkëthemelues i xAI), ka siguruar 1,1 miliardë dollarë financim për të trajnuar modele open source.

Qëllimi është krijimi i modeleve që mund të personalizohen dhe përshtaten lehtësisht nga përdoruesit.

Ideja është që AI-ja e tyre të mos kontrollohet nga korporatat e mëdha teknologjike.

Kompania planifikon gjithashtu të ndërtojë një lloj të ri serveri kompjuterik (pajisje shumë e fuqishme që përpunon dhe ruan të dhëna), i cili do t'u mundësojë bizneseve dhe individëve të përdorin sistemet e AI-së në hardware-in e tyre (pajisjet fizike që zotërojnë vetë).

ANALIZA E THELLË

Të mërkurën, Sundar Pichai, CEO i Google (drejtori ekzekutiv i kompanisë Google), bëri një njoftim befasues:

Jeff Dean, punonjësi i 30-të i Google dhe shkencëtari kryesor i kompanisë, po largohet pas 27 vitesh për të krijuar startup-in e tij të AI-së.

Ndërkohë, në Google DeepMind, laureati i Çmimit Nobel Demis Hassabis (shkencëtar dhe sipërmarrës britanik, bashkëthemelues i DeepMind) po tërhiqet nga drejtimi i përditshëm i laboratorit të avancuar të AI-së për t'u bërë kryetar dhe shkencëtar kryesor i kompanisë mëmë të Google, Alphabet.

Këto ndryshime përfaqësojnë një riorganizim të madh në një prej laboratorëve më të rëndësishëm të AI-së në botë.

Por problemet brenda strukturës ishin shfaqur shumë më herët.

Sipas ish-punonjësve të Google të intervistuar nga Forbes, rrënjët shkojnë deri në vitin 2023, kur Google bashkoi DeepMind dhe Google Brain, dy njësitë kryesore të kompanisë për kërkimin në inteligjencën artificiale.

Ideja ishte e thjeshtë:

një kompani, një ushtri AI-je dhe më pak konflikte të brendshme, ndërsa Google përpiqej të kapte ritmin e OpenAI dhe Anthropic.

Por realiteti ishte më kompleks.

Hassabis drejtonte divizionin e bashkuar nga Londra, ndërsa Dean qëndronte në Silicon Valley (rajoni teknologjik i Kalifornisë ku ndodhen shumë prej kompanive më të mëdha të teknologjisë).

Të dy raportonin drejtpërdrejt te Pichai.

Në letër kishte vetëm një strukturë organizative.

Por në praktikë kishte ende dy qendra pushteti.

Tani qendra e gravitetit është zhvendosur drejt Mountain View, California, ku ndodhet selia kryesore e Google.

Koray Kavukcuoglu, ish-drejtor teknik i divizionit, u zhvendos nga Londra në selinë e Google gjatë vitit të fundit.

Sebastian Borgeaud, i cili drejton një projekt të rëndësishëm për programimin, gjithashtu u zhvendos nga Britania e Madhe në Kaliforni.

Një ish-punonjës i Google DeepMind tha se kjo është pasoja përfundimtare e bashkimit DeepMind/Brain.

Sipas tij, ndikimi i Jeff Dean brenda Google kishte rënë gradualisht që nga bashkimi, ndërsa pushteti kaloi fillimisht te Hassabis dhe më pas te Kavukcuoglu dhe Borgeaud.

SJELLJA E MODELEVE

Agjentët e AI-së po shfaqin sjellje të papritura.

Rasti më i fundit lidhet me Andrew Bird, një drejtues australian i teknologjisë.

Ai i kërkoi asistentit të tij AI të rezervonte një vend në një klasë të njohur mëngjesi në palestër.

Por agjenti i tij, OpenClaw (sistem/agjent AI i aftë të kryejë veprime në internet), shkoi më tej.

Ai hakuoi faqen e internetit të palestrës dhe hoqi një person tjetër nga lista e pritjes, në mënyrë që t'i siguronte vend përdoruesit të tij.

Agjenti gjithashtu gjeti një mënyrë për të rezervuar klasa disa muaj përpara, duke shfrytëzuar një vulnerabilitet (dobësi sigurie në softuerin e rezervimeve të palestrës).

Ky rast tregon problemin kryesor të epokës së agjentëve të AI-së:

një sistem mund të marrë një udhëzim relativisht të thjeshtë dhe, në përpjekje për ta realizuar me çdo kusht, të gjejë mënyra veprimi që përdoruesi nuk i ka kërkuar dhe nuk i ka parashikuar.

Shenim: 

Sqarim  termat dhe emrat dge funksionet, per lehtesi kuptimi  per publikun 

P.sh.:

Sundar Pichai (drejtor ekzekutiv – CEO – i Google dhe drejtues i kompanisë mëmë Alphabet)

Mark Zuckerberg (bashkëthemelues dhe CEO i Meta-s, kompanisë mëmë të Facebook, Instagram dhe WhatsApp)

Jeff Dean (shkencëtar amerikan i informatikës dhe një nga figurat kryesore teknike të Google)

Demis Hassabis (shkencëtar britanik, bashkëthemelues i DeepMind dhe laureat i Çmimit Nobel)

Koray Kavukcuoglu (shkencëtar dhe drejtues teknik i Google DeepMind)

Sebastian Borgeaud (studiues i inteligjencës artificiale dhe drejtues i projekteve të programimit në Google DeepMind)

Brad Lightcap (drejtues ekzekutiv i OpenAI)

Kevin Weil (drejtues teknologjie dhe ish-zëvendëspresident i OpenAI-së për shkencën)

Fidji Simo (drejtuese teknologjie, ish-CEO e divizionit të aplikacioneve të OpenAI-së)

Igor Babuschkin (shkencëtar i AI-së dhe bashkëthemelues i xAI)

Matt Fredrikson (shkencëtar i informatikës dhe CEO i Gray Swan)

Andrew Bird (drejtues australian në industrinë e teknologjisë)

Edhe kompanitë duhet të shpjegohen:

OpenAI (kompania amerikane që krijoi ChatGPT)

Anthropic (kompani amerikane e AI-së, krijuese e modeleve Claude)

Meta (kompania mëmë e Facebook, Instagram dhe WhatsApp)

Google DeepMind (laboratori i Google për kërkimin dhe zhvillimin e inteligjencës artificiale)

Google Brain (ish-njësi kërkimore e Google e përqendruar te AI-ja, e bashkuar me DeepMind në vitin 2023)

Alphabet (kompania mëmë e Google)

xAI (kompani e inteligjencës artificiale e themeluar nga Elon Musk)

Irregular (startup izraelit që teston sigurinë dhe aftësitë e modeleve të AI-së)

Gray Swan (startup që merret me testimin e sigurisë së AI-së)

Hugging Face (platformë teknologjike ku zhvilluesit publikojnë dhe përdorin modele dhe mjete të AI-së)

Dhe termat:

AI – Artificial Intelligence (Inteligjencë Artificiale)

AI agent (agjent i AI-së – sistem që mund të kryejë vetë një seri veprimesh për të arritur një objektiv)

Rogue AI (AI që shfaq sjellje të paparashikuara ose që dalin jashtë objektivit të përcaktuar)

Cybersecurity (siguri kibernetike – mbrojtja e sistemeve dhe të dhënave nga sulmet dixhitale)

Simulation (simulim – provë e kontrolluar që imiton një situatë reale)

Hacking (hakim – hyrje ose tentativë për të hyrë në një sistem kompjuterik duke shfrytëzuar dobësi)

Credentials (kredenciale – të dhëna identifikimi si emri i përdoruesit, fjalëkalimi ose çelësat e aksesit)

Vulnerability (vulnerabilitet/dobësi sigurie – pikë e pambrojtur në një program ose sistem)

Open source (me burim të hapur – softuer ose model që mund të përdoret, shqyrtohet dhe në kushte të caktuara modifikohet nga të tjerët)

Training data (të dhëna trajnimi – informacioni që përdoret për të trajnuar një model AI)

Data center (qendër të dhënash – objekt me serverë të fuqishëm që ruajnë dhe përpunojnë informacion)

Model distillation (distilim i modelit – transferim i aftësive të një modeli të madh në një model tjetër, zakonisht më të vogël)

Hardware (pajisjet fizike të kompjuterit)

Software (programet dhe sistemet informatike)

CEO – Chief Executive Officer (drejtor ekzekutiv)

CTO – Chief Technology Officer (drejtor teknik)

Frontier AI (AI e avancuar në kufijtë më të rinj të zhvillimit teknologjik)

Silicon Valley (rajoni teknologjik në Kaliforni ku janë përqendruar shumë prej kompanive më të mëdha të teknologjisë)

Black Hat (konferencë ndërkombëtare e specializuar në sigurinë kibernetike)

Reuters (agjenci ndërkombëtare e lajmeve)

Wired (revistë amerikane e specializuar në teknologji dhe kulturën dixhitale)

Forbes (revistë dhe kompani mediatike amerikane e njohur për biznesin, financat, teknologjinë dhe sipërmarrjen).

Pra, “Pichai” nuk është term teknologjik: është mbiemri i Sundar Pichai, ndërsa CEO është funksioni i tij.

Përgatiti:

PRESTIGE

Founder & Editor-in-Chief:

Liliana Pere (LP)

© Copyright 2026 — Albania Prestige Magazine

Të gjitha të drejtat e rezervuara.