OpenAI thotë se inteligjenca e saj artificiale u bë mashtruese dhe nisi një sulm kibernetik 'të paprecedentë'

OpenAI ka zbuluar se disa nga modelet e saj më të përparuara të inteligjencës artificiale u bënë mashtruese dhe hakuan një startup pasi humbi kontrollin mbi to gjatë një testi sigurie.

Krijuesi i ChatGPT tha se agjenti i tij - një sistem i inteligjencës artificiale që mund të veprojë vetëm pas disa udhëzimeve njerëzore - po testohej në një mjedis të kontrolluar, por gjeti dobësi dhe arriti të arratisej.

Ata shënjestruan Hugging Face, një nga qendrat më të mëdha në botë për ndarjen e modeleve të inteligjencës artificiale, duke fituar qasje në disa sisteme të brendshme të kompanisë, transmeton Telegrafi.

OpenAI tha se incidenti ishte "i paprecedentë" dhe po kryente një hetim së bashku me Hugging Face, shefi i të cilit Clement Delangue tha në një postim në X se ishte "e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome".

"Hetimi është duke vazhduar dhe ne do të ndajmë më shumë mësime nga ajo që mund të jetë incidenti i parë i këtij lloji", shtoi Delangue.

Gina Neff, drejtuese e Qendrës Minderoo për Teknologji dhe Demokraci në Universitetin e Kembrixhit, i tha programit Today të BBC Radio 4 se testet e sigurisë - të quajtura sandbox - "supozohet të jenë mjedise të sigurta ku mund të shihni se çfarë janë të afta të bëjnë modelet".

"Në këtë rast, duket sikur OpenAI nuk krijoi një sandbox mjaftueshëm të sigurt", shtoi ajo.

Në vend të kësaj, agjentët krijuan sulmin e tyre kibernetik kundër vetë sandbox-it, duke gjetur një dobësi që i lejoi ata të shpëtonin.

Pasi dolën jashtë, IA identifikoi Hugging Face si një burim të mundshëm të përgjigjeve që po kërkonin në test dhe u përpoq të fitonte qasje.

Neil Lawrence, Profesor i të mësuarit automatik në Universitetin e Kembrixhit, e quajti atë një "arritje mbresëlënëse", por paralajmëroi se "bie mirë brenda aftësive të njohura të gjeneratës aktuale" të modeleve të IA-së me fuqi të lartë.

Ai theksoi se OpenAI po kërkon të listohet në bursë dhe përballet me presion të madh nga firma rivale Anthropic, e cila ka bërë bujë me mjetin e saj të fuqishëm të IA-së, Mythos.

"OpenAI tani po përpiqet të kapë ritmin, ata po përpiqen të demonstrojnë aftësitë e sistemeve të tyre në sigurinë kibernetike."

"Kjo na tregon se OpenAI nuk është i aftë të vendosë në mënyrë të sigurt teknologjinë e vet," shtoi ai.

Në zbulimin e saj fillestar të hakimit më 16 korrik, Hugging Face tha se ende po vlerësonte nëse ndonjë e dhënë klienti ose partneri ishte prekur dhe do të kontaktonte palët e prekura nëse ishte e nevojshme.

Tha se tani ka mbyllur dobësitë e nxjerra në pah nga incidenti dhe ka rindërtuar sistemet e prekura.

"Mjetet sulmuese autonome, të drejtuara nga IA nuk janë më teorike," tha ajo.

"Mbrojtja e një platforme online tani do të thotë trajtimi i të dhënave dhe sipërfaqes së modelit si një sipërfaqe sulmi e klasit të parë, dhe përdorimi i IA-së në mbrojtje për të mbajtur ritmin. Ne do të vazhdojmë të investojmë atje dhe do të vazhdojmë të ndajmë atë që mësojmë", shtoi ajo.

Incidenti ka nxitur pyetje të reja në lidhje me aftësitë e sistemeve të përparuara të IA-së dhe nëse masat mbrojtëse ekzistuese janë të mjaftueshme ndërsa teknologjia bëhet më e fuqishme.

Spencer Starkey, një ekzekutiv në firmën e sigurisë kibernetike SonicWall, i tha BBC-së se incidenti e bëri të qartë se organizatat duhej të "rrisnin" mbrojtjen e tyre dhe "ta trajtonin rezistencën kibernetike si një përparësi kryesore operacionale".

"E vërteta e pakëndshme është se shumë organizata ende po mbrohen me shpejtësinë njerëzore, ndërsa kundërshtarët po përshkallëzohen në shpejtësinë e makinës", tha ai.

Ndërkohë, Travis Lelle, inxhinier kryesor i sigurisë në firmën konsulente të sigurisë kibernetike Guidepoint Security, tha se përditësimi shënoi një "moment të kthjellët në sigurinë kibernetike".

"Kjo nxjerr në pah një asimetri të njohur", tha ai. /Telegrafi/ ...