OpenAI pranon se inteligjenca artificiale tentoi të hakonte edhe shërbime të tjera

Kompania OpenAI ka zbuluar se sulmi kibernetik i kryer nga agjentë të rremë të ChatGPT-së shkoi përtej një kompanie të vetme.

Fillimisht mendohej se platforma Hugging Face ishte viktima e vetme e këtij sulmi të paprecedentë, por OpenAI tani pranon se modeli i saj i inteligjencës artificiale sulmoi edhe disa "shërbime të tjera të disponueshme publikisht".

Sipas kompanisë, inteligjenca artificiale identifikoi katër kredenciale të ekspozuara publikisht në internet, të cilat i përdori për të fituar qasje në katër shërbime të ndryshme.

Gjatë një takimi urgjent me qindra ekspertë të sigurisë kibernetike, Hugging Face e përshkroi incidentin si sulmin e parë plotësisht autonom të kryer nga inteligjenca artificiale. Sipas kompanisë, sistemi veproi me shpejtësi mbinjerëzore, por njëkohësisht bëri edhe gabime të pazakonta që një haker njerëzor nuk do t'i kishte bërë.

AI "arratiset" dhe sulmon një kompani - pse ky është incidenti më i rrezikshëm me inteligjencën artificiale?

Hugging Face, e cila shërben si një platformë për publikimin dhe shpërndarjen e mjeteve të inteligjencës artificiale, tha se agjentët e AI-së provuan mijëra metoda sulmi njëkohësisht dhe punuan pa ndërprerje për të depërtuar në sistemet e saj.

Kompania kishte bërë të ditur më 16 korrik se ishte sulmuar nga një sistem autonom i inteligjencës artificiale dhe e raportoi rastin tek autoritetet. Gati një javë më vonë, OpenAI pranoi se modeli i saj kishte dalë nga mjedisi i izoluar i testimit dhe kishte sulmuar në mënyrë të pavarur Hugging Face gjatë testeve të brendshme.

Në përditësimin e publikuar të mërkurën, OpenAI deklaroi se modelet e saj "identifikuan dhe përdorën kredenciale të ekspozuara publikisht në nivel llogarie në shërbime të tjera të disponueshme publikisht", duke saktësuar se bëhej fjalë për katër llogari në katër shërbime të ndryshme. Megjithatë, kompania theksoi se këto incidente nuk ishin të së njëjtës shkallë serioziteti si sulmi ndaj Hugging Face.

Ndërkohë, raporti i përgatitur nga organizata Cloud Security Alliance (CSA) pas konsultimeve me Hugging Face tregon se agjentët e AI-së shpesh ndiqnin rrugë joefikase, përsërisnin veprime që i kishin përfunduar më parë dhe herë pas here humbnin kontekstin. Megjithatë, kompania paralajmëroi se, pavarësisht këtyre dobësive, ata demonstruan aftësi teknike të avancuara dhe u përshtatën shpejt me situata të reja gjatë sulmit disaditor. /Telegrafi/ ...