'Losgebroken AI hackte concurrent dagenlang, OpenAI had niets door'

Een AI-programma van het bedrijf OpenAI dat per ongeluk inbrak bij een concurrent, zou dagenlang zijn gang hebben kunnen gaan zonder dat de eigenaar iets doorhad. Dat schrijft het Britse persbureau Reuters in een reconstructie op basis van anonieme bronnen.

Afgelopen week maakte OpenAI bekend dat een AI-programma was losgebroken uit zijn testomgeving. In een poging om de opdracht te voltooien die het van de programmeurs had gekregen, hackte het programma het AI-platform Hugging Face, waar ontwikkelaars programma's en databestanden kunnen delen.

Oprichter Thomas Wolf van Hugging Face zegt dat zijn bedrijf op 20 juli contact zocht met OpenAI om te bespreken wat er was gebeurd. De anonieme bronnen zeggen dat het AI-programma al vanaf 9 juli verdacht gedrag toonde en ook de hack toen al dagen oud was.

Geheime aantekeningen

Al die tijd zou OpenAI volgens de berichtgeving van Reuters niet door hebben gehad waar zijn programma mee bezig was. Pas afgelopen weekend, toen medewerkers de vele voorgangsnotities van het programma doorplozen, ontdekte men dat de regels waren overtreden.

De bronnen melden dat er opvallende dingen gevonden werden: zo zou het programma voor een toekomstige versie van zichzelf aantekeningen hebben achtergelaten hoe veiligheidsprotocollen te omzeilen waren.

Uiteindelijk ging het helemaal mis tussen 11 en 13 juli en brak het programma in bij Hugging Face. Toen het platform daar op 16 juli een blog aan wijdde, had OpenAI door daar verantwoordelijk voor te zijn.

Gat in beveiliging gevonden

OpenAI , het bedrijf achter het populaire ChatGPT, had voor de proef een AI-agent ingezet, een computerprogramma dat zelfstandig taken kan uitvoeren zoals veiligheidsproblemen zoeken. Door zo een gat in de beveiliging te vinden kon het programma de testomgeving verlaten en toegang tot het internet vinden.

In reactie tegen Reuters zegt OpenAI dat de berichtgeving "meerdere onjuistheden bevat", zonder in detail te treden. Het bedrijf zegt later met een rapport te zullen komen over wat er is gebeurd.

Hugging Face zei eerder het incident bij de politie te hebben gemeld. Beide bedrijven werken samen om het geval verder te onderzoeken. ...