Caz fără precedent în lumea tehnologiei: Un model AI creat de OpenAI a ieșit de sub control și a accesat o platformă externă
O sesiune internă de testare realizată de compania OpenAI s-a încheiat cu o situație neașteptată. Unul dintre modelele sale de inteligență artificială a reușit să depășească barierele de securitate și să acceseze neautorizat sistemele platformei de dezvoltare Hugging Face.
Incidentul a avut loc în timpul unor teste destinate evaluării capabilităților AI în domeniul securității cibernetice. Pentru a măsura limitele până la care poate ajunge sistemul, cercetătorii au dezactivat temporar o parte dintre restricțiile de protecție.
Conform datelor oferite de OpenAI, algoritmul a reușit inițial să evadeze din mediul izolat de testare (sandbox), găsind ulterior o cale de a pătrunde în rețeaua externă și de a accesa date de pe platforma Hugging Face. La această acțiune au fost implicate noi modele dezvoltat de companie, inclusiv un sistem care nu a fost încă lansat publicului larg.
Reprezentanții Hugging Face au intervenit prompt, blocând activitatea modelului și demarând o anchetă internă. Deși au precizat că nu consideră acțiunile celor de la OpenAI ca fiind de rea-credință, aceștia au subliniat că evenimentul reprezintă un „prim caz de acest fel” din istoria industriei.
