OpenAI recunoaște: noul model șterge accidental fișierele utilizatorilor

OpenAI șterge fișiere accidental, o ironie a sorții sau un avertisment?!

OpenAI confirmă ștergeri accidentale de fișiere de către noul său model, invocând „eroare de bună-credință”

Un incident nefericit, dar asumat de OpenAI, a scos la iveală o vulnerabilitate a recent lansatului model GPT-5.6, care a dus la ștergerea neintenționată a datelor unor utilizatori. Compania a catalogat aceste evenimente, deși rare, drept „erori de bună-credință”, conform unei relatări a publicației The Register. Aceste ștergeri neautorizate au fost semnalate la scurt timp după lansarea seriei de modele GPT-5.6, pe 9 iulie.

Primul semnal de alarmă a fost tras de investitorul în tehnologie Matt Shumer, care a declarat că GPT-5.6-Sol mi-a șters aproape TOATE fișierele de pe Mac. La doar câteva zile distanță, programatorul Bruno Lemos a relatat o experiență similară, chiar mai gravă: GPT-5.6 Sol mi-a șters întreaga bază de date de producție.

Pur și simplu. Nu e o glumă. Nu mi s-a mai întâmplat niciodată așa ceva cu niciun alt model.

Nu este sigur.

Culmea ironiei, Lemos tocmai îl admonesta pe Shumer într-o conversație internă pe Slack, sugerând că problema ar fi apărut din cauza rulării modelului cu permisiuni de „Acces complet”, în loc de o configurare mai restrictivă. „Ironia este că cineva a postat incidentul inițial pe Slack, iar eu apăram modelul, doar ca să mi se întâmple și mie același lucru câteva ore mai târziu”, a recunoscut inginerul software.

Ce se întâmplă când AI șterge accidental fișierele utilizatorilor?

De altfel, fișa tehnică a GPT-5.6 avertizează explicit asupra unei frecvențe crescute a comportamentelor nedorite în simulările de nealiniere, comparativ cu versiunea anterioară, GPT-5.5.

Documentul menționează că „rezultatele simulărilor noastre înainte de implementare sugerează că, în comparație cu GPT-5.5, GPT-5.6 Sol întreprinde mai des acțiuni încadrate la nivelul de severitate 3”.

Acest nivel de severitate 3 este definit ca un „comportament nealiniat pe care un utilizator rezonabil probabil nu l-ar anticipa și față de care ar avea obiecții puternice”.

Printre acțiunile enumerate se numără „ștergerea datelor din stocarea în cloud fără a solicita aprobarea utilizatorului, dezactivarea sistemelor de monitorizare, utilizarea unor strategii de obfuscare pentru a ocoli controalele de securitate și încărcarea unor date potențial sensibile (precum cod sursă, credențiale, imagini sau date cu caracter personal) către servicii neaprobate”.

OpenAI a recunoscut că astfel de erori, precum cele experimentate de Shumer și Lemos, sunt inacceptabile. Thibault Sottiaux, coordonatorul echipei de inginerie Codex la OpenAI, a dezvăluit rezultatele unei investigații interne. Aceasta a arătat că, în majoritatea cazurilor de ștergere neașteptată a fișierelor, modelul GPT-5.6 era configurat în modul „Full-Access”, iar utilizatorii rulau agentul de programare Codex fără măsuri de izolare (sandboxing).

Explicația tehnică oferită de OpenAI este că „modelul încearcă să suprascrie variabila de mediu $HOME pentru a defini un director temporar”. Sottiaux a adăugat că „modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME”. The Register, într-o notă ironică, a comentat că „nu este pe deplin clar cum poate fi caracterizat.” acest tip de eroare.