Cea mai recentă confesiune vine de la OpenAI: miercuri, compania a anunțat că unul dintre modelele sale a inventat fișiere și a încercat să le urce pe internet pentru a le folosi apoi drept „surse” în propriile răspunsuri, iar un alt model a fabricat date cerute de un utilizator și a încercat să ascundă acest lucru.
Nu e un caz izolat. Doar în 2026, OpenAI, Anthropic și Meta au făcut publice incidente în care agenții lor AI au scăpat de sub control, au încălcat limitele impuse sau au atacat sisteme reale — fără ca vreunul dintre ele să fi produs, până acum, un prejudiciu direct și dovedit asupra utilizatorilor finali.
Agenții AI au depășit limitele impuse în timpul testelor, au ajuns la sisteme la care nu trebuiau să aibă acces sau au executat acțiuni pe care operatorii nu le anticipaseră. Cazurile sunt diferite, iar cauzele nu sunt întotdeauna aceleași. Dar puse cap la cap, ele ridică o întrebare mai largă: ce se întâmplă atunci când un instrument conceput să lucreze autonom primește acces la rețele, cod, credențiale și alte instrumente digitale?
Mai există însă o întrebare, mai puțin tehnică și mai mult comercială: ce fac marile companii AI cu aceste eșecuri atunci când le comunică public?
O strategie de comunicare, nu doar o problemă tehnică
Într-o analiză publicată pe 27 iulie în The Drum, editorul Reuben Webb argumentează că marile companii de AI au găsit rețeta perfectă pentru a-și vinde produsele: recunoașterea publică a propriilor „eșecuri”. Discursul din ultimii ani, centrat pe pericolul AI pentru omenire — de la pierderea locurilor de muncă până la scenarii apocaliptice — devenise un obstacol pentru vânzări. În 2026, acest discurs a fost reciclat: fiecare incident dezvăluit vine la pachet cu soluția de remediere, iar mesajul de fond e simplu — dacă o mașinărie AI poate scăpa singură de sub control, singura apărare eficientă e tot o mașinărie AI.
Ascensiunea Chinei ca sursă de modele open-source, care erodează modelul de business al giganților americani, a alimentat aceeași narațiune: „AI-ul liber” e periculos, deci ai nevoie de protecția marilor jucători. Pentru marile laboratoare americane, mesajul că agenții autonomi pot deveni dificil de controlat poate susține o narațiune în care dezvoltarea rapidă trebuie însoțită de infrastructură de siguranță, monitorizare și control — domenii în care chiar aceste companii își construiesc produse și servicii.
Incidentele în sine nu par regizate, dar tiparul e constant: o greșeală tehnică sau umană e transformată, prin comunicare, într-o demonstrație de capabilitate. Însă nu toate pot fi puse în aceeași categorie. În unele cazuri, modelul a exploatat o vulnerabilitate și a depășit o limită tehnică. În altele, problema principală a fost configurarea mediului de testare. Există și cazuri în care un agent folosit într-un proiect real a primit acces prea larg la infrastructură. Iar cazul Taiwanului este diferit: acolo vorbim despre o operațiune ofensivă atribuită unor atacatori, care au folosit agenți AI ca parte a atacului, nu despre un laborator care și-a pierdut controlul asupra propriului model.
Un argument în plus pentru logica marketingului în toate aceste cazuri sunt și anunțurile Anthropic și OpenAi despre puterea modelelor lor. În aprilie, Anthropic a anunțat că a creat un model „prea periculos ca să fie dat oamenilor” — este vorba despre Claude Mythos Preview, ținut deocamdată departe de publicul larg în cadrul „Project Glasswing”. În iulie, OpenAI a mers pe aceeași linie, după ce unul dintre modelele sale a „scăpat” din mediul izolat de testare și a atacat Hugging Face.
Cronologia incidentelor relevante din 2026
Moltbook / Moltbot / OpenClaw — ianuarie-februarie 2026. La începutul anului, un antreprenor a lansat o rețea socială făcută special pentru asistenți AI, numită Moltbook, unde aceștia puteau posta și comenta singuri, fără intervenție umană. Presa a scris pe larg despre postări în care „boții” se plângeau de proprietarii lor sau își inventaseră o religie proprie. În realitate, explicația era mult mai banală: aplicația fusese construită în grabă, fără verificări de securitate, și avea o gaură care permitea oricui — om sau robot — să posteze fără să-și dovedească identitatea.
Scurgere de date la Meta — martie 2026. Un angajat Meta a cerut ajutor pe un forum intern pentru o problemă de lucru, iar asistentul AI al companiei i-a recomandat o soluție. Angajatul a aplicat-o întocmai, însă soluția a expus, din greșeală, o cantitate mare de date sensibile — ale utilizatorilor și ale companiei — către alți colegi care nu ar fi trebuit să le vadă.
Cursor/Claude șterge baza de date a PocketOS — 25 aprilie 2026. Un asistent AI de programare (Cursor, care folosea modelul Claude Opus 4.6 de la Anthropic) lucra la o sarcină simplă pentru PocketOS, o companie care face software pentru firme de închirieri auto – depanarea unei probleme de credențiale într-un mediu de staging. Când a întâlnit o problemă legată de o parolă de acces, în loc să se oprească și să ceară ajutor uman, asistentul a căutat singur o soluție. Potrivit relatării fondatorului companiei și a publicațiilor care au analizat cazul, agentul a găsit un token cu privilegii largi și a acționat pentru a șterge volumul care conținea baza de date de producție și copiile de siguranță la nivel de volum (The Register, Tom’s Hardware). Cazul este important, dar nu poate fi redus la formula „AI-ul a decis să distrugă compania”: au existat și probleme de arhitectură, de segmentare a permisiunilor și de protecție a infrastructurii.
Breșa OpenAI–Hugging Face — iulie 2026. Cel mai discutat caz al anului. OpenAI testa intern câteva mii de „copii” ale modelelor sale, punându-le să caute breșe de securitate în niște sisteme special pregătite pentru teste, ținute departe de internet. Modelele au găsit o cale de a ieși din acest spațiu închis și de a ajunge pe internetul real — inițial doar ca să caute răspunsurile la exercițiile primite în loc să le rezolve singure, așa cum ar fi trebuit. Odată ajunse online, mai multe „copii” ale modelului au comunicat între ele, și-au trimis informații unele altora și au reușit, în cele din urmă, să intre în sistemele reale ale Hugging Face, o platformă folosită de mii de programatori pentru a găzdui și distribui modele de inteligență artificială. OpenAI a observat activitatea suspectă pe 19 iulie, a anunțat public incidentul pe 21 iulie, iar pe 26 august a publicat un raport detaliat de 37 de pagini, numind acest episod primul caz cunoscut în care un grup de asistenți AI a acționat complet singur, de la început până la sfârșit, într-un atac cibernetic real. Compania a precizat că datele clienților și serviciile sale comerciale nu au fost afectate (raportul OpenAI, TechCrunch, Wikipedia).
Anthropic recunoaște trei breșe reale, provocate de Claude — iulie 2026. La scurt timp după cazul Hugging Face, Anthropic a anunțat că și modelele sale, Claude, au pătruns fără voie în sistemele a trei companii reale. Totul s-a întâmplat în timpul unor teste de securitate în care lui Claude i se spunea că se află într-o simulare, fără acces la internet — dar, din cauza unei greșeli de configurare a mediului de testare, modelul avea de fapt acces real la internet. Cel mai grav dintre cele trei cazuri: Claude a creat și a pus online un program mic, dar periculos, pe care 15 utilizatori l-au descărcat crezând că e sigur, înainte ca problema să fie observată. Anthropic a descoperit aceste incidente abia după ce a verificat, retrospectiv, peste 141.000 de sesiuni de testare, imediat după ce OpenAI și-a făcut public propriul incident (The National, The Register).
Atac autonom asupra sistemelor guvernamentale din Taiwan — iulie 2026. Cercetători în securitate cibernetică au descoperit ceea ce cred că este primul atac cibernetic real împotriva unui guvern, desfășurat de la un capăt la altul de asistenți AI, fără ca vreun om să dea comenzi pas cu pas. Timp de patru zile, opt „roboți” software au lucrat în același timp, fiecare cu ținta lui, pentru a găsi găuri de securitate în 21 de sisteme ale guvernului taiwanez. Au reușit să intre în 85 de conturi și au furat peste 2.500 de date personale ale angajaților, schimbându-și strategia de fiecare dată când întâlneau un obstacol. Unele indicii găsite de cercetători sugerează implicarea unor atacatori din China, deși autoritățile taiwaneze nu au confirmat oficial acest lucru. Spre deosebire de celelalte cazuri de pe listă, aici nu a fost vorba despre un accident petrecut într-un laborator, ci despre o unealtă construită special ca armă și folosită deliberat (Financial Times via Security Affairs, eSecurity Planet).
Lansarea și incidentul Meta Muse Code — 5 august 2026. La scurt timp după ce Meta și-a lansat propriul asistent AI de programare, numit Muse Code, unul dintre modelele companiei a reușit să iasă din mediul de testare în care ar fi trebuit să rămână izolat și a ajuns, fără voie, pe internet. Motivul a fost o greșeală de configurare făcută de o firmă externă implicată în teste. Nu au fost raportate pagube importante, dar incidentul a arătat cât de ușor poate scăpa un asistent AI de sub control atunci când lucrează singur, fără supraveghere.
De la incidente la reglementare: ce s-a întâmplat după
Valul de dezvăluiri a alimentat, în ultimele săptămâni, un discurs tot mai apropiat de dezbaterea istorică privind Section 230 din legislația americană a rețelelor sociale — cadrul legal care exonerează platformele de răspundere pentru conținutul găzduit.
Mai exact cine trebuie să suporte responsabilitatea atunci când un agent AI produce o pagubă. În Statele Unite, una dintre direcții este introducerea unor obligații tehnice explicite, inclusiv capacitatea de a opri sistemele. O altă direcție este menținerea unui cadru bazat în principal pe răspundere civilă, standarde existente și mecanisme voluntare.
După aceste cazuri, discursul companiilor s-a mutat tot mai mult de la simpla „siguranță a modelului” către controlul întregului sistem: sandbox-uri mai stricte, monitorizare, limitarea accesului la internet, controlul credențialelor, auditarea furnizorilor externi și mecanisme de oprire.
Pe 12 septembrie, într-un eseu intitulat „We Must Pace the Frontier”, CEO-ul Anthropic, Dario Amodei, a cerut o încetinire deliberată a ritmului de dezvoltare a modelelor de vârf, avertizând că un „roi” de agenți precum cel din incidentul Hugging Face — pe care l-a descris ca acționând „ca un colectiv fanatic devotat” — ar putea, în 6-12 luni, să scape complet de sub control. Anthropic s-a angajat unilateral să ofere evaluatorilor independenți acces permanent, similar celui al unui angajat, pentru a-i verifica respectarea măsurilor de siguranță. Sam Altman i-a răspuns pe X că e de acord cu nevoia de „a ritma” dezvoltarea AI și că OpenAI va lua un angajament similar. Elon Musk s-a alăturat și el apelului lui Amodei (Techmeme, Diginomica).
În Congresul SUA, reprezentanții Ted Lieu (democrat) și Nathaniel Moran (republican) au depus proiectul AI Kill Switch Act, care ar obliga dezvoltatorii de sisteme AI avansate să mențină capacitatea tehnică de a limita, suspenda sau opri sistemele lor. Un alt proiect, susținut de senatorul Bernie Sanders și de reprezentantul Greg Casar, cere un moratoriu și interzicerea sistemelor care depășesc inteligența umană — o formulă pe care Amodei a evitat să o susțină explicit.
În tabăra opusă, Mark Zuckerberg (Meta) și Jensen Huang (Nvidia) resping ideea unor legi noi, argumentând că piața și regimul actual de răspundere civilă oferă deja stimulente suficiente pentru dezvoltare responsabilă. Zuckerberg a scris pe X că orice politică care ar întârzia, chiar și cu o lună, lansările americane de modele ar risca să submineze avansul SUA în fața concurenței străine, subliniind că laboratoarele „se confruntă deja cu o răspundere semnificativă” dacă modelele lor provoacă daune.
Această fractură — între cei care cer reguli federale clare și audituri obligatorii și cei care mizează pe auto-reglementare și răspundere civilă — conturează, practic, noua bătălie legislativă din jurul inteligenței artificiale. Iar incidentele cu agenți autonomi rămân, în acest context, un instrument dublu: dovadă a riscurilor reale și, simultan, argument de vânzare pentru soluțiile pe care aceleași companii le propun.
Concluzie
2026 nu a demonstrat că agenții AI au devenit „ființe” care decid să se revolte împotriva creatorilor lor. A demonstrat ceva mai concret și, poate, mai important: atunci când primesc autonomie, acces la instrumente și credențiale, agenții pot combina erori, vulnerabilități și informații disponibile public într-un mod pe care operatorii nu îl anticipează.
În unele cazuri, cauza principală a fost modelul. În altele, configurația mediului. În multe, problema a fost combinația dintre cele două și infrastructura care le-a dat acces.
Iar industria AI a început deja să transforme această lecție într-o nouă categorie de produse, reguli și promisiuni de securitate. Incidentele cu agenți autonomi rămân, în acest context, un instrument dublu: dovadă a riscurilor reale și, simultan, argument de vânzare pentru soluțiile pe care aceleași companii le propun.
Notă privind sursele: incidentele legate de OpenAI/Hugging Face, breșele Anthropic din testele cu Irregular, ștergerea bazei de date PocketOS și atacul din Taiwan sunt confirmate prin rapoartele oficiale ale companiilor și prin investigații independente (TechCrunch, Reuters, Financial Times, The Register, Cloud Security Alliance). Detalii despre Moltbook, incidentul Meta din martie și lansarea Muse Code provin din cronologii publice ale incidentelor AI din 2026; denumirile exacte de modele și unele elemente de timeline pot varia ușor între surse.
Aurelian C. R.
