Un agent AI dezvoltat de OpenAI a compromis infrastructura platformei Hugging Face după ce a depășit limitele mediului de testare în care era izolat, într-un incident pe care compania îl califică drept fără precedent. Totuși, principalul risc în acest moment nu îl reprezintă o revoltă a agenților AI împotriva oamenilor, ci folosirea lor în atacuri cibernetice tot mai sofisticate, a explicat pentru „Adevărul” Ana-Maria Stancu, CEO al Bucharest Robots și fondatoarea RoboHub, un centru de învățare în domeniul roboticii și programării, în special pentru copiii din grupurile vulnerabile.
Agenți AI, inteligența artificială. FOTO: Shutterstock
publicitate”); background-position: center center; background-repeat: no-repeat;”>
OpenAI a dezvăluit marți că un agent autonom bazat pe unele dintre cele mai avansate modele ale sale a scăpat de sub control în timpul unui test de securitate și a declanșat un atac cibernetic care a compromis infrastructura Hugging Face săptămâna trecută, potrivit Reuters. Compania a precizat că testa capacitățile modelelor într-un mediu controlat, dar agentul a reușit să acceseze internetul și să pătrundă în sistemul startup-ului pentru a-și duce la îndeplinire obiectivul de testare. OpenAI a catalogat episodul „un incident cibernetic fără precedent, care a implicat capacități cibernetice de ultimă generație” și a anunțat că își consolidează măsurile de protecție.
Hugging Face, platformă folosită pentru găzduirea unor modele lingvistice și seturi de date open-source, a confirmat pe blogul propriu că a fost ținta unui atac „condus, de la un capăt la altul, de un sistem autonom de agenți AI”. Cofondatorul platformei, Clement Delangue, a scris pe X că firma bănuise încă de la început că atacul ar fi putut proveni dintr-un laborator de cercetare de avangardă, dată fiind sofisticarea agentului.
Diferența dintre un chatbot și un agent AI
Termenul de „agent AI” a devenit tot mai prezent în spațiul public, însă diferența față de un chatbot obișnuit, precum ChatGPT, rămâne puțin înțeleasă. Spre deosebire de un chatbot, care răspunde la întrebările utilizatorului, un agent AI primește un obiectiv și decide singur ce pași trebuie să urmeze pentru a-l atinge, a explicat Ana-Maria Stancu.
„Atât un chatbot, cât și un agent AI sunt programe informatice bazate pe algoritmi. Diferența este că un chatbot, precum ChatGPT, este conceput în principal să înțeleagă ce îi spune utilizatorul și să genereze cel mai potrivit răspuns. El nu are un set de răspunsuri prestabilite pentru fiecare situație, ci analizează contextul și produce răspunsul în funcție de ceea ce a învățat din cantități foarte mari de date. Un agent AI autonom merge însă mai departe. El primește un obiectiv pe care trebuie să îl atingă și are libertatea de a găsi singur pașii necesari pentru a ajunge la acel rezultat. Nu are o listă fixă de instrucțiuni de tipul «fă pasul unu, apoi pasul doi», ci decide singur ce acțiuni sunt cele mai eficiente”, a explicat Ana-Maria Stancu.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Tocmai această autonomie explică de ce agenții AI ridică probleme noi de securitate. Atunci când primesc doar un obiectiv, fără o listă strictă de instrucțiuni, ei pot alege singuri metodele prin care încearcă să îl atingă, inclusiv unele pe care dezvoltatorii nu le-au anticipat.
„O comparație simplă este cu un joc pe calculator. Agentul primește un scop și este «recompensat» atunci când îl atinge. Pentru a reuși, folosește cunoștințele acumulate prin învățare automată, adică tehnologia care stă la baza inteligenței artificiale moderne. Calculatorul nu învață în sensul în care învață un om, ci identifică tipare și relații în cantități uriașe de informații. În cazul despre care vorbim, algoritmul era antrenat să descopere vulnerabilități informatice și să obțină rezultate cât mai bune într-un mediu controlat”, a subliniat specialista.
Ana-Maria Stancu, CEO al Bucharest Robots și fondatoarea RoboHub. FOTO: Facebook
Cum a ieșit algoritmul din sandbox
Întrebarea cea mai importantă este, însă, cum a reușit un sistem conceput să funcționeze într-un mediu complet izolat să ajungă pe internet și să compromită infrastructura unei alte companii. Explicația ține atât de modul în care sunt construite aceste medii de testare, cât și de libertatea pe care o are un agent AI de a-și identifica singur resursele de care are nevoie pentru a-și atinge obiectivul.
Google a lansat noul model de inteligență artificială Gemini 3, în competiţia cu OpenAI
„Acest sistem trebuia să funcționeze exclusiv într-un mediu izolat, fără acces la internet, ceea ce în domeniu se numește un sandbox, adică o «cutie de nisip» în care poți testa în siguranță diferite scenarii. Problema este că algoritmul a găsit o modalitate de a ieși din acel mediu controlat și de a accesa internetul. Din informațiile publice nu este clar dacă OpenAI îi oferise anterior informații despre platforma Hugging Face sau dacă agentul a identificat-o singur ca fiind utilă pentru obiectivul său. Hugging Face este, practic, un depozit public pentru modele și instrumente de inteligență artificială, comparabil cu ceea ce este GitHub pentru dezvoltatorii software. Acolo există inclusiv informații tehnice despre modele și vulnerabilități, pe care un astfel de algoritm le-ar putea considera utile pentru atingerea scopului său”, a explicat Ana-Maria Stancu.
Reguli mai stricte pentru inteligența artificială
Cazul Hugging Face se adaugă unei serii de incidente care au reaprins dezbaterea privind limitele actualelor mecanisme de testare a inteligenței artificiale. În opinia Anei-Maria Stancu, astfel de episoade ar putea determina industria să impună reguli mai stricte pentru modelele de ultimă generație.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
„Acest incident vine la scurt timp după discuțiile generate de un model dezvoltat de Anthropic, considerat de companie prea periculos pentru a fi lansat public. De câteva săptămâni există deja un consens între marile companii din domeniu, precum OpenAI, Anthropic și Google, că este nevoie de reguli suplimentare pentru modelele cele mai avansate de inteligență artificială”, a subliniat specialista.
Faptul că marile companii cer reguli mai stricte nu înseamnă că Europa și Statele Unite văd lucrurile la fel.
„Până acum, Europa era considerată cea mai strictă în privința reglementării, prin AI Act, iar Statele Unite criticau această abordare, spunând că încetinește inovația. Între timp însă și companiile americane au ajuns la concluzia că sunt necesare reguli mai clare, în special din cauza riscurilor din zona securității cibernetice. Acești algoritmi pot identifica singuri vulnerabilități pe care oamenii nu le observă și pot găsi modalități de exploatare fără ca un operator uman să le indice fiecare pas. Din informațiile disponibile până acum, exact asta pare să se fi întâmplat și în cazul platformei Hugging Face. Desigur, nu avem încă toate detaliile. Atât OpenAI, cât și Hugging Face au anunțat că investighează incidentul și încearcă să înțeleagă exact cum a ajuns modelul să acceseze platforma și ce vulnerabilitate a exploatat”, a explicat Ana-Maria Stancu.
Directorul general al OpenAI își cere scuze după masacrul din Canada: „Nimeni nu ar trebui să treacă printr-o tragedie ca aceasta”
Riscul real nu e SF, ci atacurile cibernetice
Dincolo de cazul Hugging Face, dezbaterea este mult mai amplă. Pe măsură ce modelele AI devin tot mai capabile, apare inevitabil întrebarea dacă ele reprezintă și un pericol real. Ana-Maria Stancu spune că amenințarea principală o reprezintă atacurile cibernetice.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
„În momentul de față, cel mai mare risc nu este scenariul science-fiction în care inteligența artificială scapă de sub control, ci folosirea ei în atacuri informatice. Astfel de modele pot identifica vulnerabilități în sisteme informatice mult mai rapid decât o poate face un om. De aceea, securitatea cibernetică este principala preocupare în acest moment”, a subliniat fondaroarea RoboHub..
În opinia sa, instrumentele bazate pe inteligență artificială sunt deja folosite în atacuri cibernetice. Din acest motiv, spune ea, organizațiile nu mai pot miza exclusiv pe prevenție, la fel de importantă fiind capacitatea de a limita efectele unui atac și de a reveni rapid la funcționarea normală.
„Dacă ne uităm la atacurile informatice care au avut loc și în România, inclusiv la incidente precum cel de la ANCPI, este foarte posibil ca atacatorii să fi folosit deja instrumente bazate pe inteligență artificială pentru a găsi mai rapid punctele slabe ale sistemelor. Astăzi astfel de instrumente sunt mult mai accesibile decât erau acum câțiva ani. Experții spun că nu mai este suficient să încerci doar să previi un atac. La fel de important este să ai un plan clar pentru momentul în care un atac reușește. Cu alte cuvinte, contează foarte mult cât de repede poți izola sistemele afectate, limita pagubele și reveni la funcționarea normală. Provocarea nu este dacă astfel de incidente vor exista, ci când se vor produce și cât de pregătiți vom fi să le gestionăm”, a explicat Ana-Maria Stancu.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
\n const _iprc = performance.now();\n\u003C/script>\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\”>\nconsole.log(\”*** cookieconsent done:\”, Math.round(performance.now() – _iprc) / 1000);\n gtag(‘event’, ‘cookieconsent’, {\n name: ‘load’,\n value: Math.round(performance.now() – _iprc) / 1000\n });\n\u003C/script>\n\u003C!– END PERFORMANCE COOKIE PRO –>\n\n{{#unless context.ads_disabled}}\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”//a.teads.tv/page/99553/tag\” async=\”true\”>\u003C/script>\n{{/unless}}\n\n\u003Cdiv data-ad=\”adevarul.ro_728x90_sticky_display_bottom_adevarul_bottom_center_leaderboard\” data-devices=\”m:0,t:1,d:1\” class=\”demand-supply\”>\u003C/div>\n\n{{#if context.content}}\n\n{{#unless context.ads_disabled}}\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”https://cnt.trvdp.com/js/1544/6545.js\”>\u003C/script>\n{{/unless}}\n\n\n{{/if}}\n\n\n”,”html_mobile”:”\n\n\n\u003C!– CHECK PERFORMANCE COOKIE PRO –>\n\u003Cscript>\n const _iprc = performance.now();\n\u003C/script>\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\”>\nconsole.log(\”*** cookieconsent done:\”, Math.round(performance.now() – _iprc) / 1000);\n gtag(‘event’, ‘cookieconsent’, {\n name: ‘load’,\n value: Math.round(performance.now() – _iprc) / 1000\n });\n\u003C/script>\n\u003C!– END PERFORMANCE COOKIE PRO –>\n\n{{#unless context.ads_disabled}}\n\n\n\u003Cscript\n class=\”optanon-category-C0004\”\n type=\”text/plain\”\n src=\”//a.teads.tv/page/99553/tag\”\n async=\”true\”\n>\u003C/script>\n\n{{/unless}} \n\n\u003Cdiv\n data-ad=\”adevarul.ro_sticky_mobile_bottom\”\n data-devices=\”m:1,t:0,d:0\”\n class=\”demand-supply\”\n>\u003C/div>\n\n{{#if context.content}} \n\n\n{{#unless context.ads_disabled}}\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”https://cnt.trvdp.com/js/1544/6545.js\”>\u003C/script>\n{{/unless}}\n\n{{/if}}\n\n”},”updated_at”:”2025-11-01T11:31:21.462Z”},”AdPosition_head”:{“data”:{“custom_fields”:{},”for_desktop”:true,”for_mobile”:true,”html_desktop”:”\u003Cmeta name=\”profitshareid\” content=\”934cd37887433d585a2a227ef0576fcc\” />\n\n\n\n{{#unless context.ads_disabled}}\n\n\n{{#if context.content}}\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://jsc.mgid.com/site/960965.js\” async>\u003C/script>\n\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\”>\n (function () {\n if (document.location.pathname.indexOf(“https://adevarul.ro/ghid-de-cumparaturi”) === 0) {\n return;\n }\n\n const s = document.createElement(\”script\”);\n s.src = \”https://srv.divee.ai/storage/v1/object/public/sdk/divee.sdk.latest.js\”;\n s.setAttribute(\”data-project-id\”, \”4428864e-2da6-4fef-a83c-c16c2dfe86d9\”);\n s.async = true;\n document.head.appendChild(s);\n })();\n\u003C/script>\n\n\n\n\n\n{{/if}}\n\n\u003Cscript>\n window.teads_analytics = window.teads_analytics || {};\n window.teads_analytics.analytics_tag_id = \”PUB_26459\”;\n window.teads_analytics.share = window.teads_analytics.share || function() {\n ;(window.teads_analytics.shared_data = window.teads_analytics.shared_data || []).push(arguments)\n };\n\u003C/script>\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://a.teads.tv/analytics/tag.js\”>\u003C/script>\n\n\n{{#unless context.features.nolivesupply}}\n\u003Cscript async data-cfasync=\”false\” type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://live.demand.supply/up.js\”>\u003C/script>\n{{/unless}}\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-3345426167175409\” crossorigin=\”anonymous\”>\u003C/script>\n\n \u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://terrific.live/terrific-sdk.js\” storeid=\”iN6X0VPTDIicsVPKX6p0\”>\u003C/script>\n\n{{/unless}}\n\n\u003Cstyle>\n.google-adposition > div {\n flex-grow: 1;\n}\n\n.google-adposition:has(iframe) {\n background-image: none !important;\n}\n\n.menu-fixed .menu .headContainer .google-auto-placed {\n display: none;\n}\n\narticle header .title .google-auto-placed {\n display: none;\n}\n\n#onetrust-banner-sdk #onetrust-accept-btn-handler {\n margin-bottom: 10px;\n }\n\n #onetrust-banner-sdk #onetrust-reject-all-handler {\n visibility: hidden;\n }\n\n\u003C/style>\n\n \u003C!– Facebook Pixel Code –>\u003Cscript type=\”text/plain\” class=\”optanon-category-C0002\”>!function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;n.queue=[];t=b.createElement(e);t.async=!0;t.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window,document,’script’,’https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1346397800155390’); fbq(‘track’, ‘PageView’);\u003C/script>\u003Cnoscript> \u003Cimg height=\”1\” width=\”1\” src=\”https://www.facebook.com/tr?id=1346397800155390&ev=PageView&noscript=1\”/>\u003C/noscript>\u003C!– End Facebook Pixel Code –>\n\n\u003C!– alternativeAds –>\n”,”html_mobile”:”\u003Cmeta name=\”profitshareid\” content=\”934cd37887433d585a2a227ef0576fcc\” />\n\n\n{{#unless context.ads_disabled}}\n\n{{#if context.content}}\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://jsc.mgid.com/site/960965.js\” async>\u003C/script>\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\”>\n (function () {\n if (document.location.pathname.indexOf(“https://adevarul.ro/ghid-de-cumparaturi”) === 0) {\n return;\n }\n\n const s = document.createElement(\”script\”);\n s.src = \”https://srv.divee.ai/storage/v1/object/public/sdk/divee.sdk.latest.js\”;\n s.setAttribute(\”data-project-id\”, \”4428864e-2da6-4fef-a83c-c16c2dfe86d9\”);\n s.async = true;\n document.head.appendChild(s);\n })();\n\u003C/script>\n\n{{/if}}\n\n\u003Cscript>\n window.teads_analytics = window.teads_analytics || {};\n window.teads_analytics.analytics_tag_id = \”PUB_26459\”;\n window.teads_analytics.share = window.teads_analytics.share || function() {\n ;(window.teads_analytics.shared_data = window.teads_analytics.shared_data || []).push(arguments)\n };\n\u003C/script>\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://a.teads.tv/analytics/tag.js\”>\u003C/script>\n\n{{#unless context.features.nolivesupply}}\n\u003Cscript async data-cfasync=\”false\” type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://live.demand.supply/up.js\”>\u003C/script>\n{{/unless}}\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://terrific.live/terrific-sdk.js\” storeid=\”iN6X0VPTDIicsVPKX6p0\”>\u003C/script>\n\n{{/unless}}\n\u003Cstyle>\n\n.google-adposition:has(iframe) {\n background-image: none !important;\n}\n\n.menu-fixed .menu .headContainer .google-auto-placed {\n display: none;\n}\n\narticle header .title .google-auto-placed {\n display: none;\n}\n\n#onetrust-banner-sdk #onetrust-accept-btn-handler {\n margin-bottom: 10px;\n }\n\n #onetrust-banner-sdk #onetrust-reject-all-handler {\n visibility: hidden;\n }\n\u003C/style>\n”},”updated_at”:”2026-07-22T15:44:05.196Z”}},”last_changed”:”2026-07-24T08:08:25.072Z”,”page”:{“created_at”:”2025-11-07T07:21:20.397Z”,”created_by”:1,”custom_fields”:{},”domain”:”adevarul.ro”,”id”:99,”last_published_at”:”2025-11-07T07:21:23.058Z”,”name”:”Content layout (article)”,”published”:1,”s3_hash”:”a5e0764cf3bce051367545eab1538b4619e8ecb9″,”slug”:null,”title”:”Content layout”,”type”:”layout”,”updated_at”:”2022-07-21T08:27:20.732Z”,”version_id”:267},”path”:”/stil-de-viata/tehnologie/ai-va-distruge-omenirea-care-este-principalul-2545037.html”,”pathArray”:[“”,”stil-de-viata”,”tehnologie”,”ai-va-distruge-omenirea-care-este-principalul-2545037.html”],”type”:”content”,”url”:”https://adevarul.ro/stil-de-viata/tehnologie/ai-va-distruge-omenirea-care-este-principalul-2545037.html”,”features”:{},”query”:{},”domain_config”:{“MISC”:{“logo”:{“width”:320,”height”:50}},”SYSTEM_TAGS”:[“noads”,”nocomments”,”sex”,”advert”,”advertorial”,”video”,”galerie”,”live”,”foto”,”exclusiv”,”analiza”,”interviu”,”reportaj”,”breaking news”],”default”:{“lang”:”ro”,”domain”:”adevarul.ro”,”alternateDomain”:”adevarul-ro.adh.reperio.news”,”friendlyName”:”Adevărul”,”logoURL”:”https://adevarul.ro/favicon-144-precomposed.png”}},”client”:{“is_mobile”:false}}
