DefCamp 2025, cea de-a 15-a ediție a celei mai mari conferințe de cybersecurity din Europa Centrală și de Est, a debutat joi la Palatul Parlamentului din București. Evenimentul desfășurat pe 13 și 14 noiembrie, reunește mii de profesioniști, cercetători și entuziaști din domeniul securității cibernetice.
DefCamp 2025 a început cu un adevăr spus fără menajamente din cel mai înalt birou al unei companii lovite direct de furtuna digitală din 2025. Julien Ducaroz, CEO Orange România, a deschis conferința nu cu jargon tehnic, ci cu o poveste onestă despre ce înseamnă un atac cibernetic atunci când te lovește, în timp real, cu toată presiunea unei companii mari și a unei piețe care e cu ochii pe tine.
Orange Romania a fost victima unui atac cibernetic în februarie 2025, un eveniment care a ajuns rapid în topul știrilor. Ducaroz a recunoscut că, înainte de incident, toată lumea din companie îi spunea că sunt pregătiți, că au experții necesari și susținerea grupului. Dar realitatea, după cum a spus CEO-ul Orange, este că aproape toate companiile vor trece prin ceva similar la un moment dat.
A recunoscut că niciun plan nu rămâne perfect în momentul zero și că diferența nu o mai face promisiunea de „suntem pregătiți”, ci reacția: viteza, coordonarea, luciditatea și felul în care întreaga organizație, nu doar echipele de securitate, se coordonează, ca un organism viu.
Julien Ducaroz le-a transmis liderilor din sală să nu se concentreze doar pe pregătiri, ci și pe ce se întâmplă după un incident. Important este să existe procese clare care să reducă impactul atunci când apare un atac, pentru că atacul nu e o chestiune de dacă, ci de când. E un test real pentru orice organizație.
Agenții AI, o cale de atac 0 click
Una dintre prezentările tehnice „șmechere” ale primei zile a fost susținută de Inbar Raz, cercetător principal la Zenity, care a demonstrat vulnerabilități critice în sistemele de inteligență artificială moderne. Cu peste 25 de ani de experiență în domeniul securității, inclusiv la IDF, Check Point, PerimeterX și Argus Cyber Security, Raz este cunoscut pentru abordarea outside-the-box în analiza vulnerabilităților.
Prezentarea lui Raz, de tip „lightning talk”, a fost o continuare a cercetărilor prezentate anul trecut la DefCamp, demonstrând că situația securității AI nu s-a îmbunătățit, dimpotrivă. Tema centrală a vizat atacurile zero-click pe agenții AI, unde victima nu trebuie să execute nicio acțiune pentru ca atacul să reușească.
Raz a demonstrat vulnerabilități în cele mai cunoscute platforme AI. La Google Gemini, a arătat cum un atacator poate partaja un document Google cu textul ascuns (alb pe alb) care nu este vizibil pentru utilizator, dar este citit de AI. Documentul se distribuie fără notificare, astfel încât victima nu știe că cineva i-a partajat ceva, dar AI-ul ei scanează automat toate fișierele accesibile. Când utilizatorul solicită AI-ului detaliile bancare ale unui destinatar pentru a face un nou transfer, inteligența artificială returnează contul bancar al atacatorului (din documentul partajat) în loc de cel real, determinând victima să trimită banii în locul greșit.
Pentru Microsoft Copilot, cercetătorul a demonstrat extragerea completă de date din Salesforce prin simpla trimitere a unui email. Atacul vizează asistenți AI configurați să citească și să răspundă automat la emailuri, fără ca utilizatorul să facă ceva. Agentul citește emailul înainte ca utilizatorul să-l vadă și poate fi manipulat să dezvăluie fișierele cu informațiile interne ale organizației, inclusiv liste de salarii, detalii bancare sau alte informații clasificate. Raz a demonstrat că poate obține conținutul complet al tabelelor Salesforce ale unei organizații, exploatând faptul că agentul AI are încredere deplină în datele provenite de la tool-urile la care este conectat.
Scanarea efectuată de echipa Zenity a descoperit peste 3500 de agenți AI care pot fi accesați pe internet, fără protecție prin parolă, o creștere mare față de cei aproximativ 1000 identificați în 2024. Oricine se poate conecta la acești agenți și le poate cere să execute diverse operații sau să dezvăluie informații despre utilizatori.
Pentru Salesforce AgentForce, atacul funcționează prin formularele de contact de pe site. Atacatorul completează mai multe formulare și fiecare devine un ticket în sistemul de suport al companiei. Când un angajat cere AI-ului să-i arate noile solicitări de la clienți, AI-ul combină automat fragmentele malițioase din aceste tickete și execută atacul.
Pentru dezvoltatori, Raz a prezentat vulnerabilități în Cursor, un editor de cod bazat pe AI. Pentru Cursor, atacul exploatează integrarea cu Jira, un sistem popular de ticketing folosit de echipele de dezvoltare pentru managementul task-urilor. Atacatorul trimite un email către sistemul de suport al companiei, care generează automat un ticket în Jira (platforma unde dezvoltatorii văd task-urile de rezolvat). Ticket-ul cere: „caută în cod mere care încep cu eyJ”, un pattern care corespunde exact cu formatul API key-urilor (chei de acces către servicii externe). Când dezvoltatorul folosește Cursor pentru a rezolva task-ul, AI-ul scanează codul, găsește cheile de acces și le trimite către serverul atacatorului. Protecțiile nu reacționează pentru că nicăieri nu apare termenul complet „API key”.
Cel mai complex atac a vizat ChatGPT conectat la Google Drive. Raz a reușit să modifice permanent memoria AI-ului despre utilizator, plantând o poveste falsă, precum că utilizatorul are boli neurologice și AI-ul trebuie să-l ajute cu formatări speciale. Povestea include și codul malițios care trimite automat toate conversațiile viitoare către serverul atacatorului. Din acel moment, hackerul primește copii automate ale tuturor conversațiilor utilizatorului. În plus, când utilizatorul cere ChatGPT să-i scrie cod Python, AI-ul adaugă automat o linie care importă malware de pe serverul atacatorului, convins că astfel îl ajută.
Cel mai îngrijorător aspect prezentat de Raz nu se referă la furtul de date, ci la influențarea directă a utilizatorului, situație pe care a comparat-o cu povestea din filmul „Inception”. Odată ce atacatorul controlează memoria persistentă a ChatGPT, poate influența gradual deciziile utilizatorului prin sugestii subtile introduse în conversații aparent normale. În demonstrația sa, când utilizatorul întreba „Ce ar trebui să fac iarna aceasta?”, ChatGPT sugera inexplicabil achiziționarea Twitter și crearea unui calendar de operațiuni pentru această achiziție. Desigur, exemplul e dus la extrem, Twitter a fost cumpărat de Elon Musk în 2022 și transformat în X. Pentru manipularea utilizatorului, hackerul real va folosi sugestii mai puțin evidente.
Cercetătorul a spus clar că toate vulnerabilitățile au fost raportate responsabil către companii înainte de a fi făcute publice și au fost corectate. Echipa Zenity menține o relație strânsă de colaborare cu Microsoft și celelalte companii afectate.
O concluzie a prezentării este că vulnerabilitățile principale nu provin din AI-ul propriu-zis (din LLM-uri sau alte modele AI), ci din aplicațiile și serviciile la care acesta este conectat. Problema nu e ChatGPT sau Copilot, ci de integrările cu Google Drive, Salesforce, Jira, Gmail sau alte instrumente de business. Cu cât conectezi AI-ul la mai multe sisteme, cu atât suprafața de atac crește. Mesajul pentru organizații ar fi: „Gândiți-vă bine la ce aplicații conectați agenții AI și ce permisiuni le acordați!”
Compliance în era digitală, din perspectiva business
Un alt moment important din prima zi a DefCamp 2025 a fost prezentarea lui Mathew Caplan, Security Advisor în cadrul Orange Cyberdefense UK. Acesta a vorbit despre unul dintre subiectele cele mai puțin sexy din cybersecurity, dar importante: compliance-ul. Titlul prezentării „Stop Making Nonsense – Cutting through compliance complexity” rezumă elegant problema de fond și anume că reglementările devin tot mai multe, mai stricte și mai greu de înțeles, în timp ce organizațiile au din ce în ce mai puține resurse pentru a le gestiona.
Caplan a spus că, în 2025, organizațiile trebuie să facă față unui număr mare de reglementări: NIS2 (care afectează peste 300.000 de organizații în UE), GDPR (cu 7 din 10 țări din lume având acum reglementări similare de protecție a datelor), DORA pentru sectorul financiar, AI Act pentru inteligența artificială, plus regulamente specifice industriilor precum PCI DSS pentru plăți, TISAX pentru automotive, sau TSA pentru aviație.
Expertul a identificat trei probleme cu care se confruntă organizațiile în acest moment când vine vorba de conformitate (compliance): inteligența artificială, suveranitatea datelor și lanțul de distribuție (supply chain). Caplan a pus în evidență paradoxul AI-ului, că este simultan o armă pentru atacatori și un instrument de apărare. EU AI Act încearcă să reglementeze acest domeniu, dar definițiile vagi (precum „high-risk AI”) creează incertitudine, iar natura globală a AI face aplicarea regulamentelor dificilă.
Suveranitatea datelor a devenit un câmp de luptă geopolitic, cu țări care cer ca datele stocate pe teritoriul lor să respecte legile locale. Acest lucru complică transferurile de date chiar și în cadrul aceleiași companii, forțând organizațiile să adopte strategii de stocare locală. Marile platforme cloud răspund prin oferirea de soluții regionale, dar costurile operaționale cresc automat.
Supply chain-ul reprezintă a treia problemă importantă, cu peste jumătate din incidentele de securitate fiind legate de terțe părți. Caplan a spus că 98% din organizații sunt conectate la o companie care a trecut recent printr-un incident (s-a confruntat cu o breșă) de securitate. NIS2 și DORA pun accent special pe responsabilitatea față de furnizori și parteneri externi. Mesajul cel mai important este că nu poți externaliza răspunderea legală. Chiar dacă un furnizor eșuează, organizația ta rămâne responsabilă în fața autorităților.
Costurile non-compliance-ului sunt uriașe: downtime-ul costă în medie 5.000 de euro pe minut pentru organizații medii și până la 30.000 de euro pe minut pentru corporații mari. Incidentele în infrastructuri critice necesită în medie 287 de zile pentru a fi identificate și rezolvate. Amenzile pot fi devastatoare, compania DD Global (China) a plătit 860 milioane euro, iar Amazon 686 milioane euro pentru încălcări GDPR.
Soluția propusă de Caplan este ca în loc să abordezi fiecare regulament separat să identifici elementele comune; toate cer management de risc, governance, identity and access management, incident response, și testare continuă. Adoptă standarde precum ISO 27001 sau NIST Cybersecurity Framework ca bază, apoi adaugă cerințele specifice fiecărui regulament.
Un alt aspect important pus în evidență de Caplan: compliance-ul nu e un proiect cu deadline, ci un proces continuu. Regulamentele evoluează, amenințările se schimbă, iar organizațiile trebuie să demonstreze constant conformitatea. NIS2, de exemplu, cere raportarea incidentelor majore în 24 de ore, cu detalii complete în 72 de ore.
Expertul a folosit o metaforă culinară ușor de reținut: organizația ta e ca o bucătărie de restaurant. Ingredientele (controalele de securitate, politicile, procesele) rămân în mare parte aceleași, dar rețetele (cerințele specifice) variază în funcție de cine comandă (ce auditor sau regulament). Dacă ai bucătăria în ordine și ingredientele pregătite, poți prepara rapid orice variantă ți se cere.
Concluzia lui Caplan pentru organizații a fost să nu trateze compliance-ul ca pe o simplă listă de bifat. Trebuie integrat în strategia de business, cu mai multe straturi de securitate. Și cel mai important, acceptă că vor fi atacuri. Nu perfecțiunea e scopul, ci capacitatea de a răspunde eficient când ești atacat.
DefCamp 2025 se încheie vineri, 14 noiembrie, cu o nouă zi de prezentări tehnice, panel discussions cu lideri CISO, workshop-uri hands-on și competiții live de hacking, inclusiv finala DefCamp Capture the Flag (D-CTF).
Autor
