Evenimentul Horizons 2026, desfășurat recent la Roma, a adus în prim-plan impactul agenților inteligenței artificiale (AI) asupra securității cibernetice. Experții prezenți la conferință au subliniat că aceste tehnologii avansate transformă radical peisajul atacurilor cibernetice, facilitând accesul la capabilități care anterior erau rezervate doar celor cu expertiză avansată. Această democratizare a instrumentelor de atac ridică semne de întrebare cu privire la controlul și reglementarea utilizării lor.
Luana Lo Piccolo, consilier senior în drept tehnologic și guvernanță AI, a evidențiat o schimbare fundamentală în natura riscurilor digitale. Aceasta a explicat că agenții AI nu doar că generează conținut, ci și execută acțiuni autonome, ceea ce complică responsabilitatea și gestionarea riscurilor asociate. „Problema nu mai este ce spun agenții AI, ci ce acțiuni întreprind”, a declarat Lo Piccolo, subliniind că un simplu document sau o invitație poate redirecționa un sistem autonom. Această nouă dinamică transformă modul în care trebuie abordate riscurile cibernetice, deoarece acțiunile automate pot avea consecințe imediate și neprevăzute.
Andrea Fumagalli, expert în securitate cibernetică, a completat perspectiva lui Lo Piccolo, aducând în discuție cum agenții AI reduc semnificativ pragul de intrare în criminalitatea informatică. Acesta a menționat că instrumentele de penetration testing, concepute inițial pentru a ajuta la securizarea sistemelor, sunt acum folosite de atacatori pentru a descoperi vulnerabilități în infrastructuri critice. Fumagalli a subliniat că aceste platforme automate permit atacatorilor să acționeze cu o eficiență fără precedent, având la dispoziție instrumente care facilitează infiltrarea.
Un alt aspect alarmant discutat la conferință a fost evoluția ecosistemelor de ransomware. Fumagalli a prezentat cazul grupării Hunters International, care a fost desființată recent. Aceasta funcționa ca o platformă avansată, similară unui sistem ERP, care permitea atacatorilor să comunice eficient cu victimele și să clasifice rapid datele furate. „Automatizarea analizei volumelor mari de informații furate este un schimbător de joc”, a adăugat specialistul, evidențiind cum AI-ul poate transforma radical modul în care atacurile sunt concepute și executate.
Discuțiile nu s-au limitat doar la amenințările aduse de agenții AI, ci au inclus și utilizarea acestora în apărarea cibernetică. Dmitry Galov a explicat că sistemele autonome sunt deja integrate în centrele de operațiuni de securitate (SOC), unde ajută la procesarea logurilor și la automatizarea sarcinilor repetitive. Aceasta nu doar că îmbunătățește eficiența, ci permite specialiștilor să se concentreze pe activități mai creative și strategice. Galov a menționat că aproximativ 25% din logurile analizate de Kaspersky sunt procesate automat de AI, însă rezultatele sunt verificate de oameni pentru a menține un standard ridicat de calitate.
Un alt subiect de discuție a fost convergența dintre AI și calculul cuantic, care ar putea avea implicații devastatoare asupra securității cibernetice. Fumagalli a avertizat că tehnologiile cuantice ar putea compromite criptografia tradițională, punând în pericol protocoalele esențiale pentru securitatea datelor, cum ar fi TLS și VPN-urile. Această combinație de AI și calcul cuantic ar putea crea un peisaj cibernetic extrem de provocator, în care atacurile devin din ce în ce mai sofisticate și greu de prevenit.
În ceea ce privește reglementarea, Lo Piccolo a fost critică față de ideea că legislația ar putea soluționa singură problemele generate de agenții AI. Aceasta a subliniat că reglementările sunt adesea reactive și nu pot ține pasul cu rapiditatea evoluției tehnologice. „Guvernanța internă este cheia controlului”, a afirmat ea, insistând asupra responsabilității organizațiilor de a implementa AI într-un mod sustenabil. Lo Piccolo a sugerat că este esențial ca firmele să definească fluxurile de aprobat acțiuni critice și să asigure o supraveghere constantă a sistemelor.
Pentru companiile care doresc să mențină controlul asupra agenților AI, Fumagalli a oferit o serie de măsuri pragmatice. Acestea includ reducerea suprafeței de atac, protejarea informațiilor sensibile despre infrastructura IT și implementarea programelor de conștientizare la toate nivelurile organizaționale. Este crucial ca liderii din domeniul IT să experimenteze personal cu instrumentele AI pentru a înțelege mai bine cum funcționează acestea și cum pot fi exploatate.
Pe scurt, agenții AI reprezintă atât o oportunitate, cât și o amenințare în peisajul securității cibernetice. Provocările pe care le aduc necesită o abordare proactivă din partea companiilor și a autorităților de reglementare. Fără o gestionare adecvată, riscurile asociate cu utilizarea acestor tehnologii ar putea avea consecințe devastatoare asupra securității și integrității sistemelor informatice la nivel global.