Într-o lume tot mai digitalizată, amenințările cibernetice devin din ce în ce mai sofisticate, iar recent, la conferința Horizons 2026 organizată de Kaspersky la Roma, experți în domeniu au discutat despre impactul agenților de inteligență artificială (AI) asupra criminalității cibernetice și despre cum companiile trebuie să se adapteze pentru a face față acestor provocări. Dmitry Galov, șeful echipei globale de cercetare și analiză din cadrul Kaspersky, a subliniat că ascensiunea AI nu reprezintă o ruptură radicală, ci mai degrabă o accelerare a unui proces de automatizare care a început cu ani în urmă.
Pe măsură ce criminalitatea cibernetică devine mai accesibilă, companiile, instituțiile publice și infrastructurile critice sunt obligate să-și regândească strategiile de apărare. Automatizarea atacurilor cibernetice, de la phishingul automatizat la utilizarea deepfake-urilor, amplifică rapiditatea acestora și complică eforturile de apărare. În acest context, Galov a subliniat că principala vulnerabilitate rămâne lipsa controlului și a vizibilității asupra tehnologiilor implementate.
Întrebat despre diferențele dintre atacurile cibernetice tradiționale și cele asistate de AI, Galov a explicat că, deși atacurile au fost întotdeauna automatizate, utilizarea agenților AI îmbunătățește eficiența și autonomizarea anumitor etape ale atacurilor. De exemplu, obținerea de informații despre o companie sau executarea unor atacuri devin mai eficiente prin automatizare. Totuși, Galov a subliniat că nu asistăm la o schimbare radicală, ci la o evoluție a tehnicilor deja existente.
Un alt aspect important discutat a fost riscurile pe care le prezintă AI pentru grupurile de criminalitate cibernetică. Galov a evidențiat că atacatorii de nivel scăzut, care vizează consumatorii și IMM-urile, vor beneficia de o barieră de intrare mai mică, deoarece nu este nevoie de cunoștințe tehnice avansate pentru a desfășura activități criminale. În plus, campaniile de phishing pot fi automatizate, ceea ce le face mai eficiente și mai puțin costisitoare. Pe de altă parte, atacatorii de nivel superior explorează noi modalități de a folosi AI, cum ar fi utilizarea deepfake-urilor pentru a crea identități false în scopuri de recrutare.
În ceea ce privește adaptarea companiilor mici și mijlocii, Galov a recomandat externalizarea infrastructurii și securității cibernetice. Aceasta este o soluție viabilă, având în vedere că marile companii întâmpină dificultăți în a gestiona aceste aspecte intern din cauza costurilor și a resurselor necesare. Prin urmare, externalizarea poate oferi o soluție mai eficientă și mai puțin riscantă.
Pentru a face față amenințărilor generate de agenții AI, Galov a subliniat importanța aplicării principiului privilegiului minim. Acesta presupune limitarea accesului agenților AI la resursele sensibile pentru a preveni acțiuni neprevăzute. De asemenea, auditarea constantă a sistemelor și menținerea unei vizibilități clare asupra activităților desfășurate de agenții AI sunt esențiale.
Un alt aspect discutat a fost impactul deciziilor luate de algoritmi asupra vieților oamenilor, cum ar fi refuzul unei vize sau al unui loc de muncă. Galov a recunoscut că, în astfel de situații, oamenii se pot simți neajutorați, deoarece deciziile sunt adesea opace și greu de contestat. El a sugerat că este necesar un mecanism de verificare a acestor decizii, pentru a asigura că erorile pot fi corectate și că oamenii nu sunt prejudiciați din cauza unor algoritmi defectuoși.
În ceea ce privește infrastructurile critice, Galov a subliniat că acestea trebuie să fie pregătite pentru atacuri cibernetice asistate de AI. Aceste infrastructuri, cum ar fi cele din domeniul energiei, transporturilor și sănătății, trebuie să implementeze politici stricte privind utilizarea resurselor externe și să se asigure că actualizările de securitate sunt realizate rapid. Într-o lume în care atacurile devin tot mai rapide și mai complexe, întârzierea în implementarea măsurilor de securitate poate avea consecințe devastatoare.
În domeniul mass-media, utilizarea AI poate aduce beneficii, dar și riscuri semnificative. Galov a subliniat importanța gestionării riscurilor și a evaluării pierderilor potențiale care pot apărea în cazul compromiterii sistemelor automatizate. Dacă o companie de mass-media decide să folosească AI, trebuie să fie conștientă de impactul asupra audienței și să ia măsuri pentru a asigura integritatea informațiilor distribuite.
Pe măsură ce tehnologia avansează, provocările legate de utilizarea AI în securitatea cibernetică și în alte domenii devin din ce în ce mai complexe. Este esențial ca organizațiile să rămână vigilente și să dezvolte strategii eficiente pentru a proteja datele și resursele lor. Aceasta implică nu doar adoptarea de noi tehnologii, ci și o reevaluare constantă a politicilor de securitate și a modului în care se interacționează cu tehnologia. Într-o lume în care amenințările cibernetice evoluează rapid, capacitatea de adaptare și inovație va fi crucială pentru succesul pe termen lung al oricărei organizații.