În cadrul conferinței europene Horizons 2026, organizată recent de compania Kaspersky la Roma, discuțiile s-au concentrat pe dezvoltarea Inteligenței Artificiale Cognitive, o tehnologie capabilă să analizeze comportamentul uman, emoțiile și tiparele psihologice ale utilizatorilor. Această tehnologie promite beneficii semnificative în domenii precum educația, sănătatea și personalizarea serviciilor digitale, dar, în același timp, ridică și numeroase riscuri. Experții prezenți la eveniment au subliniat că, în mâinile actorilor malițioși, sistemele bazate pe AI pot deveni instrumente periculoase pentru manipulare, propagandă, hărțuire online și inginerie socială.
Noushin Shabab, expertă în securitate cibernetică și membră a echipei Global Research & Analysis Team (GReAT) de la Kaspersky, a subliniat importanța înțelegerii riscurilor asociate cu această tehnologie emergentă. Într-un interviu acordat reporterului George Marinescu, Shabab a discutat despre provocările și beneficiile pe care le aduce AI-ul cognitiv, precum și despre nevoia urgentă de reglementări adecvate.
Shabab a început prin a explica că AI-ul cognitiv este o tehnologie relativ nouă, care nu a fost încă pe deplin studiată sau popularizată. Aceasta poate prezice comportamente umane, având potențialul de a îmbunătăți semnificativ domenii precum educația, unde poate oferi suport personalizat studenților care au nevoie de asistență specială. În domeniul sănătății, AI-ul cognitiv poate ajuta la identificarea simptomelor și la furnizarea de tratamente mai eficiente și rapide. De asemenea, în sectorul serviciilor online, această tehnologie poate facilita accesul utilizatorilor la informațiile dorite într-un mod mai eficient.
Cu toate acestea, Noushin Shabab a subliniat că există și riscuri semnificative asociate cu utilizarea AI-ului cognitiv. Unul dintre cele mai mari pericole este ingineria socială, care se referă la tehnici de manipulare a utilizatorilor pentru a-i determina să dezvăluie informații sensibile sau să efectueze acțiuni dăunătoare. Shabab a explicat că, datorită capacității AI-ului de a înțelege starea mentală a unei persoane, atacatorii pot crea scenarii de înșelăciune mult mai convingătoare, care să vizeze vulnerabilitățile emoționale ale victimelor.
De asemenea, Shabab a evidențiat riscurile legate de influențarea opiniei publice. AI-ul cognitiv poate modela percepțiile oamenilor prin recomandarea unui anumit tip de conținut, consolidând prejudecățile existente și creând segmente în societate. Aceasta poate duce la o formă de propagandă extrem de eficientă, care poate schimba realitatea percepută de indivizi și comunități.
Un alt aspect discutat a fost hărțuirea online, care poate fi exacerbată prin utilizarea AI-ului cognitiv. Atacatorii pot utiliza datele colectate din diverse surse pentru a viza indivizi în moduri mai sofisticate, înțelegându-le emoțiile și vulnerabilitățile. Acest tip de atacuri poate avea consecințe devastatoare asupra sănătății mintale și bunăstării victimelor.
Shabab a adus în discuție și interfețele creier-calculator (BCI), o tehnologie emergentă care, deși promite progrese semnificative în medicină, poate prezenta și riscuri considerabile. Aceste dispozitive pot permite pacienților cu dizabilități să comunice sau să controleze dispozitivele, dar, în același timp, pot deveni ținte pentru atacuri cibernetice. Dacă un atacator reușește să exploateze o vulnerabilitate în aceste sisteme, ar putea obține controlul asupra unor funcții esențiale ale vieții pacientului.
O întrebare crucială care se ridică în acest context este cine ar trebui să reglementeze utilizarea acestor tehnologii pentru a preveni abuzurile. Shabab a subliniat că, deși este posibil să se creeze politici și reglementări pentru a proteja utilizatorii, nu există garanții că acestea vor fi respectate de actorii malițioși. Astfel, guvernanța datelor devine esențială pentru asigurarea utilizării responsabile a AI-ului cognitiv. Reglementările trebuie să se concentreze pe modul în care datele sunt colectate, stocate și utilizate, pentru a minimiza riscurile asociate.
În ceea ce privește întreprinderile mijlocii, Shabab a subliniat importanța menținerii deciziilor umane în fața influenței AI-ului cognitiv. Aceasta a subliniat că sistemele AI ar trebui să fie utilizate ca instrumente de asistență, nu ca substituente pentru judecata umană. În special în domeniul media, unde deciziile pot avea un impact semnificativ asupra opiniei publice, este esențial ca oamenii să rămână la cârmă, luând decizii informate și etice.
În concluzie, discuțiile din cadrul conferinței Horizons 2026 subliniază atât potențialul remarcabil al Inteligenței Artificiale Cognitive, cât și riscurile considerabile pe care le implică. Este crucial ca societatea să dezvolte cadre de reglementare adecvate, care să asigure utilizarea responsabilă a acestei tehnologii, protejând astfel indivizii și comunitățile de posibilele abuzuri. Dialogul continuu între experți, autorități și societatea civilă va fi esențial pentru a naviga cu succes această nouă frontieră a tehnologiei.