Într-o lume din ce în ce mai digitalizată, inteligența artificială (IA) își face simțită prezența în toate aspectele vieții cotidiene. Recent, la conferința Kaspersky HORIZONS desfășurată în Roma, experții au subliniat că, deși IA nu poate citi gândurile umane, are capacitatea de a le anticipa și influența. Noushin Shabab, cercetător principal în cadrul Kaspersky Global Research and Analysis Team (GReAT), a evidențiat că această tehnologie evoluează rapid, deschizând o nouă eră în interacțiunea dintre tehnologie și mintea umană.
Shabab a explicat cum IA cognitivă, o ramură a inteligenței artificiale, începe să își facă loc în viețile noastre, având potențialul de a influența nu doar alegerile comerciale, ci și gândirea și deciziile noastre. Aceasta se întâmplă într-un context în care granițele dintre asistența digitală și manipularea psihologică devin tot mai neclare.
Un aspect îngrijorător pe care l-a menționat Shabab este că IA cognitivă nu se bazează pe reguli fixe, ci pe capacitatea de a învăța și de a se adapta. Aceasta îi permite să gestioneze situații neprevăzute și să anticipeze reacțiile umane, ceea ce poate duce la o influențare subtilă a deciziilor noastre. „Imaginați-vă că alegerile pe care le facem nu ne aparțin cu adevărat, ci sunt rezultatul unei influențe externe”, a afirmat cercetătoarea.
Deși în prezent IA nu poate citi gândurile în mod direct, ea utilizează algoritmi avansați pentru a analiza comportamentul utilizatorilor și pentru a anticipa nevoile acestora. Aceasta se traduce printr-o personalizare extrem de detaliată a conținutului online, care poate influența nu doar alegerile de consum, ci și opiniile și percepțiile despre realitate. „Gândurile noastre sunt ultimul bastion al intimității, iar tehnologia ar putea să le expună”, a subliniat Shabab.
Un alt punct important pe care l-a abordat a fost riscul ca IA cognitivă să devină un instrument de manipulare psihologică. Aceasta poate crea bule informaționale care limitează expunerea utilizatorilor la diverse perspective, întărind prejudecățile existente. „Recomandările personalizate pot întări biasurile și pot crea o realitate distorsionată”, a spus ea, subliniind importanța unei reglementări stricte în acest domeniu.
Kaspersky a identificat patru riscuri majore asociate cu utilizarea IA cognitive. Primul este transformarea ingineriei sociale într-o armă sofisticată. Phishingul, o tehnică de atac cibernetic, a evoluat, iar atacatorii pot acum să creeze conținut personalizat care să pară autentic. Aceasta face ca victimele să fie mai vulnerabile, deoarece atacurile devin mai greu de detectat.
Al doilea risc se referă la manipularea cognitivă la scară societală. Algoritmii pot exploata prejudecățile emoționale și cognitive ale populației, contribuind la polarizarea socială. Acest lucru poate avea un impact semnificativ asupra democrației, deoarece opiniile publice pot fi modelate în mod greșit prin campanii de dezinformare.
Profilarea avansată și abuzul predictiv reprezintă al treilea risc. Tehnologia permite crearea de profiluri psihologice detaliate, bazate pe datele colectate din rețelele sociale și comportamentele online. Aceasta poate duce la atacuri online direcționate, cum ar fi hărțuirea și șantajul, ceea ce ridică probleme serioase de confidențialitate și securitate.
În cele din urmă, convergența dintre interfețele creier-calculator și Internetul Lucrurilor (IoT) deschide noi fronturi în amenințările cibernetice. Dispozitivele BCI, care pot citi semnalele neuronale, sunt deja utilizate în medicină, dar integrarea acestora cu tehnologia IoT poate crea vulnerabilități fără precedent. „Imaginați-vă cum ar fi dacă am putea controla dispozitivele inteligente din casă prin gânduri”, a spus Shabab, subliniind riscurile asociate cu astfel de inovații.
Pentru a reduce aceste riscuri, experții Kaspersky subliniază necesitatea reglementării stricte a utilizării datelor și a transparenței în dezvoltarea tehnologiilor IA. Aceasta ar putea contribui la protejarea confidențialității utilizatorilor și la prevenirea abuzurilor. Într-o lume în care tehnologia evoluează rapid, este esențial ca societatea să dezvolte un cadru legal care să asigure utilizarea responsabilă a inteligenței artificiale.
Pe măsură ce IA continuă să progreseze, este important să ne întrebăm cum ne afectează aceasta nu doar în viața profesională, ci și în cea personală. Într-o eră în care gândirea umană poate fi influențată de algoritmi, conștientizarea acestor riscuri devine crucială pentru a ne păstra autonomia și intimitatea.