Tehnologia GAI are un potențial perturbator foarte mare pentru securitatea cibernetică.
Directorul general al DISA, Robert Skinner, a declarat că tehnologia GenAI este una dintre cele mai perturbatoare evoluții pe care le-a văzut vreodată și are implicații serioase de securitate, iar un avertisment similar a fost emis de șeful securității cibernetice din Agenția Națională de Securitate, Rob Joyce, la începutul acestui an, potrivit publicației americane Defense News.
Avantajul va fi de partea celor care vor înțelege cel mai bine potențialul GenAI
„Cei care valorifică acest lucru și pot înțelege cum să-l folosească cel mai bine, dar și cum să se protejeze cel mai bine împotriva lui, vor fi cei care au un teren înalt”, a declarat Skinner, pe 2 mai, la conferința AFCEA TechNet Cyber din Baltimore. „Noi, cei din această sală, ne gândim la modul în care acest lucru se aplică securității cibernetice. Cum se aplică serviciilor de informații? Cum se aplică capacităților noastre de luptă?”
Temeri privind folosirea cu rea intenție a GenAI au fost exprimate chiar de CEO-ul companiei care a lansat ChatGPT
GenAI a fost popularizat, în ultimele luni, de ChatGPT de la OpenAI, care a acumulat peste un milion de utilizatori într-o săptămână de la lansare. Sam Altman, CEO al OpenAI, a declarat, în martie, pentru ABC News că este îngrijorat de modul în care aceste modele ar putea fi folosite pentru dezinformarea pe scară largă și „ar putea fi folosite pentru atacuri cibernetice ofensive”.
Totuși, experții americani din sectorul cibernetic al apărării nu consideră că GenAI va fi folosită de adversarii de vârf, ceea ce ar însemna că aceștia au deja instrumente de atac cibernetic mai sofisticate decât ceea ce se poate obține cu GenAI accesibilă publicului larg.
În acest sens, Skinner a prezis marți că inteligența artificială generativă nu va fi un instrument semnificativ pentru „adversarii de vârf” (China și Rusia – nota autorului). Mai degrabă, tehnologia „va ajuta o mulțime de alți indivizi să ajungă la acest nivel mult mai rapid”.
„Deci, cum vom realiza sistemele de protecție, securitatea și capabilitățile de rețea pentru a sprijini protejarea acestor date și pentru a-i sprijini pe oamenii noștri?” a spus el.
SUA consideră China și Rusia amenințări de top în lumea virtuală. Alți inamici includ Iranul și Coreea de Nord, conform strategiei de securitate cibernetică a administrației Biden, care promitea folosirea tuturor instrumentelor de putere națională pentru a evita comportamentul cibernetic neadecvat.
După apariția Chat GPT, sistemele GenAI au început să fie monitorizate cu mare atenție de agențiile americane cu responsabilități în domeniul cibernetic
Controlul inteligenței artificiale este considerată esențială pentru o competitivitate durabilă internațională în apărare, finanțe și în alte sectoare. Cel puțin 685 de proiecte de inteligență artificială, inclusiv câteva legate de sisteme de arme majore, erau în desfășurare la Pentagon la începutul anului 2021, cel mai recent număr făcut public, potrivit Defense News.
DISA a adăugat inteligența artificială generativă pe lista sa de supraveghere tehnologică în acest an fiscal. În inventarul său de subiecte și echipamente de ultimă oră, reîmprospătat cam la fiecare șase luni, figurau în trecut tehnologiile 5G, edge computing și teleprezența.
Edge computing este o paradigmă de calcul distribuită care aduce calculul și stocarea datelor mai aproape de sursele de date. Edge computing este folosit pentru a opera cu „date instantanee”, adică date în timp real generate de senzori sau utilizatori.
Teleprezența se referă la un set de tehnologii care permit unei persoane, ca prin telerobotică, să dea aspectul sau efectul de a fi prezent într-un alt loc decât locația ei adevărată.
Comentariul autorului: Dintre toate aplicațiile din domeniul inteligenței artificiale, cele de GenAI sunt cel mai aproape de conceptul de inteligență artificială propriu-zisă. Totuși, ele sunt doar un pas intermediar în procesul de dezvoltare AI și se pare că sunt încă în urmă, posibil chiar mult, de ceea ce au instituțiile de securitate națională și apărare ale marilor puteri.
Totuși, există îngrijorări întemeiate privind proliferarea necontrolată a GenAI. Numărul de experți în domeniul AI, care avertizează asupra potențialului distructiv ridicat al GenAI, a crescut brusc după lansarea ChatGPT în noiembrie 2022, deși primele sisteme GenAI au apărut în 2020.
Geoffrey Hinton supranumit „nașul inteligenței artificiale” a părăsit, recent, Google și a avertizat asupra pericolelor reprezentate de dezinformările la scară mare, care pot fi efectuate de actori rău intenționați cu ajutorul chatbot-urilor. Hinton, în vârstă de 75 de ani, a spus că a renunțat pentru a vorbi liber despre pericolele AI și regretă parțial contribuția sa în domeniu. El a fost recrutat de Google în urmă cu un deceniu pentru a ajuta la dezvoltarea tehnologiei AI în cadrul companiei, iar abordarea pe care a inițiat-o a deschis calea pentru sistemele actuale precum ChatGPT.
„Am ajuns la concluzia că tipul de inteligență pe care îl dezvoltăm este foarte diferit de inteligența pe care o avem. Este ca și cum ai avea 10.000 de oameni și ori de câte ori o persoană a învățat ceva, toată lumea află automat. Și astfel, acești roboti de chat pot ști mult mai multe decât orice persoană”, a declarat Hinton potrivit unui articol, din 2 mai, al publicației The Guardian.
Deși rezultatele inițiale ale proiectelor GenAI par promițătoare, încă nu se poate afirma cu certitudine dacă este un pas înainte sau doar o direcție în curs de explorare, care s-ar putea dovedi un drum înfundat. Deocamdată, aplicațiile GenAI se comportă mai mult ca un elev ”tocilar” care acumulează informație, face unele legături evidente, precum și simple speculații. Poate, în timp, dacă vor fi depășite problemele de memorare și de algoritmică, aplicațiile GenAI vor putea să intersecteze și domenii mari cum ar fi, de exemplu, biologia, fizica, chimia și matematica, toate la un loc și în profunzimea lor, și ar putea să devină adevărați consilieri ai oamenilor de știință.
Până atunci, folosirea GenAI în dezinformări la scară largă sau la atacuri cibernetice de amploare nu ar face decât să discrediteze această cale de dezvoltare/explorare, care pare un pas înainte după o perioadă de vreo 20-30 de ani în care se instalase scepticismul privind viitorul AI.
DefenseRomania App
Fii primul care află cele mai importante știri din domeniu cu aplicația DefenseRomania. Downloadează aplicația DefenseRomania de pe telefonul tău Android (Magazin Play) sau iOS (App Store) și ești la un click distanță de noi în permanență
Fiți la curent cu ultimele noutăți. Urmăriți DefenseRomania și pe Google News
