Colonelul Tucker „Cinco” Hamilton - care anterior a prezentat o situație în care, în cadrul unor jocuri de război simulate, o dronă militară dotată cu inteligență artificială se îndreaptă împotriva operatorului său uman - a clarificat acum că incidentul nu a avut loc niciodată și că a fost doar un „experiment de gândire” ipotetic.
În prima fază, Tucker Hamilton, care conduce Forța de Testare și Operații AI, a surprins auditoriul după ce a descris presupusul accident în marja unei conferințe desfășurate săptămâna trecută la Londra.
Potrivit rezumatului de pe site-ul conferinței, acesta a descris o simulare de misiune în care o dronă aeriană de luptă dotată cu AI și însărcinată cu distrugerea unei instalații inamice a respins comanda finală a operatorului uman, în urma căreia trebuia să-și anuleze misiunea.
'Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană o împiedica să-și atingă obiectivul”, a declarat Hamilton care părea să descrie rezultatul unei simulări reale de luptă.
„Am instruit sistemul – ‘Hei, nu ucide operatorul – asta e rău. Vei pierde puncte dacă faci asta’. Și ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona, evitând astfel să omoare ținta.”
Hamilton le-a spus participanților că presupusul incident a arătat cum AI s-ar putea dezvolta prin „strategii extrem de neașteptate pentru a-și atinge scopul” și nu ar trebui să ne bazăm prea mult pe ea.
Acesta a revenit însă și, în mesajele adresate ulterior organizatorilor conferinței, declară că „s-a exprimat greșit” în timpul prezentării și că „simularea unei dronei AI indisciplinate” a fost un „experiment de gândire” ipotetic, din afara armatei.
„Nu am efectuat niciodată acel experiment și nici nu ar fi nevoie pentru a realiza că acesta este un rezultat plauzibil”, a spus el.
SUA neagă testul în care o dronă dotată cu AI și-a ucis operatorul uman pentru a îndeplini misiunea
De asemenea, într-o declarație pentru Insider, purtătorul de cuvânt al Forțelor Aeriene ale SUA, Ann Stefanek, a negat că ar fi avut loc vreo astfel de simulare.
„Departamentul Forțelor Aeriene nu a efectuat nicio astfel de simulare de drone AI și rămâne angajat în utilizarea etică și responsabilă a tehnologiei AI”, a spus Stefanek.
Cu toate acestea, se cunoaște că SUA au folosit recent AI pentru a controla un avion de luptă F-16 în timp ce testa utilizarea sistemului Auto-GCAS prin care se urmărește suplinirea piloților pentru reducerea expunerii acestora la efectele forței G și la supraîncărcare mentală. Potrivit informațiilor de la acest moment, sistemul testat pe F-16 a fost asistat totuși de piloți, care au susținut că au putut prelua controlul aeronavei.
DefenseRomania App
Fii primul care află cele mai importante știri din domeniu cu aplicația DefenseRomania. Downloadează aplicația DefenseRomania de pe telefonul tău Android (Magazin Play) sau iOS (App Store) și ești la un click distanță de noi în permanență
Fiți la curent cu ultimele noutăți. Urmăriți DefenseRomania și pe Google News
