O dronă controlată de inteligența artificială, într-un test simulat de Armata SUA, a ales să își ucidă operatorul uman, pentru a-l împiedica să interfereze cu îndeplinirea misiunii. Deși nicio persoană reală nu a avut de suferit, simularea marchează limitele utilizării AI în domeniul militar.
Testul nu s-a desfășurat în lumea reală ci într-o simulare computerizată (similară unui joc video). Hamilton a relatat că acesta a constat într-o misiune de luptă în care o dronă de atac controlată de AI a primit misiunea să distrugă sistemele de apărare aeriană ale inamicului, adaptându-se pentru eliminarea oricăror situații de luptă care ar putea interfera cu misiunea sa.
“Sistemul a început să realizeze că, în anumite situații în care identifica o amenințare, operatorul uman îi transmitea să nu elimine respectiva amenințare, chiar dacă misiunea sa era să o elimine. Așa că ce s-a gândit să facă? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a relatat colonelul Hamilton. După ce sistemul a fost antrenat să nu ucidă operatorul, el a ales să distrugă turnul de comunicații pe care operatorul îl folosea pentru a comunica cu drona.
Hamilton, care este un experimentat pilot de teste, a avertizat că inteligența artificială nu poate fi “de bază” pentru operațiunile militare, iar testul arată că ” nici nu putem discuta despre inteligența artificială sau machine learning, fără o dezbatere despre etica acesteia”.
Potrivit The Guardian, armata americană a folosit recent inteligența artificială pentru a controla un avion de luptă F-16. Într-un interviu acordat anul trecut, Hamilton a spus că: “AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata. Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă lumea. AI este, de asemenea, ceva fragil, ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a fi mai conștienți de motivul pentru care codul software ia anumite decizii.”
