Nikola Jevremović

1. jun 2021.

Sve intenzivniji napredak veštačke inteligencije, naročito one koju upreže vojna industrija, ne prolazi bez negativnih posledica.  Opširni dokument (ima 548 strana) koji je u martu sastavio Savet bezbednosti Ujedinjenih nacija, sugeriše da se jedan kamikaze dron obrušio na vojnike Libijske nacionalne armije (lojalne odmetnutom generalu Kalifu Haftaru) bez da mu je iko dao takve instrukcije. Nažalost, sam izveštaj ne ide u pojedinosti ovog bizarnog slučaja...

Počinilac je kvadkopter Kargu-2, turske kompanije STM. Reč je o letelici koja ima sposobnost autonomnog izvršavanja unapred programiranog zadatka. On se bazira na mašinskom učenju kojim dron klasifikuje objekte (zgrade, vozila, ljudi...) i po aktivaciji napada ono što proceni kao pretnju. Eksperti ovakvom sistemu tepaju „fire and forget”. Po svemu sudeći, dron je „prezupčio” i samostalno aktivirao ovaj režim. Zakeri Kalenborn, bezbednosni konsultant specijalizovan za bespilotne letelice i vozila, dodao je i da baze podataka na kojima AI trenira često nisu dovoljno kompleksne, te da nije isključeno da mašina nauči pogrešnu lekciju. Šanse za grešku znatno su veće u slučaju „roja”, kada više dronova udruženim snagama deluje (Kargu-2 može da komunicira sa još 19 svojih kolega). Na potencijalnu opasnost ovakvih ofanzivnih autonomnih sredstava po civile, kao i za njihovu zabranu odavno se zalaže nemali broj naučnika i aktivista širom sveta, među kojima su pokojni Stiven Hoking, zatim Ilon Mask, Noam Čomski i drugi...