Kongres SAD upozorava: AI ne sme da odlučuje o životu i smrti u ratu

U Kongresu SAD predstavljen je novi zakon koji pokušava da povuče jasnu granicu između čoveka i veštačke inteligencije u ratu.

Senator Adam Šif uveo je predlog „HALO Act” koji bi zabranio da AI sistemi donose odluke o upotrebi smrtonosne sile bez ljudske kontrole. Ideja zakona je da veštačka inteligencija može da pomaže u analizi i predlaganju meta, ali da konačna odluka uvek mora ostati na ljudskim komandantima. Zakon bi uveo stroge standarde za dizajn, testiranje i nadzor vojnih AI sistema, kao i obavezu da svaki napad ima jasno odgovornog čoveka u lancu komandovanja. Ako sistem ne može da deluje u unapred definisanim okvirima, operacija bi morala da se prekine do dodatne ljudske provere.

Predlog dolazi usred sve veće zabrinutosti zbog brzog razvoja autonomnog naoružanja i već postojećih kontroverzi oko AI sistema za ciljanje u ratnim zonama. Posebno se ističu upozorenja da bi algoritmi mogli ubrzati eskalaciju sukoba i smanjiti ljudsku kontrolu nad ratom.

HALO Act takođe zabranjuje da vojni AI sistemi izvode zaključke o ličnim karakteristikama ljudi, kao i da se ukloni čovek iz odlučivanja o nuklearnom oružju.

Paralelno se u Kongresu razmatra više sličnih inicijativa koje imaju isti cilj — da se veštačka inteligencija zadrži kao alat, a ne kao donosilac odluka o životu i smrti.