Národy diskutují o budoucnosti AI zbraní na OSN

Národy se v pondělí sešly na Valném shromáždění OSN v New Yorku, aby diskutovaly o budoucnosti autonomních zbraní řízených umělou inteligencí a možných regulacích týkajících se jejich použití. Odborníci varují před rostoucí naléhavostí, citují jak nedostatek mezinárodního konsenzu, tak omezený čas.

Podle Reuters, AI už hraje významnou roli v současných konfliktech, obzvláště v regionech jako Ukrajina a Gaza. Před několika měsíci Ukrajina odhalila, že nasbírala přibližně 2 miliony hodin záznamů z bojiště k tréninku systémů AI.

Regulační rámce pro technologie AI se snaží držet krok. Ačkoli diskuse o autonomních zbraních probíhají na Konvenci o určitých konvenčních zbraních (CCW) v Ženevě již od roku 2014, dosud nebyly stanoveny žádné závazné globální regulace.

Generální tajemník OSN António Guterres stanovil rok 2026 jako cíl dosažení mezinárodního konsenzu o novém právním rámci.

„Čas opravdu dochází, aby byly vytvořeny určité bezpečnostní opatření, aby se nestaly noční můry, před kterými varují někteří z nejuznávanějších expertů,“ řekl Alexander Kmentt, vedoucí oddělení kontroly zbraní na rakouském ministerstvu zahraničí, pro Reuters.

Kromě autonomních zbraní budou jednání tohoto týdne řešit i další kritická témata, jako jsou lidská práva a etické otázky, a zapojení nevládních aktérů. Zatímco většina zemí podporuje vytvoření závazného globálního rámce, jiné – jako je Čína, Spojené státy, Indie a Rusko – upřednostňují spoléhání na existující mezinárodní zákony nebo národní směrnice.

Více organizací, včetně Human Rights Watch, vyjádřilo obavy z rozmachu neregulovaných autonomních zbraní v různých regionech. Institut pro budoucnost života identifikoval přibližně 200 systémů autonomních zbraní v provozu na místech jako je Afrika, Střední východ a Ukrajina.

„Obecně nevěříme průmyslu, že se bude samoregulovat… Neexistuje důvod, proč by obranné nebo technologické společnosti měly být důvěryhodnější,“ řekla aktivistka Laura Nolan z organizace Stop Killer Robots agentuře Reuters.

Použití AI a autonomních systémů pro vývoj zbraní získává prostor v technologickém průmyslu. Google před několika měsíci zrušil zákaz použití AI pro zbraně, čínští výzkumníci používají model Llama společnosti Meta pro vojenské aplikace a startup Theseus nedávno získal $4,3 milionu na vývoj autonomních dronů.