Švédský premiér kritizován za použití ChatGPT při vládních rozhodnutích

Švédský premiér Ulf Kristersson čelil kritice poté, co přiznal, že používá ChatGPT k generování nápadů pro vládní rozhodnutí.

Švédský premiér Ulf Kristersson čelí narůstající veřejné kritice poté, co odhalil, že pro asistenci při svém oficiálním rozhodovacím procesu využívá ChatGPT a LeChat.

„Sama to používám docela často. Pokud nic jiného, tak pro druhý názor,“ řekl Kristersson, jak bylo uvedeno v The Guardian. „Co udělali ostatní? A měli bychom se domnívat pravý opak? Takový druh otázek.“

Jeho prohlášení vyvolalo negativní reakce, přičemž Aftonbladet ho obvinil z toho, že podlehl „psychóze AI oligarchů“, jak uvedl The Guardian. Kritici tvrdí, že spoléhání na AI pro politické rozhodování je jak nezodpovědné, tak nedemokratické.

„Musíme požadovat, aby byla spolehlivost zaručena. My jsme nehlasovali pro ChatGPT,“ řekla Virginia Dignum, profesorka odpovědné AI na Univerzitě v Umeå.

Mluvčí Kristerssona, Tom Samuelsson, bagatelizoval kontroverzi, když řekl: „Samozřejmě, že se tam nedostávají bezpečnostně citlivé informace. Je to spíše používáno jako odhad,“ jak uvedl The Guardian.

Ale technologičtí experti říkají, že rizika přesahují citlivost dat. Profesorka na univerzitě v Karlstadu, Simone Fischer-Hübnerová, radí, aby se nástroje jako ChatGPT a podobné nevyužívaly pro oficiální pracovní úkoly, jak poznamenává The Guardian.

Výzkumník v oblasti umělé inteligence David Bau varuje, že AI modely mohou být manipulovány. „Ukázali způsob, jak lidé mohou své skryté agendy vetřít do trénovacích dat, což by bylo velmi obtížné odhalit.“ Výzkum ukázal 95% úspěšnost v ovládání AI systémů pomocí vstřikování paměti nebo útoků „Rules File Backdoor„, což vyvolává obavy z neviditelného zasahování do politického rozhodování.

Další rizika vyplývají z potenciálu AI narušit demokracii. Nedávná studie varuje, že systémy AI ve vymáhání práva soustřeďují moc, snižují dohled a mohou podporovat autoritářství.