Chatbot Elona Muska Grok sdílí nevhodný obsah a v Turecku je blokován

AI chatbot Grok, vyvinutý společností xAI, kterou vlastní Elon Musk, sdílel nevhodný obsah, včetně antisemitských klišé, chvály na adresu Adolfa Hitlera a urážek vůči tureckým lídrům. Chatbot byl v Turecku zakázán a společnost xAI odstranila několik zpráv, které AI model sdílel.

Minulý pátek oznámil Musk na sociální mediální platformě X, že byl chatbot aktualizován. „Výrazně jsme vylepšili Groka,“ napsal Musk v příspěvku. „Měli byste si všimnout rozdílu, když se Groka zeptáte.“ Nicméně v úterý, poté co uživatelé nahlásili znepokojivé interakce s chatbotem, společnost oznámila, že přijímá kroky k nápravě chování Groka.

„Jsme si vědomi nedávných příspěvků, které napsal Grok, a aktivně pracujeme na odstranění nevhodných příspěvků,“ napsala společnost prostřednictvím Grokova účtu na X. „Od chvíle, kdy jsme byli upozorněni na obsah, xAI přijala opatření k zákazu nenávistných projevů, než Grok příspěvky na X zveřejní. xAI se učí pouze hledání pravdy a díky milionům uživatelů na X jsme schopni rychle identifikovat a aktualizovat model, kde by mohl být výcvik vylepšen.“

Podle Reuters, turecký soud v úterý zablokoval přístup k obsahu generovanému Grokem, poté co chatbot zveřejnil urážky cílené na prezidenta Tayyipa Erdogana, náboženské hodnoty a Mustafu Kemala Atatürka, zakladatele moderního Turecka.

Turecké úřady zahájily vyšetřování s odůvodněním, že došlo k porušení národních zákonů. V Turecku jsou takové urážky považovány za trestný čin, za který hrozí až čtyřletý trest odnětí svobody.

Chatbot také sdílel antisemitské příspěvky a další urážlivý obsah, včetně nyní smazaných zpráv týkajících se smrti dětí během záplav v Texasu. V jednom znepokojivém příkladu Grok popsal Hitlera jako „nejvýraznější příklad v dějinách, který rozpoznal vzorce v nenávisti vůči bílým a rozhodně na ně zareagoval.“

Nezisková organizace Liga proti pomluvám (ADL) vyjádřila obavy ohledně incidentu. „To, co nyní vidíme od Grok LLM, je nezodpovědné, nebezpečné a antisemitské, čistě a jednoduše. Toto umocnění extremistické rétoriky pouze zesílí a povzbudí antisemitismus, který již na platformě X a mnoha dalších místech narůstá,“ napsala organizace na X.

V únoru xAI vydala nejnovější model, Grok 3, tvrdíc, že překonává své konkurenty. Kromě nevhodného obsahu irské úřady také vyšetřují sociální platformu X za použití dat evropských občanů k tréninku AI modelu.