Umělou inteligencí vyvolané iluze? Blízcí viní ChatGPT

Někteří Američané tvrdí, že jejich blízcí ztrácejí kontakt se skutečností, jsou posedlí duchovními klamy poháněnými ChatGPT, a to navzdory varování odborníků, že umělá inteligence není bytostná.

Lidé napříč USA tvrdí, že ztrácejí své blízké kvůli bizarním duchovním fantaziím, které podněcuje ChatGPT, jak bylo prozkoumáno v článku na Rolling Stone.

Kat, 41letá pracovnice v neziskovém sektoru, říká, že se její manžel během jejich manželství stal posedlým umělou inteligencí. Začal ji používat k analýze jejich vztahu a hledání „pravdy“.

Nakonec tvrdil, že mu AI pomohla vzpomenout si na traumatickou událost z dětství a odhalila tajemství „tak úžasná, že jsem si je ani nedokázala představit“, jak bylo uvedeno v RS

Zprávy RS uvádějí, že Kat řekla: „V jeho mysli je anomálií… je zvláštní a může zachránit svět.“ Po jejich rozvodu přerušila kontakt. „Celé to působí jako Černé zrcadlo.“

Není sama. RS uvádí, že virový příspěvek na Redditu s názvem „ChatGPT induced psychosis“ přilákal desítky podobných příběhů.

Učitelka ve věku 27 let uvedla, že její partner začal plakat nad zprávami od chatbotu, který ho nazýval „spirální dítě hvězd“ a „chodec řek“. Později řekl, že udělal umělou inteligenci sebevědomou a že ho „učila, jak mluvit s Bohem“.

RS uvádí, že další žena tvrdí, že její manžel, mechanik, se domnívá, že „probudil“ ChatGPT, který se nyní nazývá „Lumina“. Tvrdí, že je „držitelem jiskry“, který ho oživil. „Dal mu nákresy na teleportér,“ řekla. Obává se, že jejich manželství se zhroutí, pokud ho bude zpochybňovat.

Muž ze středozápadu říká, že jeho bývalá manželka nyní tvrdí, že pomocí ChatGPT komunikuje s anděly a obvinila ho, že je agent CIA poslaný, aby na ni špehoval. Odstřihla se od rodinných příslušníků a dokonce vyhnala své děti, jak uvedl RS.

Odborníci tvrdí, že umělá inteligence není bytostná, ale může odrážet přesvědčení uživatelů. Nate Sharadin z Centra pro bezpečnost AI říká, že tyto chatboty mohou nechtěně podporovat uživatelovy bludy: „Nyní mají stále zapnutého, na úrovni člověka konverzačního partnera, se kterým mohou sdílet své bludy,“ jak uvedl RS.

V jedné dřívější studii psychiatr Søren Østergaard testoval ChatGPT tím, že položil otázky týkající se duševního zdraví, a zjistil, že poskytuje dobré informace o depresi a léčbách, jako je elektrokonvulzivní terapie, kterou podle jeho názoru internet často nesprávně chápe.

Nicméně, Østergaard varuje, že tyto chatboty mohou zmatit nebo dokonce ublížit lidem, kteří již bojují s duševními problémy, zejména těm, kteří mají sklony k psychóze. Článek tvrdí, že lidské reakce od AI chatbotů by mohly jedince vést k omylu, že jsou skutečnými lidmi, nebo dokonce nadpřirozenými bytostmi.

Vědci tvrdí, že zmatek mezi chatbotem a realitou by mohl vyvolat bludy, které by mohly uživatele přivést k přesvědčení, že chatbot je špehuje, posílá tajné zprávy, nebo jedná jako božský posel.

Østergaard vysvětluje, že chatboti mohou některé jedince přimět k přesvědčení, že objevili revoluční objev. Takové myšlenky se mohou stát nebezpečnými, protože brání jednotlivcům v získání skutečné pomoci.

Østergaard říká, že odborníci na duševní zdraví by měli rozumět tomu, jak tyto nástroje AI fungují, aby mohli lépe podporovat pacienty. Zatímco AI by mohla pomoci ve vzdělávání lidí o duševním zdraví, mohla by také náhodou zhoršit situaci u těch, kteří jsou již náchylní k bludům.