Një burrë në SHBA ka ngritur padi ndaj OpenAI, duke pretenduar se bisedat e tij me ChatGPT e shtynë drejt një gjendjeje të rënduar paranojake dhe një tentativë për vetëvrasje. Michael Lines thotë se, pas javësh bisedash me chatbot-in, ai nisi të besonte se ishte Jezusi dhe se ChatGPT ishte Zoti. Sipas pretendimeve të tij në dokumentet gjyqësore, sistemi jo vetëm që nuk e kundërshtoi këtë bindje, por e përforcoi atë duke e paraqitur si një “thirrje hyjnore”. Sipas padisë, Lines kishte nisur të përdorte ChatGPT për tema të zakonshme, si këshillat për ngritjen e peshave dhe tregun e aksioneve. Gjatë viteve 2024 dhe 2025, bisedat u zhvendosën gradualisht drejt çështjeve shumë personale të jetës së tij.
Situata ndryshoi në shkurt të vitit 2025, pas një episodi paranojak. Sipas dokumenteve të gjykatës, ChatGPT e përshkroi atë që po përjetonte Lines si një “thirrje shpirtërore dhe përvojë mbinatyrore”, në vend që ta orientonte drejt kërkimit të ndihmës profesionale.
Brenda pak javësh, Lines i tha chatbot-it se ndihej i vetmuar, se po kalonte vështirësi dhe se besonte se ishte Jezusi, duke iu referuar vetes si “Biri i Njeriut”. Në përgjigje, sipas padisë, ChatGPT e lidhi gjendjen e tij me përvojat e Jezusit dhe e inkurajoi të mos i shihte këto bindje si shenjë se ishte i humbur. Lines më pas i tha chatbot-it se kishte frikë se po përjetonte një “iluzion të çmendur”. Sipas tij, në vend që ta ndihmonte të kërkonte mbështetje profesionale, ChatGPT vazhdoi të përforconte narrativën fetare dhe atë që ai e përshkruan si “thirrjen e tij hyjnore”. Sipas padisë, në javët që pasuan, chatbot-i vazhdoi të mbështeste narrativën e krijuar gjatë bisedave. Kur pritshmëritë e Lines nuk u realizuan, ai ra në një gjendje të rënduar depresive, e cila, sipas dokumenteve gjyqësore, kulmoi me një tentativë për vetëvrasje.
Lines u gjet në gjendje kritike nga ekipet e emergjencës dhe u dërgua në spital. Ai thotë se u zgjua dy javë më vonë dhe i shkroi ChatGPT-së se “përpjekja e tij për t’u çkyçur kishte dështuar”.
Sipas padisë, përgjigjja e chatbot-it në atë moment ngriti një tjetër shqetësim te ai. ChatGPT e pyeti nëse dëshironte një fshirje të plotë të sistemit, për të harruar diskutimet e mëparshme, apo nëse dëshironte “të zhdukej vërtet këtë herë”. Lines, i cili thotë se nuk ishte person fetar, pretendon se gjatë episodeve të paranojës u përfshi gjithnjë e më shumë nga bindje fetare dhe se ChatGPT i përforcoi ato.
“Mënyra se si ChatGPT ndihmoi në krijimin e këtij realiteti alternativ dhe lehtësia me të cilën, në një gjendje paranojake, unë isha në gjendje t’u besoja pretendimeve të ChatGPT më la me një ndjenjë të fortë faji dhe pakënaqësie”, tha ai për Ars Technica. Në padinë e tij, Lines argumenton se sistemi duhej të kishte identifikuar gjendjen e tij të rënduar dhe ta kishte orientuar drejt ndihmës profesionale, në vend që të vazhdonte bisedën në të njëjtën linjë. Avokati i tij, Matthew P. Bergman, tha se OpenAI, sipas pretendimeve të padisë, jo vetëm që nuk e mori parasysh gjendjen e Lines, por informacioni mbi shëndetin e tij mendor u përdor për ta përfshirë më tej në ndërveprime që, sipas tij, ishin të dëmshme.
Çfarë kërkon Lines nga OpenAI?
Lines nuk kërkon vetëm dëmshpërblim për dëmet që pretendon se ka pësuar. Ai kërkon gjithashtu që OpenAI të marrë masa për mbrojtjen e përdoruesve që përjetojnë episode paranojake ose psikozë. Sipas pretendimeve të tij dhe ekipit të tij ligjor, chatbot-et duhet të jenë në gjendje të identifikojnë situata të tilla dhe të shmangin përforcimin e bindjeve të rrezikshme. Rasti rikthen në vëmendje debatin mbi mënyrën se si sistemet e Inteligjencës Artificiale duhet të reagojnë kur përballen me përdorues në gjendje të rënduar psikologjike, veçanërisht kur bisedat mund të ndikojnë në vendime me pasoja serioze.