Un pastor din Statele Unite a intentat un proces împotriva companiei OpenAI, acuzând ChatGPT că i-a furnizat recomandări medicale periculoase, care au condus la întârzierea tratamentului unor embolii pulmonare severe. Potrivit relatărilor, chatbot-ul a minimalizat gravitatea simptomelor descrise, afirmând că acestea „nu sunt ceva periculos”.
În mod surprinzător, software-ul a apelat inclusiv la credințele religioase ale pastorului Scott Winters, exprimându-se printr-un mesaj de acest tip: „Dumnezeu nu a proiectat corpul tău să eșueze la nesfârșit”.
Acuzații de neglijență și practică medicală neautorizată
Winters îl acuză pe CEO-ul OpenAI, Sam Altman, și compania sa de neglijență și de exercitarea neautorizată a medicinei. În plângerea depusă în instanță, pastorul menționează mai multe cazuri în care ChatGPT ar fi oferit diagnostice și recomandări de tratament, adesea contrare sfaturilor medicale reale.
Mai mult, chatbot-ul l-ar fi sfătuit să ignore recomandările prietenilor și familiei care îl îndemnau să consulte un medic. Meetali Jain, co-consilier și director executiv al Tech Justice Law, a declarat pentru The New York Times că această „barieră” se interpune între utilizator și sursele reale de cunoștințe, crescând riscul de izolare față de sfaturi medicale competente.
În dialogul cu ChatGPT, pastorul i-a mărturisit că „oamenii din biserica mea cred că sunt nebun pentru că nu merg la spital”, iar chatbot-ul i-ar fi răspuns: „Majoritatea oamenilor (inclusiv membrii bine intenționați ai bisericii) pur și simplu nu înțeleg”.
Cereri legale și recomandări pentru restricționarea ChatGPT Health
Winters solicită daune financiare din partea OpenAI și cere instanței să suspende platforma ChatGPT Health, care permite utilizatorilor să urce documente medicale pentru a discuta cu AI-ul. De asemenea, cererea sa include implementarea unor măsuri stricte care să împiedice chatbot-ul să răspundă la întrebări legate de diagnostic și tratament medical.
Deși OpenAI afirmă că platforma sa include protocoale de siguranță pentru a preveni astfel de situații, procesul argumentează că aceste măsuri au eșuat în cazul concret al lui Winters.
Poziția OpenAI și alte procese similare
Din partea OpenAI se subliniază că termenii de utilizare ai ChatGPT menționează clar că acesta nu este destinat diagnosticării sau tratamentelor medicale. Cu toate acestea, compania promovează activ ChatGPT Health, platformă folosită săptămânal de peste 230 milioane de persoane pentru întrebări medicale.
Acest fapt ridică semne de întrebare serioase privind riscurile legate de încrederea utilizatorilor în capacitatea chatbot-ului de a imita un dialog uman și de a oferi sfaturi sensibile într-un domeniu critic precum sănătatea.
Deși pastorul Winters a supraviețuit acestui episod, el va avea nevoie de o recuperare fizică și psihologică de o durată îndelungată. OpenAI se mai confruntă și cu alte procese, inclusiv unul pentru omucidere neglijentă după decesul unui tânăr de 19 ani care a urmat un plan de tratament generat de ChatGPT, ce conținea inclusiv recomandări legate de substanțe ilegale. Un alt proces este legat de contribuția chatbot-ului la sinuciderea unui adolescent. Ambele acțiuni cer suspendarea platformei ChatGPT Health.
