Američki svećenik Skot Vinter (Scott Winters) podnio je tužbu protiv kompanije OpenAI, tvrdeći da mu je njihov chatbot ChatGPT davao pogrešne i opasne zdravstvene savjete zbog kojih je odgodio odlazak ljekaru, iako je imao ozbiljan zdravstveni problem.

Bezazleni simptomi

Prema pisanju The New York Times, Vinter tvrdi da je chatbot njegove simptome procijenio kao bezazlene, dok je kasnije utvrđeno da je imao više plućnih embolija. U tužbi navodi da ga je ChatGPT uvjeravao kako njegovo stanje nije ozbiljno i da njegovo tijelo nije pred otkazivanjem.

Vinter u tužbi optužuje OpenAI i izvršnog direktora Sema Altmana (Sam Altman) za nemar i, kako tvrdi, "neovlašteno bavljenje medicinom". Navodi da je chatbot u više navrata davao procjene njegovog zdravstvenog stanja i predlagao postupke, umjesto da ga uputi zdravstvenim radnicima.

Prema njegovim tvrdnjama, ChatGPT ga je čak odvraćao od odlaska u bolnicu, iako su ga porodica i prijatelji nagovarali da potraži ljekarsku pomoć.

Advokatica Mitali Džejn (Mitali Jain), izvršna direktorica organizacije Tech Justice Law, kazala je za The New York Times da se chatbot u ovakvim situacijama može "postaviti između korisnika i ljudi iz njegovog stvarnog života", što može imati ozbiljne posljedice.

Mehanizmi zaštite

Vinter od suda traži novčanu odštetu, ali i privremenu obustavu rada platforme ChatGPT Health dok nezavisni stručnjaci ne utvrde njenu sigurnost. Također zahtijeva strožije zaštitne mehanizme kako bi se spriječilo da chatbot korisnicima daje medicinske dijagnoze ili preporuke za liječenje.

Iz kompanije OpenAI navode da je u pravilima korištenja jasno navedeno kako ChatGPT nije namijenjen za postavljanje medicinskih dijagnoza niti pružanje terapijskih preporuka.

Slučaj je ponovo otvorio raspravu o granicama odgovornosti umjetne inteligencije u zdravstvu, posebno zbog sve većeg broja korisnika koji AI alate koriste za zdravstvena pitanja. Vinter je, uprkos ozbiljnim komplikacijama, preživio, ali tvrdi da ga očekuje dug oporavak.