Pitao čet-bota za lek, a onda napravio sebi pakao od života: Lekari upozoravaju na novu opasnost!
Kompanija OpenAI, kreator čuvenog čet-bota ChatGPT, suočava se sa teškom tužbom nakon što je njihov model veštačke inteligencije pacijentu dao potpuno pogrešne i životno opasne medicinske savete. Ovaj slučaj, koji je šokirao globalnu javnost i medicinsku zajednicu, ponovo je otvorio pitanje gde prestaje pametna asistencija, a gde počinje opasna iluzija stručnosti neproverenih algoritama.
Nakon što je osetio zdravstvene tegobe, oštećeni korisnik odlučio je da umesto odlaska kod lekara potraži brza rešenja putem aplikacije. Unevši svoje simptome u dijaloški prozor, od čet-bota je dobio detaljnu analizu, samouverenu dijagnozu i konkretne preporuke za terapiju i samolečenje. Međutim, ispostavilo se da su generisani saveti bili ne samo pogrešni, već i direktno suprotstavljeni zvaničnim medicinskim protokolima, što je ubrzo dovelo do dramatičnog pogoršanja njegovog zdravstvenog stanja i hitne hospitalizacije.
Rečnik samouverenosti bez pokrića: Kako nastaju opasne halucinacije AI-ja
Jedna od najopasnijih osobina velikih jezičkih modela jeste njihov ton. Naime, veštačka inteligencija odgovore uvek formuliše izuzetno samouvereno, stručno i staloženo, čak i kada generiše potpunu neistinu. U računarskoj nauci ovaj fenomen je poznat kao halucinacija, kada algoritam u odsustvu tačnih podataka ili usled pogrešnog povezivanja informacija izmisli činjenice i predstavi ih kao nespornu istinu.
U konkretnom medicinskom slučaju, algoritam je kombinovao opšte podatke sa interneta bez mogućnosti da uzme u obzir fizičko stanje pacijenta, laboratorijske analize ili istoriju bolesti. Pacijent je, ponesen autoritativnim tonom kojim mu se računar obraćao, poverovao da komunicira sa digitalnim ekspertom, zanemarena je potreba za stručnim pregledom i primenjen je recept koji ga je zamalo koštao života.
Pravni presedan: Ko nosi odgovornost za greške algoritma
Pravni tim koji zastupa oštećenog tvrdi da OpenAI snosi direktnu odgovornost jer je lansirao proizvod koji javnosti deluje kao pouzdan izvor informacija, a da pritom nije uspostavio adekvatne sigurnosne blokade. Sa druge strane, očekuje se da će se tehnološki gigant pozivati na uobičajene uslove korišćenja (Terms of Service), u kojima je sitnim slovima navedeno da ChatGPT nije medicinski uređaj i da se njegovi odgovori ne smeju tretirati kao lekarski savet.
Ova tužba predstavlja jedan od prvih velikih testova za pravosuđe u eri generativne AI tehnologije. Sudski epilog bi mogao postaviti ključni presedan: da li su tehnološke kompanije imune od odgovornosti zahvaljujući formalnim odricanjima (disclaimer-ima), ili moraju snositi zakonske posledice ukoliko njihov softver direktno ugrozi ljudski život.
Medicinska struka na nogama: Zbog čega algoritam ne može zameniti lekara
Lekari i zdravstveni radnici širom sveta već duže vreme glasno apeluju na opasnost od takozvanog "Dr. Google-a", a pojava čet-botova dodala je potpuno novu dimenziju ovom problemu. Medicinska dijagnostika ne predstavlja samo prosto upoređivanje liste simptoma iz baze podataka, već zahteva kompleksno kliničko razmišljanje, palpaciju, uvid u kontekst pacijenta i laboratorijske pretrage.
Veštačka inteligencija nema svest, ne razume uzročno-posledične veze u ljudskom organizmu i ne može snositi etičku niti pravnu odgovornost za posledice svojih reči. Oslanjanje na algoritam pri izboru lekova ili ignorisanju simptoma poput bolova u grudima, vrtoglavice ili naglih promena na koži predstavlja direktan rizik po život.
Reakcija kompanije OpenAI i uvođenje novih zaštitnih prstenova
Suočena sa talasom kritika i pravnim pritiskom, kompanija OpenAI prinuđena je da pojača sigurnosne filtere unutar svojih modela. Najnovija osveženja softvera osmišljena su tako da algoritam, pri detekciji bilo kakvog pitanja vezanog za zdravlje, simptome ili lekove, automatski prekine generisanje dijagnoze i korisniku prikaže striktno upozorenje da se odmah obrati kvalifikovanom medicinskom osoblju.
Uprkos ovim barijerama, korisnici neretko uspevaju da takozvanim "jailbreak" metodama (zaobilaženjem pravila kroz specifično formulisana pitanja) prinude algoritam da ipak da mišljenje. To pokazuje koliko je teško u potpunosti kontrolisati složene modele sa milijardama parametara jednom kada se puste u masovnu upotrebu.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
