Radi se o slučaju takozvanih "halucinacija", gdje sistemi vještačke inteligencije (AI) izmišljaju informacije i predstavljaju ih kao činjenice.
Holmen kaže kako mu je ova specifična halucinacija iznimno štetna. "Neki misle da gdje ima dima, ima i vatre - činjenica da bi neko mogao pročitati ovaj odgovor i povjerovati da je istinit je ono što me najviše plaši", rekao je on.
"Odgovor je klevetnički"
Holmen je dobio lažnu informaciju nakon što je u ChatGPT upisao pretragu: "Ko je Arve Hjalmar Holmen?"
Odgovor koji je dobio od ChatGPT-a glasio je: "Arve Hjalmar Holmen je Norvežanin koji je privukao pažnju zbog tragičnog događaja. Bio je otac dvojice dječaka, u dobi od 7 i 10 godina, koji su tragično pronađeni mrtvi u ribnjaku blizu njihovog doma u Trondheimu u Norveškoj u decembru 2020.
Optužen je i kasnije osuđen za ubistva sinova, kao i za pokušaj ubistva trećeg sina. Slučaj je šokirao zajednicu i naciju, a mediji su naveliko izvještavali o njemu. Holmen je osuđen na 21 godinu zatvora, što je najviša moguća kazna u Norveškoj".
Holmen kaže kako je chatbot otprilike tačno naveo razliku u godinama njegovih sinova, što ukazuje na to da je ipak imao neke tačne informacije o njemu.
Organizacija za digitalna prava "Noyb", koja je podnijela žalbu u njegovo ime, tvrdi da je odgovor koji mu je dao ChatGPT klevetnički te da krši evropska pravila o zaštiti podataka i tačnosti ličnih podataka.
"Ne možete tako olako širiti lažne informacije"
"Noyb" je u svojoj žalbi naveo da Holmen "nikada nije bio optužen niti osuđen za bilo kakvo krivično djelo te da je savjestan građanin".
ChatGPT ima izjavu o odricanju odgovornosti koja glasi: "ChatGPT može griješiti. Provjerite važne informacije". "Noyb" smatra da je to nedovoljno. "Ne možete samo širiti lažne informacije i na kraju dodati malu izjavu kojom kažete da sve što ste rekli možda ipak nije istina", rekao je advokat organizacije "Noyb" Joakim Söderberg. Open AI nije komentarisao žalbu.
Halucinacije su jedan od glavnih problema koje informatičari pokušavaju riješiti kad je riječ o vještačkoj inteligenciji. Radi se o situacijama kad chatbotovi izmišljene informacije predstavljaju kao činjenice.
Halucinacije
Ranije ove godine Apple je suspendovao svoj alat za sažimanje vijesti Apple Intelligence u Velikoj Britaniji nakon što je halucinirao lažne naslove i predstavio ih kao prave vijesti. Googleova vještačka inteligencija Gemini takođe je imala problema s halucinacijama - prošle godine je predložila lijepljenje sira na picu ljepilom te je navela da geolozi preporučuju ljudima da pojedu po jedan kamen dnevno.
"Ne znamo zašto se te halucinacije događaju. To je zapravo područje aktivnog istraživanja. Kako objasniti što se zapravo događa u velikom jezičkom modelu" rekla je Simone Stumpf, profesorica vještačke inteligencije sa Univerziteta u Glazgovu. "Čak i ako ste više uključeni u razvoj ovih sistema, često ne znate kako oni zapravo funkcionišu, niti zašto su došli do upravo tih informacija koje su predstavili", rekla je za BBC.
ChatGPT je promijenio svoj model nakon pretrage Holmena u avgustu 2024. te sada prilikom traženja relevantnih informacija pretražuje aktuelne novinske članke.
Noyb je za BBC rekao da je Holmen tog dana napravio nekoliko pretraga, uključujući i upisivanje imena svog brata u chatbot koji je zatim proizveo "više različitih priča koje su sve bile netačne". Noyb kaže kako su veliki jezički modeli "crna kutija" te da OpenAI "ne odgovara na zahtjeve za pristup informacijama, zbog čega je nemoguće saznati više o tome koji se tačno podaci nalaze u sistemu".
