Naučnici upozoravaju na pogrešne informacije - halucinacije veštačke inteligencije

Autor:

author

Beta

|

11. jan. 2026. 23:17

|

SCITECH

veštačka inteligencija

CL STOCK/Shutterstock

U Belgiji je nedavno pokrenuta debata oko upotrebe veštačke inteligencije, jer je Petra de Suter, rektorka Univerziteta u Gentu, koristila veštačku inteligenciju da napiše svoj uvodni govor za akademsku godinu prošlog septembra, ali njen tekst sadrži greške i dva izmišljena citata - to je ono što je poznato kao "halucinacija", preneo je belgijski javni servis RTBF.

 

Oglas

 

Prema Petri de Sater, Albert Ajnštajn je navodno rekao - Dogma je neprijatelj napretka. Osim što naučnik nikada nije izgovorio ovu rečenicu. Stoga je to halucinacija, lažna informacija koju veštačka inteligencija predstavlja kao istinitu.

 

Zamislite, da biste napisali govor, koristite ChatGPT. Tražite od njega da uključi citat Alberta Ajnštajna, na temu napretka. Moguća su dva scenarija. Ili vam nudi pravi citat, ili proizvodi verovatan citat, odnosno nešto što Ajnštajn nije rekao, ali je mogao.

 

Ig Bersini je profesor i direktor laboratorije za veštačku inteligenciju na belgijskom univerzitetu i objasnio je taj fenomen.

 

"Veštačka inteligencija je kombinovala Ajnštajnove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Ajnštajn je to mogao reći. ChatGPT kombinuje reči koje su često bile povezane zajedno. Ali naravno, ovaj citat je lažan jer ga Ajnštajn nikada nije izgovorio", rekao je Bersini.

 

Kada kažemo da citat ima smisla, to znači da je to statistička konstrukcija. On spaja različite reči koje su deo citata osobe, ali redosled tih reči ne postoji. Ajnštajn nikada nije rekao - Dogma je neprijatelj napretka.

 

Pročitajte još

thumbnail

Gugl uvodi nove AI alate u Gmail - veštačka inteligencija postaje lični asistent

SCITECH

|

9. jan

thumbnail

Više od 20 odsto sadržaja na Jutjubu kreirala je veštačka inteligencija

SCITECH

|

30. dec

U slučaju citata, to je fatalna greška, prema rečima Iga Bersinija.

 

"To je očigledno nešto što apsolutno mora biti provereno. A ako ste i rektor univerziteta, svakako morate da se pridržavate određenog etičkog kodeksa u vezi sa znanjem, a kada su u pitanju citati, apsolutno morate da proverite njihovu verodostojnost", jer je uz nekoliko klikova na pretraživaču dovoljno da se dokaže greška.

 

Giganti veštačke inteligencije pokušavaju da smanje ove halucinacije.

 

U nekim oblastima, one praktično ne postoje.

 

"Kada ima manje reči, kao u programiranju i matematici. Rečnik je ograničeniji za egzaktne nauke, tako da veštačka inteligencija funkcioniše veoma dobro. Komplikovanije je kada je koristite za romane, eseje, filozofske tekstove ili govore. Reči su raznovrsnije i mogu imati višestruka značenja", rekao je Bersini i dodao da je u ovim oblastima potreban dodatni oprez.

 

Nesrećno iskustvo Petre de Suter služi kao podsetnik.

 

Veštačka inteligencija nas može prevariti. I ona pravi lapsuse, pošto je apsorbovala sve tekstove koji su joj dati. To je takođe svojstveno ljudskoj prirodi. Osim što ljudi razumeju koncept istine i laži, za razliku od veštačke inteligencije. Ona ne proverava svoje izvore.

 

Dakle, na vama je da pažljivo obradite informacije koje prikupite i da u svakom trenutku vežbate svoje kritičko razmišljanje, dodao je Bersini.

 

 

***

Komentar

***

 

Odlično zapažanje, koje je već "predvideo" Friš 1955., u "Homo Faber-u" (Sofoklo u novom ruhu) glavni junak inženjer (opsednut - Maksvelovim demon – i verom u nepogrešivost razuma) savremeni "Edip". Živimo po inerciji (koja je proizvod) kada smo živeli u "malim brojevima", ali ta inercija se ubrzano gubi – stari morali su srušeni a novi moral za "velike brojeve" nije stvoren – danas zanemarljiv broj ljudi na zemlji uspeva da pravi razliku između istine i laži (to su oni koji se koriste principom "opovrgavanja", velika većina ljudi na Zemlji se poput političara i inžinjera koristi principom "potvrđivanja" – koriste se samo oni primeri koji potvrđuju njihovo mišljenje, prigovori, kontrapimeri i tsl se zanemaruju, odbacuju). Naučno tehnička revolucija (1687.), pojava vakcina, novi način života na Zemlji i tsl., za 200 god je učinila da Homo sapijens je od 1 milijarde narasate na 8. Sve se ubrzalo i uvećalo (od "malih" na "velike" brojeve) tako da su naša rešenja iz sociologije, psihologije, ekonomije, politikologije – zakržljala (to su rešenja koja su pravljena za "male brojeve") – nisu dorasla problemima ("velikih brojeva"; u konačnom skupu: 1+1=2 ali to ne važi u beskonačnom skupu – tu važe druga pravila). Čovečanstvo je u 21 veku brodolomnik kome je voda došla do grla, problemi nas pretiču – "profesionalni političari" koji vladaju u savezu sa inžinjerima (specijalistima) održavaju ovaj involuciski status qvo! Naročito su ubrzali vreme koje protekne od nekog "otkrića" do njegove eksploatacije u praksi (nema vremena da se ispitaju nenameravane posledice!). Problemi nadilaze države, mi smo deo duge evolucije sisara, primata, sve što je u nama, čak i naša psiha i moral  nastajali su najmanje 50 miliona godina u malim zajednicama ("mali brojevi"). Otuda naša društva su najbolje funkcionišu kada su - što je više moguće - oponašala male zajednice naših pra-predaka (tu su živeli, radili i vodili svoj društveni život). Postoje biološke granice - naše ljudske predispozicije koja  je "oblikovana" u toj dugoj evoluciji milionima godina unazad u malim zajednicama na "malim brojevima". Nije moguće to USPEŠNO "preokrenuti" u nano-sekundi (200 god prema 50 miliona) – da važi za "velike brojeve"! Život na zemlji je u fazi involucije!

 

Zoran Stokić

13.01.2026.