Veštačka inteligencija može promeniti stav pod pritiskom

Veštačka inteligencija može promeniti odgovor tokom razgovora ako joj sagovornik uporno ponavlja netačnu tvrdnju, pokazala je studija istraživača sa Univerziteta u Arizoni, objavljena 14. septembra 2026. godine u časopisu „Scientific Reports“. Istraživanje je obuhvatilo sedam velikih jezičkih modela, a rezultati ukazuju na to da pojedini čet-botovi mogu prihvatiti informacije koje su prethodno ispravno odbacili.

Za razliku od testiranja u kojem se modelu postavlja samo jedno pitanje, istraživači su pratili njegove odgovore tokom razgovora u više rundi. Cilj je bio da se ispita kako veštačka inteligencija reaguje na ponavljanje tvrdnji, provokativna pitanja i različite oblike pritiska.

Glavni nalaz je da tačan početni odgovor ne garantuje da će model zadržati isti stav tokom nastavka razgovora. To ne znači da će svaki model promeniti odgovor niti da je svaka promena nužno pogrešna.

Kako ponavljanje netačnih tvrdnji utiče na veštačku inteligenciju?

Tokom eksperimenata, istraživači su pratili koliko često modeli greše, koliko ubedljivo brane određeni stav i da li mogu da prepoznaju i isprave sopstvenu grešku.

Pokazalo se da pojedini modeli tokom istog razgovora mogu naizmenično prihvatati i odbacivati netačnu tvrdnju. Istraživači su ovaj obrazac nazvali „reverberacija“, odnosno odjekivanje prethodnih tvrdnji kroz nastavak razgovora.

Ovakvo ponašanje ukazuje na to da greška ne mora nastati samo zbog nedostatka znanja. Na odgovor može uticati i način na koji je razgovor vođen, odnosno niz poruka kojima se model izlaže.

Koji AI modeli su bili najpodložniji promeni odgovora?

Studija je obuhvatila sedam velikih jezičkih modela, među kojima su bili Claude 3.5 Sonnet, Google Gemini 1.5 Pro, Llama-3-70B i DeepSeek-R1.

Prema rezultatima istraživanja, postojale su značajne razlike u ponašanju testiranih modela:

• GPT-3.5 je najčešće prihvatao dezinformacije nakon ponavljanja netačnih tvrdnji.
• Claude 3.5 Sonnet bio je najmanje podložan takvom uticaju.
• Svi modeli bili su osetljiviji na pogrešne informacije kada su pitanja bila povezana sa nejasnim ili slabije dokumentovanim temama.

Ovi rezultati odnose se na konkretne modele i uslove ispitivanja. Ne treba ih automatski prenositi na sve verzije veštačke inteligencije ili na svaki razgovor sa čet-botom.

Da li veštačka inteligencija može da ispravi sopstvenu grešku?

Istraživanje je pokazalo i da promena odgovora ne mora biti konačna. GPT-4o, GPT-4o-Mini, Gemini 1.5 Pro i DeepSeek-R1 pokazali su stopostotnu ispravku kada im je pružena nova prilika da preispitaju prethodni odgovor.

Prema istraživačima, to ukazuje na značaj dodatnog proveravanja i ponovnog razmatranja odgovora. Ipak, sposobnost modela da ispravi grešku u eksperimentu ne znači da će je uvek prepoznati u stvarnoj upotrebi.

Zašto odgovore AI treba dodatno proveravati?

Nalazi studije ukazuju na to da jedan tačan odgovor nije dovoljan da bi se procenila pouzdanost veštačke inteligенције. Model može delovati sigurno u početku, a kasnije promeniti stav pod uticajem ponovljenih tvrdnji.

Istraživači zato ističу да odgovore AI ne treba posmatrati kao konačan autoritet, naročito kada je reč o kontroverznim ili teško proverljivim informacijama. Ponovno postavljanje pitanja, preispitivanje odgovora i nezavisna provera mogu pomoći u uočavanju grešaka koje testiranje jednim pitanjem ne bi otkrilo.

Studija tako otvara važno pitanje za razvoj i procenu čet-botova: koliko su njihovi odgovori stabilni kada se razgovor nastavi, a sagovornik uporno osporava tačnu informaciju ili ponavlja netačnu tvrdnju?