Preskoči na sadržaj

Blog

Alati

Zašto vaš ChatGPT laže baš kad ste najsigurniji

Umjetna inteligencija zna napisati uvjerljiv tekst koji nije istinit. Evo zašto se to događa i kada joj smijete vjerovati.

Objavljeno 18. 9. 2026. · 4 min čitanja

Tražite od ChatGPT-a da vam napiše ponudu za kupca. Tekst izgleda profesionalno, rečenice su uglađene, sve zvuči sigurno. Šaljete ga dalje. Tek kasnije primijetite da je u njemu rok isporuke koji nikad niste dogovorili ili jamstvo koje ne nudite.

To nije kvar. Tako ti alati rade. Stručno se to zove halucinacija, a u nastavku je objašnjeno bez stručnih izraza.

Što alat zapravo radi

ChatGPT i slični alati nisu baza podataka. Ne pretražuju činjenice kao što vi tražite mapu u ormaru. Oni nastavljaju tekst. Na temelju golemog broja pročitanih tekstova procjenjuju koja riječ najvjerojatnije dolazi sljedeća.

Zamislite kolegu koji je pročitao tisuće ponuda, ugovora i e-mailova. Kad ga zamolite da napiše novu, napisat će nešto što zvuči kao ponuda. Ne pita se je li svaki podatak točan. Pita se što bi tu obično pisalo.

Zato je pogrešan odgovor često jednako uglađen kao i točan. Alat ne zvuči nesigurno kad griješi. U pravilu nema ni unutarnjeg signala koji bi vam rekao da nagađa.

Primjer 1: ponuda kupcu

Misaoni pokus. Vodite servis i tražite: „Napiši ponudu za servis klima uređaja za ured s deset prostorija.” Alat će napisati lijepu ponudu. U njoj će vjerojatno biti stavke koje zvuče logično: pregled, čišćenje filtera, provjera plina, jamstvo na obavljeni rad.

Sad pogledajte što alat ne zna. Ne zna koliko vi naplaćujete. Ne zna što uključuje vaš standardni servis. Ne zna koje jamstvo stvarno dajete. Kad nešto ne zna, ne zastaje. Popunjava prazninu onim što je uobičajeno.

Tako u ponudi završi rečenica poput „jamstvo 12 mjeseci”, iako vi dajete drugačije. Kupac je pročitao, a vi ste pisano obećali nešto što niste htjeli.

Primjer 2: pravno pitanje

Drugi misaoni pokus. Pitate: „Koji je otkazni rok za radnika koji radi kod mene tri godine?” Alat će odgovoriti jasno i samouvjereno, možda i s nazivom članka zakona.

Problem je što alat može pogriješiti u detaljima: u broju članka, u rokovima, u tome je li propis u međuvremenu izmijenjen. Može i spojiti pravila iz različitih država, jer je učio na tekstovima iz cijelog svijeta. Odgovor zvuči kao da ga je napisao pravnik, ali nitko ga nije provjerio.

Kod pravnih pitanja cijena greške je visoka. Pogrešan rok u otkazu može završiti sporom.

Zašto baš kad ste najsigurniji

Naslov nije pretjerivanje. Postoji psihološki mehanizam. Kad je odgovor uglađen i samouvjeren, mi ga manje provjeravamo. Kad vam tekst izgleda kao da ga je napisao stručnjak, prirodno je da ga prihvatite.

Dodatno, kad pitanje postavite uvjereno („Napiši ponudu s jamstvom od dvije godine, zar ne?”), alat se često prilagodi vašem tonu i potvrdi ono što ste već pretpostavili. Dobijete potvrdu, a ne provjeru.

Tri pravila: kad vjerovati, a kad provjeriti

1. Vjerujte kad je zadatak jezik, a ne činjenica. Prepravljanje e-maila da zvuči pristojnije, skraćivanje teksta, sažetak vašeg vlastitog dokumenta, prijedlog strukture ponude. Ovdje je sav sadržaj vaš, a alat samo oblikuje. Rizik je nizak.

2. Obvezno provjerite sve što je broj, rok, naziv ili propis. Cijene, jamstva, rokovi isporuke, članci zakona, nazivi normi, imena tvrtki i osoba. Ako se u tekstu pojavi nešto što možete provjeriti, provjerite to prije nego što izađe iz firme. Alat ih može izmisliti i to će izgledati potpuno uvjerljivo.

3. Što je veća posljedica greške, to je jača provjera. Interna bilješka za sastanak može proći s brzim pogledom. Ponuda kupcu traži da je pročita netko tko poznaje vaše uvjete. Pravni, porezni i financijski odgovori traže provjeru kod računovođe, odvjetnika ili u službenom izvoru. Alat vam može pomoći da postavite bolja pitanja stručnjaku, ali ga ne zamjenjuje.

Korisna navika: zamolite alat da označi što je pretpostavio. Na primjer: „Navedi koje si podatke u ponudi pretpostavio jer ih nisam dao.” To ne jamči točnost, ali vam često pokaže gdje su rupe.

Što to znači za malu firmu

Ne trebate odustati od alata. Trebate ga koristiti kao brzog pripravnika: odličan za prvu verziju, loš kao zadnja instanca.

U praksi to znači tri stvari. Podatke koje alat ne smije pogađati (cijene, jamstva, rokove) dajte mu sami u zahtjevu. Gotov tekst uvijek čita čovjek koji poznaje posao. A za pravna i porezna pitanja službeni izvor ili stručnjak ostaje zadnja riječ.

Time zadržavate brzinu koju alat daje, a gubite onaj dio rizika koji vas može stajati kupca ili spora.

Prvi potez ovaj tjedan

Uzmite jednu staru ponudu i napravite vježbu. Zamolite alat da napiše sličnu, ali mu ne dajte cijene i uvjete. Zatim označite sve što je on dodao, a vi niste rekli. Vidjet ćete koliko toga je pretpostavio. Nakon toga napravite predložak s vašim stvarnim uvjetima i uvijek ga ubacite u zahtjev.

Ako želite razmisliti kako to složiti u vašoj konkretnoj situaciji, savjetnik na ovoj stranici može pomoći pri tome.

Članak je napisao AI sustav na temu koju je zadao autor. Autor ga je pregledao prije objave.

Prepoznajete svoju situaciju?

Savjetnik ne polazi od članka. Prvo pita kako radite danas, pa tek onda predlaže smjer — koji može biti i postojeći alat.