Članak 50. AI Acta: mora li vaš chatbot reći da je AI?

Da: od 2. kolovoza 2026. članak 50. Akta o umjetnoj inteligenciji (Uredba (EU) 2024/1689, poznatija kao AI Act) traži da osoba koja piše chatbotu ili razgovara s glasovnim agentom najkasnije pri prvoj interakciji sazna da komunicira s AI sustavom, osim ako je to očito. U većini slučajeva dovoljna je jasna rečenica u prvoj poruci chata ili u pozdravu na telefonu. Obvezu nosi dobavljač sustava, a to je i tvrtka koja je chatbot dala izraditi i koristi ga pod svojim imenom.

Isti članak traži i strojno čitljivo označivanje sadržaja koji AI generira, obavijest o prepoznavanju emocija i biometrijskoj kategorizaciji te vidljivu oznaku na uvjerljivim krivotvorinama i nekim AI tekstovima. Dobavljači generativnih sustava stavljenih na tržište prije 2. kolovoza 2026. za strojno čitljivo označivanje imaju rok do 2. prosinca 2026.

Što točno traži članak 50.?

Članak 50. skup je obveza transparentnosti za određene AI sustave (u hrvatskom tekstu Uredbe: UI sustave), prije svega one koji razgovaraju s ljudima ili stvaraju sadržaj, bez obzira na to jesu li visokorizični. Tvrtkama je važno pet stavaka:

• Interakcija s ljudima (stavak 1.). Dobavljač mora sustav namijenjen izravnoj interakciji s ljudima izraditi tako da osoba sazna da razgovara s AI sustavom, osim ako je to očito razmjerno dobro informiranoj, pronicljivoj i opreznoj osobi.
• Strojno čitljiva oznaka (stavak 2.). Dobavljači sustava koji generiraju sintetički zvuk, sliku, video ili tekst moraju izlazne rezultate označiti u strojno čitljivom obliku i omogućiti da ih se prepozna kao umjetno generirane.
• Emocije i biometrija (stavak 3.). Tko uvodi sustav za prepoznavanje emocija ili za biometrijsku kategorizaciju, mora o njegovu radu obavijestiti osobe koje su mu izložene.
• Krivotvorine i tekstovi (stavak 4.). Tko AI-jem stvara ili mijenja uvjerljiv krivotvoreni sadržaj (engl. deep fake), mora navesti da je sadržaj umjetno generiran. Isto vrijedi za tekst objavljen radi informiranja javnosti o pitanjima od javnog interesa, osim ako je prošao ljudski pregled ili uredničku kontrolu i netko za njega snosi uredničku odgovornost.
• Način i trenutak (stavak 5.). Informacije se daju jasno i raspoznatljivo, najkasnije pri prvoj interakciji ili prvom izlaganju, u skladu sa zahtjevima pristupačnosti.

Uvjerljiv krivotvoreni sadržaj je slika, zvuk ili video koji je AI stvorio ili izmijenio, a nalikuje stvarnim osobama, predmetima, mjestima, subjektima ili događajima i nekome bi se lažno mogao činiti vjerodostojnim (članak 3. točka 60.).

Jeste li dobavljač ili subjekt koji uvodi sustav?

Obveze su podijeljene između dviju uloga, pa za svaki sustav utvrdite koju imate:

• Dobavljač (engl. provider) je osoba ili tvrtka koja AI sustav razvija ili ga je dala razviti te ga pod vlastitim imenom ili žigom stavlja na tržište ili u upotrebu (članak 3. točka 3.). Odgovara za stavke 1. i 2.
• Subjekt koji uvodi sustav (engl. deployer) je osoba ili tvrtka koja AI sustav upotrebljava u okviru svoje nadležnosti, osim u osobnoj neprofesionalnoj djelatnosti (članak 3. točka 4.). Odgovara za stavke 3. i 4.

Ako ste chatbot ili glasovnog agenta dali izraditi po mjeri i koristite ga pod svojim imenom, vjerojatno ste dobavljač, iako ga niste sami programirali. Smjernice Europske komisije o članku 50., objavljene 20. srpnja 2026., kao primjer dobavljača navode i tvrtku koja je chatbot razvila za vlastitu upotrebu i koristi ga pod svojim imenom. Smjernice nisu pravno obvezujuće, ali su namijenjene i nadzornim tijelima.

Ako koristite gotov chatbot drugog proizvođača, obavijest iz stavka 1. mora osigurati on. Vi ste tada subjekt koji uvodi sustav, pa pazite da obavijest ne prikriju vaše postavke, primjerice ljudsko ime ili fotografija.

Kada nije potrebno reći da je AI?

Rijetko. Smjernice traže da se iznimka „osim ako je to očito” tumači restriktivno i primjenjuje samo kad prosječnoj osobi iz publike sustava gotovo ne ostaje sumnja. Očitost smanjuju fotografija osobe uz chatbot, prirodan glas i publika u kojoj su djeca, starije osobe ili osobe s invaliditetom, a po našem tumačenju i ljudsko ime. AI chatbot u službi za korisnike smjernice navode kao primjer na koji se iznimka ne primjenjuje.

Obavijest u pravilu ne treba:

• za internog asistenta namijenjenog osposobljenim zaposlenicima koji znaju da rade s AI-jem, što smjernice navode kao očitu interakciju,
• za jednostavne automatske odgovore po pravilima, poput chatbota s unaprijed zadanim gumbima, jer to u pravilu nije AI sustav,
• kad AI djelatniku predlaže odgovor, a djelatnik ga stvarno pregleda i pošalje kao glavni sugovornik.

Ako djelatnik samo prosljeđuje ono što napiše AI, obavijest je i dalje potrebna.

Kako i kada obavijestiti korisnika?

Najkasnije pri prvoj interakciji, jasno, raspoznatljivo i pristupačno (stavak 5.). Smjernice to razrađuju ovako:

• u chatu obavijest stoji u prvoj poruci, a preporučuje se i stalna oznaka uz polje za upis,
• na telefonu sustav to izgovori na početku, a u duljim razgovorima i nakon prekida podsjeti; sam zvučni signal nije dovoljan,
• sustav mora istinito odgovoriti kad ga netko pita je li čovjek,
• u osjetljivim razgovorima, poput financijskih, pravnih i zdravstvenih savjeta ili reklamacija, vjerojatno trebaju i povremeni podsjetnici,
• obavijest treba biti razumljiva i djeci, starijim osobama i osobama s invaliditetom ako sustav s njima može razgovarati.

Prema smjernicama nije dovoljna obavijest samo u uvjetima korištenja ili dokumentaciji, kao ni općenita rečenica „usluge na ovoj stranici koriste AI”, nejasan naziv „asistent” ili tehnički opis „sustav koristi velike jezične modele”.

Primjer obavijesti u chatu

„Dobar dan, ja sam virtualni asistent tvrtke [naziv tvrtke] i odgovaram uz pomoć umjetne inteligencije, a ne kao osoba. Ako želite razgovarati s nekim iz našeg tima, samo napišite.”

Uz polje za upis neka stalno stoji kratka oznaka, primjerice „AI asistent: odgovara umjetna inteligencija”. Ako tek uvodite AI chatbot za korisničku podršku, obavijest i oznaku upišite u specifikaciju.

Primjer pozdrava na telefonu

„Dobar dan, ovdje automatizirani asistent tvrtke [naziv tvrtke]. Razgovarate s umjetnom inteligencijom, a ne s osobom. Ako želite razgovarati s djelatnikom, recite ‚djelatnik’.”

Kod odlaznih poziva agent kaže i u čije ime zove, što smjernice traže od AI agenata. Ako se poziv snima, recite i to, jer obavijest iz članka 50. ne zamjenjuje obavijesti koje traži GDPR.

U CallVisti, našoj platformi na kojoj gradimo AI glasovne agente, pozdrav kaže da je poziv automatiziran, a tekst pozdrava tvrtka može prilagoditi. Ako sugovornik pita razgovara li s čovjekom, agent potvrđuje da je automatiziran.

Što s tekstovima, slikama i glasom koje stvara AI?

Ako ste dobavljač chatbota ili glasovnog agenta, stavak 2. obvezuje vas: od izvođača i dobavljača jezičnog modela tražite opis kako se generirani tekst i zvuk strojno čitljivo označuju i provjeravaju. Smjernice dopuštaju oslanjanje na rješenje dobavljača modela, ali odgovornost ostaje na dobavljaču sustava. Izvan obveze su, među ostalim, kratki nizovi znakova poput oznaka u sučelju i izvorni kod.

Stavak 4. tiče se subjekta koji uvodi sustav:

• Slike, video i zvuk. Vidljivo označite AI sliku proizvoda koja ga prikazuje boljim nego što jest, video s realističnim AI avatarom direktora i sličan sadržaj koji bi se mogao shvatiti kao stvaran. Stvaran proizvod na AI pozadini u pravilu nije krivotvorina ako oglas ne zavarava o samom proizvodu.
• Tekstovi. Oznaku traži AI tekst objavljen radi informiranja javnosti o pitanjima od javnog interesa, primjerice o propisima, zdravlju ili sigurnosti potrošača. Opisi proizvoda i oglasi bez tvrdnji o zdravlju, sigurnosti ili održivosti nisu obuhvaćeni.
• Pregledan tekst. Oznaka ne treba ako tekst prije objave sadržajno pregleda stručna osoba, uz provjeru činjenica, i netko snosi uredničku odgovornost. Ispravak pravopisa nije takav pregled.

Za oznaku možete koristiti besplatne EU ikone za označivanje AI sadržaja, koje su u testiranju s korisnicima bile uspješnije uz kratak tekst.

Stavak 3. odnosi se na glasovnog agenta ako iz značajki glasa, poput podignutog glasa, zaključuje o emocijama sugovornika (uvodna izjava 18.). Tada sugovornike treba obavijestiti, a takav je sustav prema smjernicama i visokorizičan.

Od kada vrijedi i što je promijenio Digitalni omnibus?

Članak 50. primjenjuje se od 2. kolovoza 2026. (članak 113.). Uredba (EU) 2026/1744, Digitalni omnibus o umjetnoj inteligenciji, objavljena je u Službenom listu EU-a 24. srpnja 2026. i na snazi je od 27. srpnja 2026. Za članak 50. donijela je jedno prijelazno pravilo: dobavljači generativnih sustava stavljenih na tržište prije 2. kolovoza 2026. strojno čitljivo označivanje moraju uvesti do 2. prosinca 2026. (novi članak 111. stavak 4.). Smjernice to razdoblje priznaju i sustavima koji su prije tog datuma stavljeni u upotrebu.

Za obavijest da je riječ o AI-ju prijelaznog razdoblja nema. Smjernice izričito navode da sustav koji je istodobno interaktivan i generativan odgodu ima samo za označivanje, a takav je i chatbot na jezičnom modelu.

Sadržaj nastao prije 2. kolovoza 2026. ne treba naknadno označivati, osim AI tekstova o pitanjima od javnog interesa koji se objavljuju od tog datuma.

Komisija je 10. lipnja 2026. objavila i dobrovoljni kodeks prakse o transparentnosti sadržaja generiranog umjetnom inteligencijom. Komisija i Vijeće za umjetnu inteligenciju ocijenili su ga primjerenim za dokazivanje usklađenosti sa stavcima 2., 4. i 5.; za stavke 1. i 3. mjere birate sami, uz oslonac na smjernice.

Pregled po situacijama

Kolike su kazne i tko nadzire?

Za kršenje članka 50. Uredba predviđa upravne novčane kazne do 15 milijuna eura ili do 3 % ukupnog svjetskog godišnjeg prometa za prethodnu financijsku godinu, ovisno o tome koji je iznos veći (članak 99. stavak 4. točka (g)). Za mala i srednja poduzeća granica je manji od ta dva iznosa (članak 99. stavak 6.). Pravila o sankcijama donose države članice, a pri odmjeravanju se uzimaju u obzir okolnosti, među ostalim suradnja s nadležnim tijelima i mjere koje je tvrtka poduzela (članak 99. stavci 1. i 7.).

Nadzor provode nacionalna tijela za nadzor tržišta koja države imenuju prema članku 70., a pritužbu može podnijeti svatko tko ima razloga smatrati da je Uredba prekršena (članak 85.). Na popisu jedinstvenih kontaktnih točaka Europske komisije, ažuriranom 7. rujna 2026., hrvatsko tijelo još nije navedeno.

Popis koraka za tvrtku s chatbotom, glasovnim agentom i AI tekstovima

1. Popišite sustave: chatbot, glasovnog agenta, automatske odgovore e-poštom i alate za tekstove, slike i video.
2. Odredite ulogu za svaki sustav i u ugovoru s izvođačem uredite tko isporučuje obavijest i označivanje.
3. Uredite chat: obavijest u prvoj poruci i stalna oznaka uz polje za upis, čitljiva i čitaču zaslona.
4. Uredite telefon: agent u pozdravu kaže da je automatiziran i u čije ime zove, a ako se poziv snima, i to.
5. Testirajte pitanje „jesi li ti čovjek?” na nekoliko načina i usred razgovora. Odgovor uvijek mora biti istinit.
6. Ne skrivajte obavijest dizajnom: ljudsko ime, fotografija ili vrlo prirodan glas traže jasniju obavijest, a ne iznimku.
7. Riješite označivanje: ako ste dobavljač, tražite pisani opis kako se generirani tekst i zvuk strojno čitljivo označuju. Za sustave stavljene na tržište prije 2. kolovoza 2026. rok je 2. prosinca 2026.
8. Uredite objave: odredite tko stručno pregledava AI tekstove i javno navedite tko snosi uredničku odgovornost; ostalo što traži oznaku vidljivo označite.
9. Čuvajte dokaze: tekstove obavijesti, snimke zaslona, zapise testova i odluke o ulogama i iznimkama.

Ako vam treba cjelovita usklađenost s EU AI Actom, prvi razgovor s nama je besplatan. U njemu prolazimo kroz AI sustave koje koristite ili gradite, za svaki utvrđujemo vašu ulogu, pregledavamo obavijest u chatu i telefonskom pozdravu te dogovaramo što ispraviti odmah, a što do 2. prosinca 2026. Vodič ne zamjenjuje pravni savjet za vaš konkretan slučaj.