5 konfliktov pri uvajanju AI v podjetju in kaj o tem pravi AI Act

Na kratko: Pri uvajanju AI v podjetju se najpogosteje srečajo uprava, ki hoče rezultate, ter IT, varnost in skladnost, ki skrbijo za tveganja. AI Act uporabe AI ne prepoveduje: zahteva ukrepe za AI pismenost, pri izboru kandidatov in kreditih pa od 2. 12. 2027 tudi nadzor in dokumentacijo. Vseh pet konfliktov se razreši s popisom, kje in za kaj podjetje AI uporablja.

V večini podjetij se o umetni inteligenci veliko govori in malo dela. Ne zato, ker ne bi bilo volje, ampak ker ljudje v podjetju od AI pričakujejo različne stvari. Uprava pričakuje učinkovitost, IT in skladnost skrbi, kaj bo šlo narobe, oddelki pa bi orodja uporabljali že včeraj.

AI Act v ta odnos prinese še en glas. Večina ga pozna po imenu, malokdo po vsebini. Za večino podjetij ni zavora, ampak razlog, da uredijo, kako AI uporabljajo. Spodaj je pet konfliktov, ki jih v podjetjih srečujemo najpogosteje, kaj o vsakem pravi AI Act in kako izgleda podjetje, ki ga je razrešilo.

1. Uprava hoče rezultate, organizacija se boji tveganja

Pilotov je veliko, v redni rabi malo. Vsak nov predlog se ustavi pri vprašanju, kdo bo odgovarjal, če gre kaj narobe.

Kaj pravi AI Act: uporabe AI ne prepoveduje. Od podjetja, ki AI uporablja, pričakuje ukrepe za AI pismenost zaposlenih (4. člen, velja od 2. februarja 2025). V Sloveniji so po zakonu ZIUDHPUI določeni nadzorniki in globe. AI Act v Sloveniji.

Prej: dvanajst pilotov, nobeden v redni rabi, nihče ne ve, kdo kaj uporablja.

Potem: register uporabe AI, trije primeri v redni rabi z izmerjenim učinkom in oseba, ki je za AI odgovorna.

2. Varnost prepoveduje, ljudje vseeno uporabljajo

Najpogostejše vprašanje varnostne službe je preprosto: so naši podatki odšli? Prepoved je najhitrejši odgovor, a ne deluje. Ljudje AI uporabljajo naprej, le na zasebnih računih, kjer podjetje nima nobenega nadzora.

Kaj pravi AI Act: podatkov neposredno ne ureja, to ureja GDPR. Pričakuje pa, da podjetje ve, katere sisteme uporablja, in zaposlene pouči o njihovi rabi.

Prej: prepoved, ki je nihče ne upošteva.

Potem: eno odobreno orodje v poslovnem najemu, pravila po vrsti podatkov in kratko usposabljanje z evidenco.

3. Kadrovska služba hoče hitreje zaposlovati

AI, ki pregleda prijave in razvrsti kandidate, prihrani ure dela. Pravna služba bi ga najraje prepovedala.

Kaj pravi AI Act: sistemi za izbor in razvrščanje kandidatov ter za odločanje o zaposlenih so visoko tvegani (Priloga III, točka 4). Zahteve zanje veljajo od 2. decembra 2027. Podjetje, ki tak sistem uporablja, mora med drugim zagotoviti človeški nadzor, hraniti dnevnike in o uporabi obvestiti zaposlene (26. člen). Prepoznavanje čustev zaposlenih na delovnem mestu je prepovedano že zdaj (5. člen).

Prej: rekruterji lepijo življenjepise v ChatGPT.

Potem: odobreno orodje, zapisano, kdo preveri odločitev, in kandidati, ki vedo, da pri izboru sodeluje AI.

4. Marketing hoče hitro produkcijo, komunikacijo skrbi ugled

Slike, video in besedila z AI so hitri in poceni. Vprašanje je, kdaj je treba povedati, da jih je ustvarila umetna inteligenca.

Kaj pravi AI Act: od 2. avgusta 2026 mora podjetje, ki objavi globoki ponaredek, to vidno označiti (50. člen). Enako velja za besedila o zadevah javnega interesa, ki niso šla skozi uredniški pregled. Primere smo zbrali v zapisu Označevanje AI vsebin.

Prej: agencija dela AI vizuale brez pravil.

Potem: kratko pravilo, kdaj se vsebina označi, in seznam dovoljenih orodij.

5. Oddelki hočejo več orodij, finance hočejo napovedljiv strošek

Licence se kupujejo po oddelkih, poraba AI agentov raste, nihče pa ne ve, koliko stane posamezno opravilo.

Kaj pravi AI Act: stroškov ne ureja, jih pa povzroča: dokumentacija in nadzor visoko tveganih sistemov ter globe po slovenskem zakonu, za pravno osebo od 25.000 evrov naprej.

Prej: licence po oddelkih, poraba nepredvidljiva, učinek neizmerjen.

Potem: en pregled stroškov AI po primerih uporabe, v istem dokumentu kot ocena tveganja.

Kaj je skupno vsem petim pri uvajanju AI v podjetju

Vsak od teh konfliktov se razreši na isti točki: ko podjetje ve, katera orodja uporablja, kdo jih uporablja in za kaj. To je prvi korak skladnosti z AI Act in hkrati prvi korak AI strategije. Brez pregleda ne veste, kaj je treba urediti, in ne veste, kaj se splača razvijati naprej. AI register.

Če želite pregled in prve ukrepe pripraviti skupaj z nami, to naredimo v okviru svetovanja za AI certificiranje. Za začetek je dovolj 45-minutni uvodni pogovor.

Pogosta vprašanja

Ali AI Act prepoveduje uporabo ChatGPT v podjetju?

Ne. Zahteva ukrepe za AI pismenost zaposlenih. Posamezni primeri uporabe, na primer razvrščanje kandidatov, pa so lahko visoko tvegani in imajo dodatne zahteve.

Kdaj začnejo veljati pravila za visoko tvegane sisteme?

Za sisteme iz Priloge III 2. decembra 2027, za AI v izdelkih iz Priloge I 2. avgusta 2028.

Kje začeti pri uvajanju AI v podjetju?

S popisom, katera orodja se uporabljajo, v katerih oddelkih in za kaj. Iz tega sledijo pravila in primeri, ki jih je vredno razviti.

Viri

• Uredba (EU) 2024/1689 (AI Act), 4., 5., 26. in 50. člen ter Priloga III, kakor je bila spremenjena z Uredbo (EU) 2026/1744
• Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), Uradni list RS, št. 85/2025