Pravni izzivi umetne inteligence: Akt o umetni inteligenci in pravna skladnost UI-rešitev za IKT-podjetja
29. 9. 2026 | 13.00 - 15.00 | Spletni seminar
Cilj spletnega seminarja je udeležencem iz IKT podjetij, ki razvijajo, uvajajo ali uporabljajo sisteme umetne inteligence, predstaviti ključne pravne zahteve, regulatorne trende in praktične obveznosti, ki jih prinaša evropska uredba o umetni inteligenci (AI Act), ter jim pomagati vzpostaviti skladnost pri razvoju in uporabi AI rešitev. Posebna pozornost bo namenjena razlikovanju med posameznimi vlogami v AI vrednostni verigi – ponudnikom, razvijalcem po naročilu, uvajalcem, distributerjem in uvoznikom – ter obveznostim, ki jih posamezna vloga prinaša.
Udeleženci bodo spoznali praktičen pristop h klasifikaciji AI sistemov glede na stopnjo tveganja (minimalno, omejeno in visoko tveganje) ter razumeli, kako klasifikacija vpliva na pravne in tehnične zahteve. Podrobneje bodo predstavljene obveznosti pri razvoju, vključno s pripravo tehnične dokumentacije, upravljanjem podatkovnih nizov, zagotavljanjem sledljivosti, ko je rešitev že na voljo na trgu, in logiranja, vzpostavitvijo človeškega nadzora, izvajanjem testiranja in validacije, spremljanjem delovanja ter poročanjem o resnih incidentih.
Poseben sklop bo namenjen uporabi generativne umetne inteligence in GPAI modelov. Obravnavani bodo primeri, ko podjetja svoje rešitve gradijo na modelih tretjih ponudnikov ali razvijajo lastne modele, skupaj z zahtevami glede transparentnosti, spoštovanja avtorskih pravic ter obvladovanja tveganj pri modelih s sistemskim tveganjem. Pravila za ponudnike GPAI modelov so po navedbah Evropske komisije začela veljati avgusta 2025, vključujejo pa tudi transparentnost, avtorske pravice ter obvladovanje tveganj pri modelih s sistemskim tveganjem.
Spletni seminar bo obravnaval tudi druga ključna pravna tveganja za podjetja, povezana z uporabo umetne inteligence, predvsem na področju varstva osebnih podatkov, intelektualne lastnine, nediskriminacije in odgovornosti za škodo. V zaključnem delu bodo predstavljeni praktični pristopi k zagotavljanju skladnosti podjetij z zakonodajo, vključno z vzpostavitvijo AI upravljavskega modela, pripravo internih pravil uporabe umetne inteligence, izvajanjem ocen pravnih in etičnih tveganj ter možnostmi sodelovanja v AI regulatornem peskovniku.
S pridobljenim znanjem bodo udeleženci znali prepoznati svojo vlogo v AI vrednostni verigi, izvesti osnovno klasifikacijo AI sistema glede na tveganje ter opredeliti ključne korake za vzpostavitev skladnosti pri razvoju ali uporabi AI rešitev.
Program seminarja (dnevni red):
Program je še v pripravi.
| Razlikovanje med vlogo ponudnika, uvajalca, distributerja, uvoznika in razvijalca po naročilu |
 |
V prvem delu webinarja se bomo osredotočili na razlikovanje med vlogo ponudnika, uvajalca, distributerja, uvoznika in razvijalca po naročilu, saj so v skladu z Aktom o umetni inteligenci od vloge odvisne tudi obveznosti akterja na trgu. Skozi primere si bomo pogledali razlikovalna merila, ki vključujejo lastno ime ali znamko, dajanje na trg, uporabo na lastno odgovornost in uvoz iz tretje države. V praksi se vloge lahko prepletajo, tako da bomo analizirali tudi vprašanje, kdaj razvoj po naročilu, bistvena predelava ali sprememba namena podjetje iz uvajalca spremeni v polno odgovornega ponudnika. Prvi korak pri zagotavljanju skladnosti je namreč ugotavljanje lastne vloge.
Lana K. Gotvan je asistentka in raziskovalka na katedri za pravnoekonomske znanosti na Pravni fakulteti v Ljubljani. Ukvarja se z ekonomsko analizo prava, insolvenčnim pravom ter vedenjskim pravom in ekonomijo. Prav tako sodeluje v več evropskih projektih, ki se ukvarjajo z uvedbo umetne inteligence v sodni proces.
|
| Avtorskopravni vidiki umetne inteligence za podjetja |
|
Prispevek bo prikazal ključna avtorskopravna vprašanja, ki jih odpira generativna umetna inteligenca, in njihov pomen za podjetja. Na vhodni strani, tj. pri razvoju UI, so pomembne zakonske izjeme za besedilno in podatkovno rudarjenje, ki pod določenimi pogoji dopuščajo učenje modelov UI na avtorskih delih, do katerih se zakonito dostopa. Na izhodni strani, tj. v zvezi z vsebinami, ki jih generira UI, bodo prikazana stališča pravne teorije in sodne prakse glede avtorstva in pripadnosti pravic na takih izdelkih. Obravnavana bo tudi možna odgovornost podjetja za kršitve avtorskih pravic tretjih oseb pri uporabi izpisov generativne UI, npr. pri povzemanju, prevajanju in ustvarjanju novih vsebin, če se pri tem nehote reproducirajo avtorska dela tretjih.
Dr. Matija Damjan je izredni profesor za civilno in gospodarsko pravo na Pravni fakulteti Univerze v Ljubljani, direktor Inštituta za primerjalno pravo pri Pravni fakulteti v Ljubljani in urednik revije Pravni letopis. Pravniški državni izpit je opravil leta 2005 po pripravništvu na Višjem sodišču v Ljubljani. Leta 2007 je doktoriral z disertacijo o prostih licencah kot pravni podlagi odprte vsebine. Od tedaj deluje v znanstvenoraziskovalni dejavnosti na področju prava. Pri svojem raziskovalnem in pedagoškem delu se posveča zlasti pravu intelektualne lastnine, civilnem pravu in pravu informacijske družbe.
|
| Uporaba generativne umetne inteligence in modelov umetne inteligence za splošne namene |
|
V četrtem delu spletnega predavanja bomo obravnavali uporabo generativne umetne inteligence in modelov umetne inteligence za splošne namene, zlasti kadar podjetje svojo rešitev gradi na modelih tretjih ponudnikov, uporablja odprtokodne modele ali razvija oziroma dodatno prilagaja svoje modele. Na podlagi praktičnih primerov bo pojasnjena razlika med uporabo orodja, vgradnjo modela v lasten produkt in nastopanjem v vlogi ponudnika modela umetne inteligence za splošne namene, saj se obveznosti podjetja bistveno razlikujejo glede na njegovo dejansko vlogo. Predstavljena bo ureditev modelov umetne inteligence za splošne namene iz poglavja V Akta o umetni inteligenci, zlasti obveznosti ponudnikov glede tehnične dokumentacije in transparentnosti, skladnosti z avtorskim pravom Evropske unije, objave povzetka učnih podatkov ter dodatnih zahtev za modele s sistemskim tveganjem, ki vključujejo ocenjevanje in obvladovanje sistemskih tveganj, poročanje o incidentih ter zagotavljanje kibernetske varnosti. Namen tega dela spletnega predavanja je podjetjem na praktičen način pokazati, kdaj uporaba ali prilagoditev generativnega modela povzroči dodatne pravne obveznosti in katera vprašanja morajo razjasniti pred uvedbo takšne rešitve v poslovanje.
Lovro Bobnar je mladi raziskovalec na Inštitutu za primerjalno pravo in asistent na Katedri za mednarodno pravo Pravne fakultete Univerze v Ljubljani. Je magister prava in doktorski študent na Pravni fakulteti Univerze v Ljubljani, kjer pripravlja doktorsko disertacijo o vlogi mednarodnega prava pri urejanju umetne inteligence, z delovnim naslovom Vloga mednarodnega prava pri zagotavljanju skladnosti sistemov umetne inteligence s standardi varstva človekovih pravic. Raziskovalno se osredotoča na standard dolžne skrbnosti, postopke skrbnega pregleda na področju človekovih pravic ter uporabo mednarodnih standardov varstva človekovih pravic pri izvajanju regulativnih instrumentov, kot je Akt EU o umetni inteligenci. V okviru raziskovalnega programa Pravni izzivi informacijske družbe se ukvarja predvsem z umetno inteligenco, drugimi novimi tehnologijami ter njihovim vplivom na človekove pravice, sodeluje pa tudi pri drugih raziskovalnih projektih s področja umetne inteligence in mednarodnega prava. |
| Praktična klasifikacija UI rešitev glede na tveganje po Aktu o UI |
|
Akt o UI uvaja obveznost klasifikacije UI sistemov po stopnjah tveganja, a meja med kategorijami v praksi pogosto ni očitna. Na webinarju bomo sistematično pregledali merila, po katerih se določa, ali posamezna rešitev sodi med sisteme minimalnega, omejenega ali visokega tveganja, ter kateri primeri iz IKT področja spadajo v katero kategorijo. Posebna pozornost bo namenjena praktičnim dilemam, s katerimi se srečujejo razvijalci in ponudniki UI rešitev pri umeščanju svojih produktov v pravni okvir. Obravnavali bomo tudi pogosta napačna razumevanja in mejne primere, kjer je klasifikacija posebej zahtevna.
Jernej Renko je zaključil dodiplomski in magistrski študij na Pravni fakulteti Univerze v Ljubljani, magistriral na Humboldtovi univerzi v Berlinu v Nemčiji (LL. M. študij), trenutno pa na Pravni fakulteti Univerze v Ljubljani zaključuje doktorat iz področja odškodninske odgovornosti za avtonomne sisteme (UI). Tekom svojega doktorskega študija se je izpopolnjeval na Inštitutu Maxa Plancka za primerjalno in mednarodno zasebno pravo v Hamburgu v Nemčiji. Raziskovalno se ukvarja predvsem s pogodbenim, potrošniškim in odškodninskim pravom, zlasti z njihovo uporabo v kontekstu nastajajočih digitalnih tehnologij. |
| Ključne obveznosti po Aktu o umetni inteligenc |
 |
Uvodoma bo webinar naslovil ključne obveznosti, ki jih Akt o umetni inteligenci nalaga ponudnikom in drugim deležnikom pri razvoju ter uporabi sistemov umetne inteligence. Posebna pozornost bo namenjena zahtevam glede tehnične dokumentacije, upravljanja podatkovnih nizov, zagotavljanja sledljivosti in logiranja delovanja sistemov. Obravnavani bodo tudi mehanizmi človeškega nadzora, postopki testiranja ter zahteve za zagotavljanje skladnosti pred začetkom njegovega trženja. V zaključnem delu bodo predstavljene obveznosti spremljanja delovanja sistema po njegovi distribuciji na trgu ter poročanja o morebitnih nepravilnostih.
Masha Korošec je asistentka za civilno pravo na Pravni fakulteti Univerze v Ljubljani, kjer sodeluje pri pedagoškem in raziskovalnem delu, predvsem na področju stvarnega, obligacijskega in dednega prava. Kot raziskovalka deluje tudi na Inštitutu za primerjalno pravo. Je doktorska študentka na Pravni fakulteti Univerze v Ljubljani, kjer se v okviru svojega doktorskega raziskovanja posveča potrošniškemu pravu Evropske unije ter primerjalnopravnim vidikom ureditve varstva potrošnikov v nacionalnih pravnih redih.
|
Komu je seminar namenjen
Podjetjem, ki razvijajo ali uporabljajo sisteme AI.
Predavatelji
Z nami bodo predavatelji Fakultete za pravo, Univerze v Ljubljani: doc. dr. Maša Kovič Dine, izr. prof. dr. Matija Damjan, asist. Lana Gotvan, mag. prav., MJur asist. Masha Korošec, mag. prav. asist. Jernej Renko, mag. prav.
Pogoji prijave in kotizacija
Delavnica poteka v okviru projekta Kompetenčni center za umetno inteligenco Slovenije, zato je udeležba na spletnem seminarju brezplačna. Prijava je obvezna.