Autorka sa v predmetnom odbornom príspevku zaoberá právnym statusom umelej inteligencie (AI), a teda ako by sa mala AI klasifikovať a aké práva a povinnosti by mala mať.
Na úvod
Drvivá väčšina právnych systémov uznáva dve formy subjektov majúcich právnu subjektivitu, a to fyzickú osobu (FO) a právnickú osobu (PO). Fyzická osoba je prirodzená osoba – ľudská bytosť. Naproti tomu právnická osoba je umelý (vytvorený) subjekt, ktorému zákon priznáva určité práva a povinnosti. V rámci budovania konceptu právnických osôb sa uplatňujú dve základné teórie, a to teória fikcie (pripúšťajúca existenciu len FO, zatiaľ čo PO je považovaná iba za fiktívny obraz FO) a teória reality (ktorá definuje PO ako reálne existujúcu konštrukciu).[1]
Tri teórie prístupu k právnemu statusu AI
V súčasnosti sa väčšina výskumov o právnom statuse umelej inteligencie zameriava na skúmanie konceptu umelej inteligencie z rôznych uhlov pohľadov s kľúčovou otázkou, či je umelá inteligencia právnym subjektom, objektom alebo kompromisom medzi nimi. Postupne sa vyvinuli nasledovné teórie:
Negatívna teória tvrdí, že umelá inteligencia je len predmetom právnych vzťahov, t. j. objektom a nemal by jej byť udelený štatút právneho subjektu. AI by tak mala byť považovaná za predmet vlastníctva a mala by byť vlastnená a kontrolovaná ľuďmi. Z toho vychádza, že AI by sa nemala považovať za subjekt práva a nemala by mať žiadne osobitné práva ani ochranu. S tým súvisí aj skutočnosť, že v takomto prípade AI nenesie zodpovednosť za svoje konanie.
Pozitívna teória tvrdí, že umelá inteligencia by mala mať kvalifikáciu právneho subjektu, podľa tejto teórie by AI mala mať určitú mieru autonómie a práv, podobne ako právnické osoby (napr. obchodné spoločnosti). Zástancovia pozitívnej teórie, veria, že s rýchlym rozvojom umelej inteligencie bude široko používaná vo všetkých oblastiach spoločnosti a bude mať schopnosť nezávisle ovplyvňovať práva a povinnosti ostatných. S rozvojom spoločnosti priznanie pozície právneho subjektu pritom prelomilo obmedzenie len na fyzické osoby a mnohým ,,nefyzickým subjektom“ boli postupne priznané práva a povinnosti v práve na základe potrieb zákonodarcov a získali status právneho subjektu.[2] Ako sme už uviedli typickým príkladom sú právnické osoby, napríklad obchodné spoločnosti.
Teória kompromisu tiež známa ako teória obmedzenej právnej subjektivity umelej inteligencie. Táto teória tvrdí, že umelá inteligencia má mať právnu subjektivitu, ale jej osobnosť je osobitná a rozsah jej práv a povinností má byť obmedzený v porovnaní s inými právnymi subjektmi. Umelá inteligencia má nezávislé a autonómne behaviorálne schopnosti, ktoré by mali mať právnu subjektivitu. Keďže dôsledky behaviorálnej schopnosti umelej inteligencie sú obmedzené, predpokladá sa, že má obmedzenú právnu subjektivitu. Celkovo teória kompromisu obhajuje, že umelá inteligencia má mať právnu subjektivitu, aj keď má mať v porovnaní s fyzickými osobami len čiastočné a obmedzené práva a povinnosti, jej vlastné postavenie právneho subjektu je neúplné, a skutočná schopnosť požívať práva a plniť povinnosti ako i normatívna kvalifikácia má nedostatky. Pokiaľ ide o počet práv a povinností, ide o ,,kvantitatívne“ rozlíšenie a neovplyvňuje ,,kvalitatívny“ úsudok, takže táto kompromisná teória stále patrí do podkategórie pozitívnej teórie.[3]
Aký právny status má AI v súčasnosti?
Slovenská legislatíva stanovuje, že spôsobilosťou na práva a povinnosti a spôsobilosťou na právne úkony môžu disponovať len fyzické[4] prípadne právnické osoby.AI nie je ani fyzická ani právnická osoba, a v súčasnosti nemá právnu subjektivitu konať ako fyzická alebo právnická osoba. To znamená, že systém AI nemôže v súčasnosti legálne vykonávať všetky činnosti, ktoré môže vykonávať fyzická alebo právnická osoba. To platí vo všeobecnosti, napr. stroj alebo systém AI nemôže platne podpísať zmluvy, AI nemôže platne založiť spoločnosť, vymenovať alebo byť vymenovaný za člena štatutárneho/dozorného orgánu, predkladať účtovnú závierku a pod. Umelá inteligencia však môže byť použitá ako pomocný nástroj, ktorý pomáha ľuďom pri vykonávaní určitej úlohy, rozhodovaní a pod.
Rovnako aj v iných vnútroštátnych právnych predpisoch sa AI nepovažuje za subjekt práva, teda mohli by sme konštatovať, že sa uplatňuje negatívna teória považujúca umelú inteligenciu len za predmet právnych vzťahov, t. j. objekt práva.
Napriek tomu, však niektoré krajiny uznali niektoré práva robotom. Zaujímavé je, že obe udelenia štátneho občianstva robotom neboli v súlade s vnútroštátnou právnou úpravou daných štátov.
Prvý prípad sa stal v roku 2017, keď robot Sofia, ktorý sa stavia do pozície ženy, získal občianstvo Saudskej Arábie. To je v rozpore s právnymi predpismi upravujúcimi občianstvo Saudskej Arábie, ktoré možno získať narodením, sobášom alebo naturalizáciou za určitých podmienok.[5] Okrem toho je prípad v rozpore s akceptovaným modelom ženského správania v spoločnosti Saudskej Arábie, ktorý zavádza osobitné požiadavky na ženské správanie, vrátane povinnosti cestovať v sprievode muža, nosenia hidžábu, obmedzení pracovných umiestnení, obmedzení cestovania do zahraničia, reštriktívnych otázok v rodinnom živote a dedičských pravidiel a niektorých ďalších obmedzení vyplývajúcich zo šaríe. Takisto je robotické občianstvo v rozpore so ženskými právami v Saudskej Arábii, kde žena môže vykonávať verejné funkcie prostredníctvom zastúpenia v poradnom zhromaždení (Shura).[6]
Druhý prípad, tiež z roku 2017 súvisí s občianstvom, ktoré Japonsko udelilo chatbotovi Shibuya Mirai v rozpore s japonskými zákonmi.[7] Udeľovanie občianstva v Japonsku upravuje zákon o štátnom občianstve Japonska. Zákon uvádza dve možnosti, a to narodenie alebo naturalizáciu. V prípade narodenia by sa dieťa malo narodiť v Japonsku (bez odkazu na štátnu príslušnosť rodičov) alebo otcom a matkou s japonským občianstvom. V prípade naturalizácie by osoba mala žiť v Japonsku viac ako 5 rokov, mať právnu spôsobilosť a dosiahnuť vek dvadsiatich rokov, mať primeranú životnú úroveň a žiadne spojenie s organizáciami spojenými s aktivitami proti Japonsku.[8]
Diskusie o priznaní právnej subjektivity AI v EÚ
V Európskom parlamente sa viedli diskusie o potenciálnej právnickej osobe ,,AI“. Podľa niektorých názorov totiž vznik špecifického právneho statusu pre roboty a prisúdenie právnej subjektivity AI môže byť prospešné. Navrhovalo sa zvážiť priznanie inteligentným robotom status „elektronické osoby“ zodpovedné za prípadné škody. Uznesenie Európskeho parlamentu zo 16. februára 2017 obsahujúce odporúčania pre Komisiu pre občianskoprávne pravidlá o robotike odkazuje na možnosť vytvorenia špecifického právneho postavenia pre roboty v dlhodobom horizonte, aplikáciou ,,elektronickej osobnosti“ na prípady, keď roboty robia autonómne rozhodnutia alebo inak interagujú s treťou osobou nezávisle.[9] Niektorí odborníci kritizovali návrh v otvorenom liste, v ktorom tvrdili, že by bolo nevhodné zaviesť takýto právny status pre roboty pre nasledujúce dôvody:
- Právne postavenie robota nemôže byť odvodené od modelu fyzickej osoby, pretože by roboty potom požívali ľudské práva, ako je právo na dôstojnosť, právo na jej integritu, právo na odmeňovanie a právo na občianstvo, čím priamo konfrontujú ľudské práva. Toto by bolo v rozpore s Chartou základných práv Európskej únie a Dohovorom o ochrane ľudských práv a základných slobôd;
- Právny štatút robota nemôže byť odvodený od modelu právnickej osoby, pretože z neho vyplýva existencia ľudských osôb stojacich za právnickou osobou, ktoré ju zastupujú a riadia;
- Právny štatút robota nemôže byť odvodený od anglosaského modelu Trust, tiež tzv. Treuhand v Nemecku. Tento režim je mimoriadne zložitý, vyžaduje si špecializáciu kompetencií a nevyriešila by sa otázka zodpovednosti. Čo je dôležitejšie, stále by to znamenalo nutnú existenciu ľudskej bytosti ako správcu alebo splnomocnenca zodpovedného za riadenie robota.
V apríli 2018 Európska komisia načrtla svoju budúcu stratégiu riešenia AI a úvahy o spôsobilosti AI niesť práva a povinnosti neboli zahrnuté.[10]
Má AI v rámci právneho statusu niečo spoločné s obchodnými spoločnosťami?
História obchodných spoločností siaha hlboko do minulosti. Obchodné spoločnosti sa začínajú objavovať v staroveku a ich rozvoj súvisel najmä s rozširovaním obchodných vzťahov. To vytváralo podnety, aby sa hľadali také formy obchodných vzťahov dávajúce možnosť spojenia viacerých obchodníkov, ktorí by mohli spojiť svoj kapitál, kontakty a osobné danosti. Naprieč históriou prešli obchodné spoločnosti rozličným vnímaním právnej subjektivity od teórie fikcie (korporácie majú subjektivitu, pretože sa tak rozhodne právny systém. K tomu Najvyšší súd USA v roku 1819 uvádza, že korporácia „je umelá bytosť, neviditeľný, nehmotný a existujúci iba v kontemplácii zákona.“)[11] až k teórii reality (od 19. storočia, kedy nemecký historik a akademik Otto von Gierke zaujal stanovisko, že ,,spoločnosť, by mala byť považovaná nie za fiktívnu entitu, ale za reálnu bytosť.“).[12]
Obchodná spoločnosť ako právnická osoba v súčasnosti predstavuje umelý výtvor vytvorený zákonom majúci vlastnú právnu subjektivitu a spôsobilosť na právne úkony, z ktorej plynú všetky ostatné dôsledky spojené s tým, že spoločnosť je subjektom práva odlišným od jej spoločníkov, či zakladateľov.[13] V Slovenskej republike má konanie obchodnej spoločnosti svoj súkromnoprávny základ v Občianskom zákonníku (ďalej aj ako ,,OZ“), ktorý de lege lata vychádza z tzv. teórie reality.[14] OZ považuje PO za umelý výtvor, pričom upravuje subjekty, ktoré sa považujú za PO, určuje ich identifikačné znaky a vlastnosti týchto subjektov. Aj napriek skutočnosti, že obchodná korporácia má spôsobilosť na právne úkony, pri jej konaní navonok ide o prejav vôle fyzickej osoby.[15] Sprostredkovanie vôle obchodnej spoločnosti sa v právnych poriadkoch realizuje buď cestou zastúpenia (zákonného, zmluvného) alebo fikciou pričítania následkov konania fyzických osôb priamo právnickej osobe.
Podľa nášho názoru existuje zásadný rozdiel medzi obchodnými spoločnosťami a umelou inteligenciou, ktorý by mohol v budúcnosti ,,hrať“ v prospech priznania právnej subjektivity AI. Obchodné spoločnosti sú ,,závislé“ na FO – svojich zástupcoch (štatutárnych orgánoch). Podobne konštatuje M. Mamojka ml. ,,Vôľa obchodnej spoločnosti je fikciou, ktorá sa stáva právne uchopiteľnou až na základe predchádzajúcej preukázateľne prezentovanej vôle fyzických osôb.“[16] Naproti tomu umelá inteligencia môže byť v skutočnosti úplne nezávislá od FO, najmä ak sa jedná o autonómne systémy AI schopné fungovať a adaptovať sa na meniace okolnosti bez ľudského pričinenia a kontroly.
S rozvojom spoločnosti priznanie pozície právneho subjektu prelomilo obmedzenie len na fyzické osoby a mnohým ,,nefyzickým subjektom“ boli postupne priznané práva a povinnosti v práve na základe potrieb spoločnosti. Podľa nášho názoru však súčasná spoločnosť ešte na priznanie právnej subjektivity AI nie je pripravená. Priznanie právnej subjektivity obchodným spoločnostiam však môže v budúcnosti slúžiť ako precedens na udelenie statusu subjektu práva aj umelej inteligencii, keďže právnické osoby – obchodné spoločnosti môžu mať právnu subjektivitu, v budúcnosti by aj umelá inteligencia mohla mať právnu subjektivitu. Vzhľadom na špecifické postavenie AI sa však domnievame, že nebude odvodená od modelu právnickej osoby, pretože z neho vyplýva existencia ľudských osôb stojacich za právnickou osobou, ktoré ju zastupujú a riadia, ale po vzore diskusií na pôde EÚ sa zákonodarcovia vydajú skôr smerom priznania osobitného právneho postavenia systémom AI a začlenia „elektronické osoby“ do právnych poriadkov ako úplne novú kategóriu právnych subjektov.
Záver
,,Teraz sa musíme pripraviť na budúcnosť, ktorá určite príde.“
Otázka právnej subjektivity AI je komplexná a vyžaduje si dôkladnú diskusiu. Je dôležité zvážiť potenciálne výhody a riziká udelenia právnej subjektivity AI, ako aj etické a filozofické otázky, ktoré s tým súvisia. Myslíme si, že diskusia sa pravdepodobne bude viesť ešte mnoho rokov.
Je nutné poznamenať, že v súčasnosti neexistuje konsenzus o tom, či by AI mala mať právnu subjektivitu. Rôzne krajiny a jurisdikcie túto otázku riešia rôznymi spôsobmi. Prebiehajú diskusie na medzinárodnej úrovni a v rôznych oblastiach, ako napríklad v oblasti umelej inteligencie, robotiky a práva. Budúcnosť právnej subjektivity AI je preto neistá a bude závisieť od vývoja technológií AI, ako aj od spoločenských a etických diskusií o tejto problematike.
Autor: JUDr. Mgr. Dominika Pintérová, PhD. Univerzita Komenského v Bratislave, Právnická fakulta, Katedra obchodného práva a hospodárskeho práva, e-mail: dominika.pinterova@flaw.uniba.sk
…………………………………………………………………………………………………………………
[1] Bližšie pozri PATAKYOVÁ, M. – MAMOJKA, M. – LUKÁČKA, P. – DURAČINSKÁ, J. – MAŠUROVÁ, A. – STRÉMY, J. – GRAMBLIČKOVÁ, B. – LACKO, P. Právo obchodných spoločností a družstva – všeobecný úvod do problematiky a vymedzenie základných pojmov. 1. vyd. Bratislava: Univerzita Komenského v Bratislave, Právnická fakulta, 2019. s. 63 – 66. Dostupné na: https://www.flaw.uniba.sk/fileadmin/praf/Pracoviska/Katedry/KOPHP/rozne/KEGA_Ucebnica_SJ_web.pdf
[2] DAVIES, C. R. (2011). An Evolutionary Step in Intellectual Property Rights—Artificial Intelligence &Intellectual Property. Computer Law & Security Review, 27, 601 – 606. Dostupné na: https://doi.org/10.1016/j.clsr.2011.09.006
[3] YUAN, Z. (2020). Revisiting the Legal Personality of AI from the Functional Perspective. Journal of Shanghai University (Social Science Edition), No. 1, 16 – 26.
[4] Napríklad podľa § 133 ods. 2 zákona č. 513/1991 Zb. Obchodný zákonník: ,,Konateľom spoločnosti môže byť len fyzická osoba, ktorá nie je v čase vykonania zápisu do obchodného registra ako povinný vedená v registri poverení na vykonanie exekúcie podľa osobitného zákona.“
[5] ATABEKOV, A. & YASTREBOV, OLEG. (2018). Legal Status of Artificial Intelligence Across Countries: Legislation on the Move. European Research Studies Journal. 21. 773-782. Dostupné na: https://ersj.eu/journal/1245.
[6] SHAHEEN, A. N. (2011). Saudi women defy ban to register for polls, Gulf News. Dostupné na: https://gulfnews.com/news/gulf/saudi-arabia/saudi-women-defy-ban-to-register-forpolls-1.799161.
[7] CUTHBERTSON, A. (2017). Tokyo: Artificial Intelligence ‚BOY‘ SHIBUYA MIRAI Becomes World’s First AI Bot to Be Granted Residency. Dostupné na: http://www.newsweek.com/tokyo-residency-artificial-intelligence-boy-shibuyamirai-702382
[8] ATABEKOV, A. & YASTREBOV, OLEG. (2018). Legal Status of Artificial Intelligence Across Countries: Legislation on the Move. European Research Studies Journal. 21. 773 – 782. Dostupné na: https://ersj.eu/journal/1245
[9] European Commission, Directorate-General for Justice and Consumers. Study on the relevance and impact of artificial intelligence for company law and corporate governance – Final report, Publications Office, 2021, p. 37. Dostupné na: https://data.europa.eu/doi/10.2838/790784
[10] European Commission, Directorate-General for Justice and Consumers. Study on the relevance and impact of artificial intelligence for company law and corporate governance – Final report, Publications Office, 2021, p. 37 – 38. Dostupné na: https://data.europa.eu/doi/10.2838/790784
[11] Trustees of Dartmouth Coll. v Woodward, 17 US 518, 636 (1819).
[12] Bližšie pozri PATAKYOVÁ, M. – MAMOJKA, M. – LUKÁČKA, P. – DURAČINSKÁ, J. – MAŠUROVÁ, A. – STRÉMY, J. – GRAMBLIČKOVÁ, B. – LACKO, P. Právo obchodných spoločností a družstva – všeobecný úvod do problematiky a vymedzenie základných pojmov. 1. vyd. Bratislava: Univerzita Komenského v Bratislave, Právnická fakulta, 2019. s. 65. Dostupné na: https://www.flaw.uniba.sk/fileadmin/praf/Pracoviska/Katedry/KOPHP/rozne/KEGA_Ucebnica_SJ_web.pdf
[13] DAVIES, P. L. Gower and Davies’ principles of modern company law. 8th. Edition. London: Sweet & Maxwell, 2010. s. 33.
[14] PATAKYOVÁ, M. § 13ObZ [Konanie podnikateľa osobne a v zastúpení]. In PATAKYOVÁ, M. a kol. Obchodný zákonník. Komentár.5. vydanie, Bratislava: C. H. Beck, 2016. s. 54.
[15] DULAK, A. In LAZAR, J. a kol. Občianske právo hmotné. 1. zväzok. Bratislava: Iuris Libri, 2014. s. 115.
[16] MAMOJKA ml., M. In MAMOJKA, M. – KUBINCOVÁ, S. – MAMOJKA ml., M. a kol. Postavenie a hospodárenie štátnych podnikov, Praha: C. H. Beck, 2018. s. 349 – 350.