Autorka sa v predmetnom odbornom príspevku zaoberá štruktúrou riadenia spoločnosti OpenAI, ktorú dnes zrejme netreba predstavovať. Ak by niekto predsa len o nej nevedel, ide o spoločnosť zaoberajúcu sa výskumom technológií umelej inteligencie (ďalej aj ako ,,AI“), ktorej najznámejším produktom je chatbot ChatGPT.[1]
V neustále sa vyvíjajúcej sfére umelej inteligencie je spoločnosť OpenAI majákom inovácií, ktoré sa snažia zabezpečiť, aby technológie AI prospeli celému ľudstvu. Špecifická štruktúra podnikového riadenia organizácie však v poslednom období vyvolala mnohé diskusie.
Tieto diskusie vzbudila dráma, ktorá začala 17.11.2023, keď správna rada spoločnosti odvolala výkonného riaditeľa Sama Altmana. Altman, úspešný investor a podnikateľ, bol spoluzakladateľom OpenAI a jeho verejnou tvárou, pričom od roku 2019 bol jej generálnym riaditeľom. Po odchode Altmana spoločnosť Microsoft, ktorá využíva technológiu OpenAI na zlepšovanie svojho vyhľadávacieho nástroja Bing, ponúkla Altmanovi prácu vo vedení nového pokročilého výskumného tímu AI. Na to OpenAI dňa 22.11.2023 oznámila, že Altman sa vráti do správnej rady spoločnosti. Altmanov návrat do OpenAI prišiel po tom, čo stovky zamestnancov spoločnosti podpísali list, v ktorom sa vyjadrili, že budú nasledovať Altmana do Microsoftu, pokiaľ nebude opäť prijatý na svoju pôvodnú funkciu.[2]
Po návrate Sama Altmana OpenAI zmenilo správnu radu, ktorá je v súčasnosti tvorená Altmanom ako výkonným riaditeľom a nevýkonnými riaditeľmi pozostávajúcimi z Breta Taylora (bývalý riaditeľ spoločnosti Salesforce, ktorý sa okrem iného podieľal na vývoji aplikácie Google Maps) ako predsedu, Larryho Summersa (bývalý americký minister financií) a Adama D’Angela (riaditeľ spoločnosti Quora). To znamená, že traja členovia správnej rady, ktorí sa podieľali na Altmanovom odchode, sú preč. Bývalými členmi správnej rady sú hlavný vedec OpenAI Ilya Sutskever, technologický podnikateľ Tasha McCauley a Helen Toner z Georgetownského centra pre bezpečnosť a nové technológie.[3]
Príbeh dvoch entít: nezisková a zisková spoločnosť
OpenAI so sídlom v San Franciscu v Kalifornii bola založená v roku 2015 ako nezisková organizácia, ktorej cieľom je vybudovať bezpečnú generatívnu umelú inteligenciu (ďalej aj ako ,,AGI“), prinášajúcu úžitok celému ľudstvu.[4] Štruktúra riadenia OpenAI sa vyznačuje modelom dvoch subjektov, ktorý zahŕňa neziskovú organizáciu OpenAI, Inc. a jej dcérsku spoločnosť OpenAI Global, LLC, založenú za účelom dosahovania zisku. Táto štruktúra je navrhnutá tak, aby dosiahla rovnováhu medzi výskumom a vývojom AI pri zachovaní finančnej udržateľnosti. Nezisková OpenAI, Inc. slúži ako materská organizácia, ktorá dohliada na celkové poslanie a zabezpečuje, aby bol vývoj AI v súlade s etickými princípmi. Zisková spoločnosť OpenAI Global, LLC na druhej strane, sa zaoberá komercializačnými aktivitami a vytvára príjmy na podporu úsilia neziskovej organizácie. [5]
Rozhodovacím orgánom je správna rada OpenAI, Inc., rôznorodá skupina jednotlivcov s odbornými znalosťami v oblasti AI, technológií a podnikania. Táto rada je zodpovedná za stanovenie strategického smerovania organizácie, schvaľovanie veľkých investícií a zabezpečenie toho, aby boli aktivity OpenAI v súlade s jej poslaním a hodnotami.
Zdroj: OpenAI. (2023). Our structure. Dostupné na: https://openai.com/our-structure
Charakteristické črty správy a riadenia skupiny OpenAI možno zhrnúť v nasledovných bodoch:
- Po prvé, ziskovú dcérsku spoločnosť plne kontroluje nezisková organizácia OpenAI, Inc., vlastniaca a kontrolujúca manažérsku entitu (OpenAI GP LLC), ktorá má právomoc kontrolovať a spravovať dcérsku spoločnosť OpenAI Global, LLC, založenú za účelom dosahovania zisku.
- Po druhé, pretože správna rada je na vrchole riadenia neziskovej organizácie OpenAI, Inc., každý riaditeľ musí vykonávať svoje fiduciárne povinnosti na podporu jej poslania – vybudovať generatívnu umelú inteligenciu, ktorá je vo všeobecnosti bezpečná a prináša úžitok celému ľudstvu. Hoci je zisková dcérska spoločnosť OpenAI Global, LLC oprávnená vytvárať a rozdeľovať zisk, podlieha tomuto poslaniu. Hlavným beneficientom neziskovej organizácie je ľudstvo, nie investori OpenAI. Inými slovami, ľudstvo a bezpečná AGI má prednosť pred akoukoľvek povinnosťou vytvárať zisk.
- Po tretie, správna rada zostáva nezávislá. Nezávislí riaditelia nevlastnia vlastný kapitál v OpenAI. Dokonca ani generálny riaditeľ OpenAI, Sam Altman, nevlastní priamo vlastný kapitál. Jeho jediný vklad je nepriamy prostredníctvom investičného fondu Y Combinator, ktorý urobil malú investíciu do OpenAI predtým, ako začal pracovať na plný úväzok.
- Po štvrté, zisk pridelený investorom a zamestnancom vrátane spoločnosti Microsoft je obmedzený. Všetka zostatková hodnota vytvorená nad rámec limitu bude vrátená neziskovej organizácii OpenAI, Inc. v prospech ľudstva.
- Po piate, správna rada určuje, kedy dosiahnu cieľovú generatívnu umelú inteligenciu – vysokoautonómny systém, ktorý prekonáva ľudí pri väčšine ekonomicky hodnotnej práce.[6]
Lekcie zo správy a riadenia skupiny OpenAI
Evan Epstein, výkonný riaditeľ Centra pre obchodné právo a profesor práva na UC Law San Francisco povedal ,,kauza Altman sa ukázala ako obrovský budíček o dôležitosti správy a riadenia spoločností v technologickom svete. V Silicon Valley ľudia nemajú tendenciu zameriavať sa na riadenie, ale zlé riadenie môže zničiť spoločnosť.“ [7]
Cesta správy a riadenia OpenAI slúži ako cenná prípadová štúdia pre iné organizácie zamerané na AI. Skúsenosti OpenAI poskytujú cenné poznatky o navigácii v zložitosti riadenia AI a zabezpečujú, aby sa sila AI využila na zlepšenie ľudstva. Zdôrazňuje dôležitosť stanovenia jasného poslania, definovania etických princípov a podpory kultúry transparentnosti a zodpovednosti. Jedinečná štruktúra riadenia OpenAI tak predstavuje výzvy aj príležitosti. Model dvoch entít umožňuje výskum riadený poslaním a finančnú nezávislosť, ale tiež si vyžaduje starostlivé riadenie, aby sa zabezpečilo, že komerčné záujmy nezatienia etické záväzky organizácie.
Presné dôvody, prečo správna rada Altmana odvolala, neboli špecifikované. [8] Ako naznačil Jathan Sadowski, sociálny vedec v oblasti technológií z Monash University v Melbourne v Austrálii, v pozadí Altmanovho prepustenia mohol byť ,,konflikt medzi neziskovou organizáciou a obmedzeným ziskom; konflikt kultúry a cieľov.“ Je možné, že sa v budúcnosti OpenAI posunie ďalej od svojho neziskového pôvodu ako klasická technologická spoločnosť zo Silicon Valley zameraná na dosahovanie zisku.[9] Štruktúra riadenia OpenAI sa tak bude musieť prispôsobiť novým etickým a spoločenským problémom.
Na záver možno uviesť, že OpenAI sa rozhodla pre unikátnu štruktúru riadenia, ktorá zahŕňa neziskovú organizáciu a jej ziskový dcérsky podnik. Táto štruktúra bola navrhnutá tak, aby zabezpečila, že AI bude vyvíjaná bezpečne a eticky. Avšak ukázala sa ako príliš nepredvídateľná. Nepredvídateľné systémy správy a riadenia spoločností pritom prinášajú výsledky predstavujúce veľký hazard spojený s možnosťou realizácie rozmaru jej riaditeľov. To môže viesť k neočakávaným výsledkom (ako napríklad odvolanie Sama Altmana), ktoré môžu ohroziť existenciu OpenAI. Myslíme si, že dráma ohľadom odvolania Sama Altmana nás naučila dôležitú lekciu: Ak chce spoločnosť brať vážne sociálne ciele a blaho zainteresovaných strán v podobe jej poslania vytvoriť generatívnu umelú inteligenciu, ktorá je vo všeobecnosti bezpečná a prináša úžitok celému ľudstvu, musí obmedziť nielen moc investorov, ale aj riaditeľov v rámci správnej rady.[10]
Autor: JUDr. Mgr. Dominika Pintérová, PhD. Univerzita Komenského v Bratislave, Právnická fakulta, Katedra obchodného práva a hospodárskeho práva, E-mail: dominika.pinterova@flaw.uniba.sk
…………………………………………………………………………………………………………………
[1] OpenAI vydala ChatGPT v roku 2022, čím spoločnosť katapultovala k celosvetovej sláve. Robot je založený na veľkom jazykovom modeli GPT-3.5 spoločnosti (LLM), ktorý využíva štatistické korelácie medzi slovami v miliardách tréningových viet na generovanie plynulých reakcií na výzvy. ChatGPT využíva algoritmus hlbokého učenia založený na transformátore. Algoritmus využíva rozsiahly predtrénovaný jazykový model, ktorý sa učí z obrovského množstva textových údajov, aby generoval reakcie podobné ľuďom.
[2] JONES, N. (2023). What the OpenAI drama means for AI progress — and safety. 23. November 2023. Dostupné na: https://www.nature.com/articles/d41586-023-03700-4
[3] DUMAS, B. (2023). Meet OpenAI’s new board members following shakeup, Sam Altman’s return. 22. November 2023. Dostupné na: https://www.foxbusiness.com/technology/meet-openai-new-board-members-shakeup-sam-altmans-return
[4] [5] [6] OpenAI. (2023). Our structure. ,,We designed OpenAI’s structure—a partnership between our original Nonprofit and a new capped profit arm—as a chassis for OpenAI’s mission: to build artificial general intelligence (AGI) that is safe and benefits all of humanity.“ Dostupné na: https://openai.com/our-structure
[7] [8] MACLELLAN, L. (2023). OpenAI made 5 huge governance missteps—here’s what boards can learn from its error. 20. November 2023. Dostupné na: https://finance.yahoo.com/news/openai-made-5-huge-governance-200942348.html
[9] JONES, N. (2023). What the OpenAI drama means for AI progress — and safety. 23. November 2023. Dostupné na: https://www.nature.com/articles/d41586-023-03700-4
[10] Pozri tiež TALLARITA, R. (2023). AI Is Testing the Limits of Corporate Governance. 05. December 2023. Dostupné na: https://hbr.org/2023/12/ai-is-testing-the-limits-of-corporate-governance