Zatykače, které dnes Mezinárodní trestní soud (ICC) vydal na izraelského premiéra Benjamina Netanjahua a na bývalého ministra obrany Joava Galanta, nejsou ...
Od loňského listopadu, kdy organizace OpenAI vypustila na veřejnost chatbot ChatGPT, vlna toho největšího zájmu pominula. Až teď přišla umělá inteligence s novým kusem, jaký nikdo nečekal – s nebývalým korporátním dramatem.
V několika měsících po spuštění prvního chatbotu jako by se diskuse o generativní umělé inteligenci pro laiky vyčerpala, jako by ohledně jak potenciálu, tak nebezpečí této nové technologie bylo prozatím řečeno vše. Navzdory různým varovným otevřeným dopisům se po svědectví jednoho novináře, který na chatbotu integrovaném do prohlížeče Bing vyvolal v život „zlou“ podobu ChatGPT známou jako Sidey, už žádné zpřítomnění existenciální hrozby umělé inteligence nekonalo. Výzkumníci a firmy si dávali pozor. Vývoj běžel dál, ale za kulisami. Firmy vypouštěly nové, výkonnější modely, ale to, jak jsou nebo nejsou přelomové, bylo srozumitelné jen odborníkům. Ti se rozdělili na „strachovače“ a „akceleracionisty“.
Vývoj běžel dál i u vizualizačních programů, jejichž prezentace je ovšem poznamenána tím, že přitahují zejména uživatele s vkusem formovaným obaly metalových alb a příbuzných žánrů. Je tu taky několik prvních studií snažících se modelovat vliv generativní umělé inteligence na reálné pracovní situace – zatím s výsledkem, že umělá inteligence nivelizuje – víc zvyšuje výkonnost těch průměrných a podprůměrných než těch vynikajících. Ale v zásadě může laik učinit prozatímní závěr, že všechny nové komunikační technologie byly ze všeho nejdřív využity pornografy a podvodníky a na jejich plný potenciál se muselo chvíli počkat – a že s AI to nebude jiné.
Až teď přišlo koncem minulého týdne nečekané drama v instituci OpenAI, na něž budou nejen fanoušci AI, ale i managementu, korporátních struktur a příbuzných odvětví dlouho vzpomínat. Drama takového kalibru, že se představa filmového ztvárnění v seriálu HBO nejeví jako absurdní.
Zatím víme jen velmi málo o tom, o co komu šlo. Víme tři věci: Pokud jste měli předsudky vůči neziskovým organizacím, tak se v jednom důležitém ohledu potvrdily – jako korporátní struktury se neziskovky rozhodně neosvědčily. Zadruhé, peníze, jejichž role měla být v korporátní struktuře OpenAI minimalizovaná, naopak potvrdily svou moc. A konečně, lidé pracující na vývoji umělé inteligence schopné konkurovat člověku (označované zkratkou AGI – artificial general intelligence) jsou náchylní k iracionálnímu chování, třeba kultu osobnosti, stejně jako kdokoli jiný.
Co se tedy stalo? OpenAI byla založena v roce 2015 jako nezisková organizace. Řada technologických hvězd přislíbila finance – miliardu dolarů, z níž ovšem nebylo splaceno vše – organizaci, jejíž misí bylo vyvíjet umělou inteligenci. A to nikoli pro zisk, ale pro věc samotnou. Organizaci vládne správní rada, jež nereprezentuje zájmy investorů, jak je v oboru obvyklé, ale „lidstva“. Rada se v zásadě nominuje sama, členové nominují své nástupce.
V roce 2018 si výzkumníci ujasnili, že finanční potřeby rozvoje umělé inteligence jsou mnohem větší, než si představovali, a přišli s nápadem: založí ziskovou entitu, která se bude snažit vyvíjet komercializovatelné produkty a bude možné do ní investovat. Ale výnosy, které si investoři mohou odnést, jsou zastropované – od sedminásobku po stonásobek investice, podle toho, jak brzy investovali. Zbytek zůstává v neziskovce. Naprostou většinu těch investic, asi 13 miliard, provedl Microsoft.
Duší podniku je v podstatě od počátku Sam Altman. Poté, co vyvinul nepříliš úspěšnou sociální síť, se stal investorem rizikového kapitálu, partnerem v proslulém startupovém inkubátoru Y Combinator Paula Grahama. Vydělal si, jak říká, víc peněz, než bude kdy potřebovat. Pak přišla OpenAI a Altman je dnes prakticky tváří umělé inteligence. Pro široké vrstvy, pro akceleracionisty mezi odborníky, pro politiky, před nimiž umí vystupovat mnohem obratněji než jiní šéfové technologických firem. A v neposlední řadě pro zaměstnance OpenAI, jejichž chování jeví bez nadsázky známky zbožnění.
Minulý týden správní rada překvapila celý svět oznámením na síti X, dříve Twitter (jež mezi lidmi z technologického sektoru neztratila na popularitě), že odvolala Sama Altmana. Jako nejspecifičtější důvod uvedla, že Altman „při své komunikaci s radou nemluvil vždy pravdu“. O co konkrétně mělo jít, nikdy neřekla.
Jak se to podařilo? V radě byl sám Altman a jeho spolupracovník a manažer OpenAI Greg Brockman. Z OpenAI tam seděl ještě spoluzakladatel a chief scientist Ilya Sutskever. Z vnějšího světa či, jak se říká, nezávislí ředitelé byli šéf webu Quora Adam D’Angelo, podnikatelka a výzkumnice v RAND Corporation Tasha McCauleyová a profesorka Georgetownské univerzity Helen Tonerová.
Poslední tři byli ti, kteří usilovali o Altmanovo vyhození. K nim se z důvodů, které zůstávají tajemstvím, nad nímž všichni kroutí hlavou, připojil Sutskever. A bylo hotovo.
Příběh byl pro větší srozumitelnost převyprávěn tak, že Altman ty tři znepokojoval jednak svým laxním přístupem k otázkám bezpečnosti AI, jednak svým tlakem na komercionalizaci OpenAI. D’Angelo před několika měsíci prohlásil, že se OpenAI rozhodně nesmí stát další velkou dominantní technologickou společností. Zároveň ovšem několik lidí včetně krátkodobého prozatímního šéfa prohlásilo, že spor rozhodně nebyl o bezpečnost.
Nyní přišla řada na dva zmíněné faktory: kult a peníze. Nejdříve kult. Zaměstnanci začali, často v koordinovaných sděleních na Twitteru, vyjadřovat podporu Altmanovi. Zorganizovali petici, v níž žádali jeho návrat a v opačném případě pohrozili odchodem. Nakonec ji podepsalo 750 z 800 zaměstnanců. Sutskever – prý po hádce s manželkou Brockmana – zveřejnil na Twitteru, že všeho lituje a stojí za Altmanem.
A mezitím peníze: šéf Microsoftu Satya Nadella se dohodl s Altmanem, Brockmanem a několika dalšími lidmi z OpenAI, že přecházejí do Microsoftu, kde povedou samostatnou výzkumnou entitu. Všichni zaměstnanci OpenAI, kteří budou mít zájem o místo, ho prý dostanou.
Zbytek správní rady OpenAI mezitím hledal řešení. Po prozatímní šéfce na jeden den najal pro tuto pozici manažera Emmetta Sheara. Ten oznámil, že za svůj hlavní úkol v podstatě považuje dobrat se toho, co se vlastně stalo.
Jenže v tu chvíli už nebylo jasné, zda on a tři členové rady, kteří ho jmenovali, mají co řídit. Prohlášení, které v tu chvíli zveřejnil šéf Microsoftu Nadella, stojí za to citovat obšírně:
„Jsme i nadále odhodláni spolupracovat se společností OpenAI a věříme v náš produktový plán (…) Těšíme se, až se seznámíme s Emmettem Shearem a novým vedením společnosti a budeme s nimi spolupracovat. A jsme nesmírně rádi, že se můžeme podělit o zprávu, že Sam Altman a Greg Brockman se spolu s kolegy připojí ke společnosti Microsoft a povedou nový tým pro pokročilý výzkum umělé inteligence. Těšíme se, že jim rychle poskytneme zdroje potřebné pro jejich úspěch.“
Jak to vystihl komentátor Ben Thompson: „Dá se říct, že Microsoft právě koupil OpenAI za nula dolarů a s nulovým rizikem antimonopolního řízení.“
V úterý v noci pak přišla zpráva, že Sam Altman se vrací do OpenAI. A obě strany se dohodly na složení nové správní rady. Bude jí předsedat bývalý šéf firmy Salesforce Brad Taylor, zůstává D’Angelo a novým členem je bývalý ministr financí a bývalý prezident Harvardu, ekonom Larry Summers. „Jsem rád, že jsem byl součástí řešení,“ nechal se slyšet dvoudenní ředitel Shear.
Peníze tedy zvítězily. Ale spíš zvítězila standardní korporátní struktura, v níž jsou reprezentovány zájmy těch, kdo investují a kdo dělají práci. Jednání těch, kdo si představují, že zastupují „lidstvo“, zatímco všichni ostatní jen sobecké zájmy, bylo odkázáno do patřičných mezí. Známý ekonom Tyler Cowen v této souvislosti upozornil na paper profesora George Denta z roku 2014 Korporátní správa bez akcionářů: Poučení z neziskových organizací.Dospívá k závěru: „Rozumný konsenzus odborníků na neziskové organizace se shoduje na tom, že jejich správa a řízení jsou obecně otřesné, horší než u ziskových společností. Ředitelé neziskových organizací jsou většinou špatně informovaní, hádaví, nemají ponětí o své správné roli a jsou ovládáni generálním ředitelem – jak by zastánci primátu akcionářů předvídali.“
00:02
