OpenAI zlomově odkládá vstup na burzu kvůli obavám o bezpečnost AI. Je nepřijatelné podstupovat třeba 10% riziko, že ani ne do pěti let zabijeme všechny lidi na planetě, vysvětluje její šéf

OpenAI zlomově odkládá vstup na burzu kvůli obavám o bezpečnost AI. Je nepřijatelné podstupovat třeba 10% riziko, že ani ne do pěti let zabijeme všechny lidi na planetě, vysvětluje její šéf

OpenAI letos na burzu nevstoupí. Její šéf Sam Altman označil rok 2026 za nevhodný okamžik pro primární úpis akcií, přičemž jako jeden z hlavních důvodů uvedl potřebu řešit bezpečnost stále schopnější umělé inteligence. Firma podle něj musí nejprve pokročit v takzvaném alignmentu, tedy v zajištění, aby pokročilé modely jednaly v souladu s lidskými záměry a hodnotami, a také vyjasnit pravidla spolupráce technologických firem s vládami. IPO tak podle Altmana nepřipadá v úvahu dříve než v roce 2027.

Altmanova slova jsou pozoruhodná především intenzitou, s níž nyní sám upozorňuje na potenciální rizika technologie, jejíž rozvoj OpenAI pomohla dramaticky urychlit. V rozhovoru pro Fortune uvedl, že žádná sázka s osudem lidstva není přijatelná. Podle dalších zpráv z rozhovoru označil za nepřijatelné například podstupovat desetiprocentní riziko katastrofického výsledku AI. Jeho výrok znamená, že kdyby se riziko pohybovalo kolem této úrovně, další postup by podle něj nebylo možné ospravedlnit.

V tomto smyslu je odklad burzy více než jen finanční rozhodnutí. Veřejně obchodovaná OpenAI by čelila ještě silnějšímu tlaku investorů na růst tržeb, zisku a hodnoty firmy. To by mohlo být obtížně slučitelné se situací, kdy vedení společnosti současně připouští možnost zpomalit, nebo dokonce za určitých okolností zastavit vývoj nejpokročilejších modelů. Altman Fortune řekl, že pokud by dospěl k závěru, že AI nelze bezpečně vyvíjet, neměl by problém investorům oznámit odklad či zastavení dalšího postupu.

V odvětví se přitom zřetelně mění atmosféra. Altman naznačil vznik dohody mezi předními AI společnostmi, která by mohla vést ke koordinovanému zpomalení závodu ve vývoji nejvýkonnějších modelů. Uvedl také, že nejpokročilejší dosud nezveřejněné modely jsou natolik schopné, že další zvyšování jejich výkonu vyžaduje současně výraznější pokrok ve schopnosti kontrolovat jejich jednání, porozumět jejich rozhodování a zajistit, aby respektovaly lidské úmysly.

Tlak na změnu přístupu zesílil zejména po sérii veřejných varování lidí přímo z AI laboratoří. Výzkumník Jacob Coxon, který působil v OpenAI i Anthropic, při svém odchodu z Anthropic varoval, že přední laboratoře „hazardují s našimi životy“. Vedoucí výzkumu alignmentu v Anthropic Evan Hubinger následně uvedl, že sám přisuzuje vyhubení lidstva umělou inteligencí během příští dekády pravděpodobnost přesahující deset procent.

Pro finanční trhy je nynější obrat významný. Hodnota celého AI sektoru je založena na očekávání dalšího mimořádně rychlého růstu výpočetního výkonu, investic do datových center a stále schopnějších modelů. Pokud by přední firmy skutečně přistoupily ke koordinovanému zpomalování, mohlo by to časem znamenat nižší tempo investic a přecenění části dnes velmi optimistických očekávání.

Zároveň je ale třeba nepředbíhat. OpenAI zatím neoznámila plošné moratorium ani zastavení vývoje. Altman pouze signalizuje, že dosavadní princip „rychlejší je vždy lepší“ naráží na hranici, za níž už technologické schopnosti mohou růst rychleji než schopnost člověka je bezpečně kontrolovat.

A právě proto je odklad IPO zlomový. Ještě donedávna se investoři ptali hlavně na to, kdy OpenAI vstoupí na burzu a jak vysoké ocenění získá. Teď se samotný šéf firmy ptá na mnohem zásadnější věc: zda je bezpečné pokračovat v závodu stejným tempem jako dosud a zda tedy na burzu vůbec vstupovat.