Přichází „exploze inteligence“? - Víkendář

Expert na umělou inteligenci Tom Davidson a jeho kolegové na stránkách VoxEU tvrdí, že společnosti jako Anthropic a OpenAI uvedly, že plánují využít své modely k vývoji dalších a zahájit tak proces sebezdokonalování umělé inteligence. Postupem času by to podle expertů mohlo spustit „explozi inteligence“. Jak reálný je tento scénář a jaké by byly jeho klíčové podmínky?

Koncept inteligenční exploze není podle Davidsona nový. Už v roce 1966 matematik Irving J. Good napsal, že „ultrainteligentní stroj by mohl navrhovat ještě lepší stroje a pak by nepochybně došlo k explozi inteligence. Inteligence člověka by poté zůstala daleko pozadu.“ Navzdory významným ekonomickým důsledkům takového procesu však ekonomové brali tuto možnost jen s rezervou. Přitom „v posledních letech došlo v oblasti umělé inteligence k významnému vývoji, který dává širší pohled na zmíněnou explozi.“

Experti poukazují na to, že společnosti a laboratoře umělé inteligence investovaly značné prostředky do čipů umělé inteligence, celková zásoba výpočetní techniky se od roku 2022 zdvojnásobuje každých sedm měsíců. „Představte si, že umělá inteligence je dostatečně výkonná na to, aby v každém odvětví ekonomiky vykonávala 20 % úkolů, které dříve vykonávali lidé. A to včetně výzkumu… Výsledné zvýšení produkce pak lze reinvestovat do většího množství výpočetních prostředků pro provoz a školení těchto systémů umělé inteligence, což by vedlo k ještě většímu vývoji umělé inteligence a k lepším modelům. Pokrok v oblasti umělé inteligence tak může posilovat sám sebe.“

Klíčová je následně podle expertů otázka, jaké jsou vlastně podmínky, které by takovou spirálu roztáčely. A tvrdí, že kritickou hranicí je 13% automatizace úkolů. Pokud je překročena, roztáčí se explozivní spirála vývoje umělé inteligence a jejích dopadů na ekonomiku. „Otázku explozivní inteligence už nejde zavrhovat jako sci-fi. Už jde o konkrétní parametry. Naše analýza naznačuje, že podmínky pro explozivní růst nejsou tak vzdálené, jak by se mohlo zdát. I nízká úroveň automatizace úkolů může ekonomiku posunout do režimu rostoucích výnosů.“

Následující schéma ukazuje dva typy ekonomik, v první z nich existuje zpětná vazba jen mezi kapitálem a produktem v tom smyslu, že vyšší produkce dává možnost více investovat. Existují ale i klesající výnosy z dalších investic a to znamená, že na této rovině nedochází k explozivní spirále. Ta je ale podle expertů možná v ekonomice, kde existuje více zpětných vazeb. Tedy nejen mezi produktem a velikostí výrobního kapitálu, ale i mezi umělou inteligencí, hardwarem, produktem a kapitálem navzájem:

Existují ovšem úzká hrdla, která představují omezení pro to, jak rychle lze zvyšovat výkon výpočetní techniky a míru automatizace. „Ekonomové v minulosti považovali explozivní růst za určitou kuriozitu, která se nachází jen na okraji teorií o hospodářském růstu. To se ale mění,“ uzavírají experti.