Víkendář: Umělá inteligence, vzpoura strojů a rusko-čínská kontrola kybersvěta

Profesor Pedro Domingos z University of Washington je považován za významného odborníka v oblasti umělé inteligence (AI) a jeho kniha „The Master Algorithm“ se od roku 2015 stala téměř povinnou literaturou pro každého, kdo se chce AI věnovat. Velká pozornost je jí podle profesora věnována v Číně a četl ji i čínský prezident. Der Spiegel přináší s vědcem obsáhlý rozhovor, ve kterém se věnuje jednak samotné AI, ale také hrozbě, kterou představuje pro demokracii.

Domingos podle svých slov souhlasí s ruským prezidentem Vladimirem Putinem, který tvrdí, že země, které získají náskok v oblasti AI, „budou vládnout celému světu.“ Jde totiž o „velmi mocné technologie“ a již nyní tu probíhá ostrý konkurenční boj. V něm má podle profesora větší šance Čína než Rusko, ale i ono dosáhlo řady úspěchů. Čína pak sice nemusí formálně ovládat celý svět, ale efektivně může mít pod kontrolou svět kybernetický. Jednou hlavních předností AI je totiž „obrovské snížení nákladů spojených se získáváním a zpracováním informací a znalostí“. Jeden dobrý systém AI „může udělat práci miliónu lidí, ať již jde o korporátní aktivity či kyberšpionáž“.

Když Domingos zjistil, že čínský prezident studuje jeho knihu a intenzivně se zabývá AI, cítil podle svých slov na jednu stranu vzrušení, ale také obavy. Čína se rychle rozvíjí a může z AI těžit v mnoha oblastech. A spolu s ní celý svět. Jenže zároveň jde o autoritářskou vládu, která se všemožně snaží o zneužití AI ke kontrole celé společnosti. „Stejně jako každá jiná technologie, i AI vám dává moc konat dobro i zlo. Doposud jsme se zaměřovali jen na tu první část a to je výborné. Jenže je tu i ta druhá,“ říká profesor.

Je náhoda, že se o AI zajímá jak čínský, tak ruský prezident? Domingos tvrdí, že na svých cestách po světě poznal, jak moc se liší přístup lidí k této technologii. Ze Silicon Valley zaznívají velmi optimistické názory, v Evropě je to podle něj opačně a zde panují značné obavy. Rusko a Čína pak podle něj vnímají „autoritářský potenciál“, AI a jejich vůdci se ptají, co by jim tato technologie všechno umožnila. Již nyní přitom existuje řada AI aplikací, které jsou používány ve Spojených státech nebo v Číně, a to jak na místní, tak na celonárodní úrovni. Patří sem například medicínský výzkum či management dopravy. Evropa je do určité míry výjimkou a dá se hovořit o tom, že zaostává. Profesor dokonce tvrdí, že jeho nakladatel mu řekl: Tvoje kniha se bude prodávat po celém světě, ale ne v Německu a ve Francii. A přesně to se naplnilo.

Evropa je podle Domingose napřed v oblasti regulace AI, ale „je tu příliš mnoho regulace bez skutečného porozumění technologii“. Regulace GDPR pak klade příliš velký důraz na vysvětlování toho, proč se daný algoritmus rozhodl tak, jak se rozhodl. „Vezměme si příklad léčby rakoviny, kde učící se stroje mohou hrát velkou roli. Je lepší mít stroj s 80% úspěšností, který vše vysvětluje, nebo stroj s 90% úspěšností, který nevysvětluje nic? Já bych radši ten druhý,“ říká vědec. Mít obojí – tedy jak vysokou úspěšnost a zároveň vysvětlování u některých algoritmů nejde, protože jsou založeny na takzvaných neuronových sítích a „ani vědci nejsou přesně schopni vysvětlit, jak pracují“.

Spojené státy mají podle vědce náskok v základnímu výzkumu a jeho přechodu do korporátního sektoru. Čína zase těží z obrovské masy dat, která proudí do AI a podporuje učení strojů. Evropa má výhodu v širokém spektru odborníků a i její data jsou lepší z hlediska diverzity. Čínská data jsou naopak značně homogenní a její nevýhodou se může stát i laxní přístup k ochraně jedinců. Může se to projevit například ve zmíněné léčbě rakoviny, protože v Číně mohou pacienti váhat s poskytováním informací o sobě právě z důvodů obav ze zneužití dat.

Nejostřejší konkurenční boj v oblasti IT nyní probíhá mezi firmami. Ty na této technologii intenzivně pracují, ale mnoho informací nezveřejňují právě z důvodu ostré konkurence. Jedničkou je podle profesora Google, který disponuje „mimořádným počtem lidí v tomto oboru“. Pak je tu Microsoft, Facebook a Amazon. Zapomínat pak nelze ani na čínské společnosti Baidu, Alibaba a Tencent. Facebook si pak podle vědce o problémy se zneužitím dat říkal dlouhou dobu, protože k jejich ochraně přistupoval značně laxně, na druhou stranu se prý poučil a dnes by již nemohlo dojít ke skandálům, ke kterým došlo v minulosti.

„Existuje nebezpečí, že technologie budou zneužity pro manipulaci s lidmi. Je ale důležité mít ponětí o proporcích celé věci... Názor, že dnes je možné změnit výsledek voleb za použití AI je podle mého mínění trochu přestřelený. V budoucnu se ale potenciál této technologie zvýší, sociální sítě budou disponovat s více daty a nebezpečí poroste,“ říká Domingos. Sociální sítě pak podle něj mohou být pro demokracii jak hrozbou, tak příležitostí – například tím, že zlepší rozhodovací procesy vlád a místních orgánů. Problém ale nastane v případě, že „autoritářské státy využijí AI více než demokracie“.

Je možné, že by se stroje někdy vzbouřily proti lidstvu? Podle vědce k tomu nedojde, ale hrozí, že jim sami nezodpovědně předáme kontrolu nad našimi životy. „Psychologicky jsme připraveni předat věci do rukou AI, ale neměli bychom to činit. Skutečná rozhodnutí nebude činit AI, ale ti, kteří ovládají její algoritmy. Budeme to my, nebo čínský prezident?“ ptá se na závěr rozhovoru Domingos.

Zdroj: Der Spiegel