Víkendář: Opatrně s umělou inteligencí

Během posledních deseti let došlo k velkému pokroku v oblasti umělé inteligence, kterou nyní využívá řada odvětví. Nadšený z ní ale není Daron Acemoglu z MIT, který na stránkách VoxEU tvrdí, že její přínosy pro společnost mohou zaostávat za škodami, které by mohla napáchat.

O umělé inteligenci se podle experta někdy hovoří jako o nejzajímavější technologii dnešní doby, která by mohla změnit fungování ekonomiky a společnosti. Podle některých by nakonec mohly vzniknout i inteligentní stroje, které by v některých oblastech předčily lidské dovednosti a schopnosti. Různé algoritmy jsou již nyní využívány řadou platforem a odvětví, včetně průmyslu, zdravotní péče či třeba financí.

Acemoglu ovšem míní, že umělá inteligence přinese i negativní věci. A zejména ta, která dominuje v rozeznávání různých statistických struktur a vzorců, a ta, které pracuje s takzvanými velkými daty. Již nyní jsou podle experta patrné škody, které umělá inteligence vytváří v oblasti marketingu a reklamy, ničí některá pracovní místa a projevuje se negativně i v komunikaci, politice a následně páchá škody na demokracii. Přesně řečeno ale nejde o škody, které by páchala samotná umělá inteligence, avšak o „způsob, jakým významné společnosti s dominantním vlivem na směr vývoje umělé inteligence přistupují k využívání a získávání dat.“

Expert dává za příklad právě marketing, kde by umělá inteligence mohla teoreticky pomáhat. Třeba tím, že by zvedala kvalitu produktů a umožňovala jejich lepší specifikaci pro konkrétní zákazníky. Jenže v praxi společnosti používají tyto technologie k tomu, aby spotřebitele rozdělovaly na řadu skupin a následně uplatňovaly cenovou diskriminaci. Takže ve výsledku zvyšují své příjmy na úkor spotřebitele a omezují konkurenci.

Může tak vznikat „datová externalita“, kterou využívají například online platformy získávající velké množství informací o svých uživatelích a také těch, se kterými se přátelí a na které mají kontakty. Nakonec tak může skončit příliš mnoho dat u malého počtu subjektů, které pak mohou dokonce používat tyto informace k tomu, aby se spotřebitelem manipulovaly. Pokud předpokládáme racionalitu spotřebitele, taková manipulace není významným tématem. Jenže podle experta spotřebitel ve skutečnosti nemusí plně chápat, jak moc mohou jeho data pomoci třeba k predikci jeho chování.

Umělá inteligence může také podporovat automatizaci a tudíž přispět k trendu rostoucí ekonomické nerovnosti, který je patrný v zemích jako USA. Automatizace přitom může zvyšovat celkovou efektivitu, ale pokud je trh práce neefektivní a její náklad leží vysoko, firmy mohou mít za primární cíl přesun příjmů od lidí směrem k ziskům, a to i v případě, kdy by to pro celou společnost znamenalo čistou ztrátu.

Významně jsou pak umělou inteligencí ovlivněny sociální sítě a podobné platformy a expert tvrdí, že tato inteligence již přispěla k většímu rozdělení společnosti a většímu extremismu spolu s šířením falešných zpráv a informací. Ani zde ovšem není problém s technologií samotnou, ale se způsobem jejího využití. Je totiž používána na „zvýšení moci korporací a někdy vlád, a to na úkor zaměstnanců a spotřebitelů.“ Příkladem mohou být sociální sítě, jejich cílem je to, aby u nich uživatel zůstal „zaháčkovaný“. Tím z něj dostanou maximum dat, která mohou monetizovat.

Řešením je podle experta regulace, a to preventivní. Tedy ne taková, která čeká, kam se bude ubírat vývoj a až pak na něj reaguje. Obecně by měla měnit směr technologického vývoje od toho současného, který prospívá zejména korporacím, k takovému, který bude prospívat společnosti a lidem. Což mimo jiné znamená systematický přístup k tomu, jak mohou firmy pracovat s uživatelskými daty a jak jsou tato data používána k manipulaci chování spotřebitele.

Zdroj: VoxEU