Hlídači umělé inteligence - Resistant AI, startup vzešlý z podhoubí ČVUT

Resistant AI, startup vzešlý z podhoubí ČVUT, vykrývá slabiny, které klasickým systémům založeným na strojovém učení mohou uniknout.

„Algoritmus tvoří lidé. A ti také řídí umělou inteligenci,“ říká Martin Rehák, zakladatel a šéf Resistant AI. Foto: Shutterstock

Američan Frank Abagnale je považován za jednoho z nejmazanějších podvodníků 20. století. Falšoval šeky, retušoval diplomy, vytvářel si falešné identity a léta tak dokázal unikat FBI. Muž, jehož příběh na filmové plátno převedl Steven Spielberg, založil svou dovednost na tom, že byl vždy krok před vyšetřovateli. Jakmile jeho trik prokoukli, už používal jiný.

Taková hra mezi útočníky, kteří se snaží nabourat systém a vydělat na tom, a jejich pronásledovateli funguje ve světě bank a finančních institucí odnepaměti. Digitalizace pak umožnila, že podvodníci mohou napáchat řádově větší škody. Zatímco Abagnale jako „stará škola“ pečlivě retušoval každý šek, jednu sadu falešných údajů lze v digitálním světě využívat paralelně na mnoha místech. Odhalit takovou internetovou kriminalitu dnes již docela běžně pomáhá umělá inteligence. Jenže i ta se dá ošálit. Naštěstí existují sofistikované systémy, které nad rozhodováním strojů dohlížejí. Jeden takový vyvinul i český startup Resistant AI.

HLEDAT VAZBY A ANOMÁLIE

„Nenabízíme nějaký lepší rozhodovací algoritmus, ale snažíme se na problém podívat z jiného úhlu. Naším úkolem je hledat vazby, anomálie a zvláštnosti ve vstupních datech, která klasickým systémům založeným na strojovém učení mohou uniknout. Zajímá nás zranitelnost napříč systémem, vykrýváme slabiny. Kdybych měl použít příměr ze světa papírových, analogových podvodů, pak chceme odhalit podvodné praktiky ještě dřív, než je vůbec někdo vyzkouší,“ říká Martin Rehák, ředitel a zakladatel Resistant AI.

Jeho jméno není ve světě umělé inteligence neznámé. Martin Rehák společně s Michalem Pěchoučkem ještě na ČVUT vytvořil startup Cognitive Security, který se zaměřoval na bezpečnost počítačových sítí. Dobře rozjetý podnik v roce 2013 prodali americké firmě Cisco, pro niž v několika dalších letech Martin Rehák pomáhal budovat pražské vývojové centrum. Loni v únoru se pak vrhl do nového projektu, který zpočátku fungoval pod jménem Bulletproof AI. Pod již uhlazenějším jménem Resistant AI firma letos na jaře přilákala investory. Martin Rehák pro svůj startup získal 2,75 milionů dolarů. K fondu Index Ventures se připojili i čeští pionýři rozvojového kapitálu z Credo Ventures, své finance do projektu bývalého kolegy ale vložil mimo jiné i Michal Pěchouček, který dnes působí jako technický ředitel Avastu.

„Od té doby jsme udělali to vůbec nejdůležitější – nadefinovali jsme si produkty, které chceme nabízet zákazníkům. Míříme především na banky a fintechové společnosti, které zajišťují pro své klienty platební operace,“ říká Martin Rehák. Mezi zákazníky, kteří úspěšně používají „hlídače umělé inteligence“ z dílny Resistant AI patří třeba ČSOB. Loni se startup stal součástí akceleračního programu tuzemské banky, v rámci něhož nahlédl „pod pokličku“ a získal lepší představu o fungování instituce a jejích potřebách. Z akcelerátoru vzešlo partnerství a dnes se Resistant AI podílí na službě Mall Pay, společném podniku ČSOB a e-shopu Mall, který zákazníkům nabízí takzvanou odloženou platbu. Z fintechových společností startup pracuje třeba jako „hlídač“ inteligentního systému Nikita, který v rámci platební aplikace Twisto vyhodnocuje rizika například podvodných žádostí o půjčku. K referenčním zákazníkům Resistant AI patří také brněnský Roger, který se věnuje především faktoringu, nebo společnost ThreatMark, jež se zaměřuje na chování klientů v online bankovnictví.

„Zájem na českém trhu nás pozitivně překvapil. Vzhledem k tomu, že nabízíme globální produkt, jsme čekali, že se zájemci budou rekrutovat především ze západní Evropy,“ říká Martin Rehák. Neznamená to ale, že by tento region nebyl v kurzu – koneckonců své druhé sídlo má startup v Bruselu. První západoevropské klienty již Resistant AI má, i když je zatím nemůže jmenovat. Jak ale Martin Rehák zdůrazňuje, důležitější než rychlá expanze je budování důvěry postavené na dobře odladěném produktu. „Samozřejmě, že bychom chtěli proniknout na americký trh. Bez referenčních zakázek od významných hráčů v USA by to ale nedávalo smysl,“ dodává. Nadějným trhem pro Resistant AI je i Asie, i když tady je nutné dbát na různá specifika. Například v Japonsku je míra podvodů obecně nižší a část služeb, s nimiž český startup přichází, tu nikdo ani nemusí poptávat.

Ruční zadávání dat do počítače stále častěji nahrazuje robotické zpracování. I tady je ale třeba umělou inteligenci „ohlídat“.  Foto: Shutterstock

DIGITÁLNÍ NUTNOST

Bezpečnostní řešení, které Resistant AI nabízí, je produktem, který stejně jako řadu dalších odvětví ekonomiky ovlivňuje krize spojená s šířením nemoci covid-19. „Před koronavirem byly naším hlavním klientem fintechové firmy, dnes jsou to primárně banky, které pochopily, že digitální kanály nejsou volba, ale nutnost. Čím dál rychleji se ukazuje, že role bankovní pobočky se mění. Klienti tam nechodí zadávat příkazy, ale nechat si poradit. Banky proto investují do digitálních služeb, což nám samozřejmě vyhovuje,“ říká Martin Rehák. Podle něj lze navíc čekat, že banky budou čím dál častěji nabízet skutečně digitální produkty namísto těch papírových, které jsou jen převedeny do elektronické podoby. „Je tady velké pole pro skóringové algoritmy, které pružně přecházejí mezi úsporami a úvěry a samy dokáží klientům nabídnout nejlepší řešení,“ upozorňuje zakladatel Resistant AI.

Jak ale dodává, platební systémy, banky nebo úvěrové společnosti zdaleka nejsou jedinou doménou, kde by se na „hlídání“ umělé inteligence dal vystavět perspektivní byznys. Resistant AI vidí další pole své působnosti také v takzvané robotické automatizaci procesů. „V každé velké firmě jsou desítky lidí, kteří se věnují tomu, že zkontrolují nějaký dokument a zadají ho do systému. Jejich práci mohou nahradit počítače. Jenže když víte, že třeba nějakou fakturu zpracovává jen stroj, musíte počítat s tím, že se najdou podvodníci, kteří takový automatický systém chtějí ošálit. Protože útočníci se vždy chtějí dostat co nejblíže k penězům,“ vysvětluje Martin Rehák.

Doba, kdy ve světě peněz bude o všem rozhodovat umělá inteligence, protože „vidí“ mnohem dál než jakýkoliv úředník nebo analytik, ovšem podle něj jen tak nenastane. Už jen proto, že se to v mnoha případech ani nevyplatí. Zakladatel Resistant AI zároveň upozorňuje, že umělá inteligence není nějaká svébytná strojová mysl, před níž bychom se měli mít na pozoru, protože by nás jednou mohla ovládat. Za nádechem tajemna a tušením skryté hrozby je podle něj pořád jen „obyčejná“ lineární algebra, byť chytře aplikovaná. „Když přesně definujete nějaké zadání, pak inteligentní algoritmus může postupovat autonomně. Ale ten algoritmus tvoří lidé. A lidé tu jsou také od toho, aby umělou inteligenci řídili a hlídali,“ dodává Martin Rehák.

BLAHOSLAV HRUŠKA