Umělá inteligence je pro všechny. Alespoň to tvrdí Sara Polak, která se intenzivně věnuje popularizaci AI v Česku. Po studiích archeologie a evoluční antropologie na Oxfordu působila téměř deset let v řadě anglických a amerických technologických startupů. V současnosti pracuje na několika projektech, jejichž hlavním cílem je přiblížit umělou inteligenci veřejnosti a vytvořit cloudové společenství. Přečtěte si v rozhovoru o tom, zda je strach lidí z AI oprávněný, o autonomních autech nebo o alternativách, které jednou možná vystřídají současné sociální sítě.
Jak se dá definovat umělá inteligence (AI)?
Umělá inteligence by se takhle podle mě vůbec neměla jmenovat. Je to zavádějící název, který evokuje ideu mechanické alternativy lidského mozku. I další terminologie, jako třeba neuronové sítě nebo hluboké učení, navádí k představě, že se umělá inteligence učí podobně jako dítě ve škole. Ale tak to podle mě není. Algoritmy se sice „učí“, ale nemají vlastní vědomí a úsudek. AI vždy potřebuje nějaká data, která různými metodikami přechroustá a pak vydá výstupní informace. Je to takový mlýnek na maso nebo kalkulačka na steroidech.
Za mě ale AI vlastně není to hlavní. Je to nádherná nástavba, která dodává smysl datům kolem nás, ale musí jí předcházet několik věcí. Efektivní digitalizace je jednou z nich. Na začátku tohoto desetiletí máme zhruba 25x více digitálních dat než na začátku desetiletí minulého a rozdíl dál exponenciálně roste. My ale často nevíme, jak s těmi daty smysluplně naložit. Před pár lety byla big data obrovský trend. Ale pokud z těch dat nebudeme mít žádné výstupy a neuvidíme v nich žádné vzorce, pak jsou nám vlastně k ničemu.
Jaké je běžné praktické využití AI?
Konkrétní příklad využití je detekce spamů v mailu nebo personalizovaná reklama na Facebooku. Dalším příkladem jsou objednávky jídla na internetu. Pokud dostaneme doporučení na pizzu, je to reakce na nějaké naše chování. AI nám na bázi historie vyhledávání doporučí věci, které se nám budou spíš líbit. Příkladů každodenního využití je spousta, ale zrovna u doporučování obsahu si lidé často neuvědomují, že je poháněné algoritmy strojového učení. Je to taková pomocná ruka v džungli internetu, která nás provází, ale neví, co dělá nebo proč to dělá. Dělá to jen proto, že se jí to řekne.
Jak moc je v současnosti umělá inteligence rozšířená? Například o autonomních vozidlech se už dlouho mluví, ale stále je nemáme – jsou pokročilejší technologie stále hudbou budoucnosti?
Podle mě ano, ale to nevadí. My se pořád paseme po nejnovějších technologiích, ale zatím neumíme ani pořádně využívat to, co už máme, například strojové učení v medicíně. K tomu se ale určitě ještě dostaneme. Co se týče „opravdové“ umělé inteligence, nemyslím si, že bychom ji měli, nebo že by byla za rohem. Ale co vědec, to názor. Jsou lidé jako Ray Kurzweil, kteří tvrdí, že obecná umělá inteligence (což je ta, kterou si představíme, když se řekne Já, Robot nebo Terminátor), už je za dveřmi. A pak jsou tu neuropsychologové, kteří se tomu smějí, protože podle nich ještě dostatečně nerozumíme ani lidskému mozku, natož abychom měli šanci ho nějakým způsobem replikovat do mozku umělého.
Co se týče autonomních aut, člověk si často neuvědomuje to „železo“, které AI potřebuje, aby byla schopná fungovat. Je velmi výpočetně náročné, aby auto permanentně snímalo svět kolem sebe prostřednictvím kamer obklopujících celé auto a strojové vidění bylo schopné z toho obrazu vydetekovat, co je stín a co je králík. Například Tesla udělala velké pokroky jak v detekci obrazu, tak i v hardwaru, jako jsou snímací senzory nebo čipy, na kterých celý systém běží, a které mají hodnotu v řádu statisíců. V oblasti strojového vidění udělali obrovské pokroky i firma Valeo nebo vědec Josef Šivic.
Také si je třeba uvědomit, že v Americe jsou úvahy o autonomních autech mnohem jednodušší než u nás, protože mají obrovské, rovné a široké dálnice. Například v centru Londýna je ale situace úplně jiná. S tolika podněty, jako jsou místní spletité uličky a chodci, kteří nerespektují semafory, by auto nebylo schopné spolehlivě vyhodnotit svět kolem sebe. A co teprve někde v Indii, kde mají šestiproudé silnice a auta jezdí všemi směry – tam byste se v autonomním vozidle nesvezli ani náhodou.
Pokroky v oblasti AI jsou a já je určitě nechci zatracovat, probíhá úžasný výzkum. Ale co se týče autonomních aut, do kterých si sedneme, zavřeme oči a necháme se vozit, od toho jsme pořád dost daleko. Je to symbolické i pro další využití AI, které můžeme vidět v médiích. Jsou to spíš takové střípky pokroku než plošně využitelné záležitosti.
Řada lidí má z AI strach, který často přiživuje filmová, seriálová a knižní produkce. Je tento strach oprávněný, nebo se lidé bojí zbytečně? I u zmíněných autonomních aut se diskutuje nad problémem, že vozidlo bude muset v případě dopravních nehod rozhodovat za nás.
Stoprocentně by se našli lidé, kteří by se mnou nesouhlasili, ale na základě toho, co vím z praxe a od odborníků, jako je Tomáš Mikolov, podle mě ten strach oprávněný není. Je to obdobná situace, jako když se zaváděla elektřina a lidé se báli, že si nemohou doma nainstalovat zásuvku, aby je neuškvařil proud. Podobná hysterie panuje kolem umělé inteligence, akorát je na ještě vyšší úrovni, protože se lidé bojí, že nás technologie nahradí jako druh v rámci evoluce. Je to určitá psychologická překážka, která byla způsobená například rétorikou kolem robotů, kteří jsou často neprávem antropomorfizovaní (polidšťovaní – pozn. redakce).
Strach je ale oprávněný například v rámci toho, jak firmy a státy nakládají s našimi daty. Firmy jako Facebook začínaly jako studentský projekt. Zuckerberg podle mě nepočítal s tím, že z jeho sítě bude multimiliardová společnost, která má v některých případech větší moc a dopad než stát. Například jako tehdy, když se Facebook nedohodl s australskými médii a odmítl vysílat v zemi jejich zprávy.
Celý obor kyberbezpečnosti a ochrany dat se do jisté míry buduje za pochodu s tím, jak se více lidí pohybuje v technologiích a používá je na denní bázi. Firmy na nakládání s daty často nejsou připravené tak, jak by rády. A pak se zjistí, že z nich unikají data uživatelů nebo že se přeprodávají třetím stranám. Podle mě bychom měli mít strach z neschopnosti států, které neumí zajistit, aby data byla chráněná v bezpečném kyberprostředí, nebo velkých firem, kterým je to buď jedno, nebo tyto záležitosti nemají dořešené (příklady viz zde a zde).
Nebála bych se tedy toho, že nás podřízne robot, ale spíše toho, že datová stopa, kterou za sebou necháváme, bude nějakým způsobem odhalená nebo zneužitá. Je důležité zvládnout digitální sebeobranu. Osvěta v rámci tohoto tématu je nízká, ale v Paralelní Polis se této tematice velmi věnujeme a snažíme se to změnit.
Jak se dá vysvětlit paradox, že lidé ochotně sdílejí všechna svá data na sociální sítě, ale zároveň se bojí, že je stát chce špehovat? Čím to je, že si lidé neuvědomují, kolik informací o sobě dobrovolně sdílejí?
Se sdílením dat je to podobné, jako byste dali na ulici někomu kreditku a doufali, že ji nepoužije. Lidé jsou na internetu tak komfortní, že si ani neuvědomují, kde všude data nechávají. Ve chvíli, kdy kliknete na „Přijmout cookies“, už o vás daný server ví strašně moc. A kdy jste si naposled při odklikávání četli Terms and Conditions? Firmy jsou v tomto často cíleně netransparentní, protože vydělávají na reklamě. Čím přesnější je reklama, tím je pravděpodobnější, že si koupíte daný produkt. Tím pádem se o vás snaží nasbírat co nejvíce dat, protože je to jejich byznys model. Proto o svých cílech příliš neinformují, jinak by lidé svá data tak ochotně nesdíleli.
Se sociálními médii jsou spojovány i sociální bubliny (tzv. echo chambers), v nichž se sdružují lidé s podobnými názory a jejichž vzniku umělá inteligence napomáhá. Existuje způsob, jak tyto bubliny narušovat a docílit toho, abychom byli spojováni i s lidmi z jiného názorového spektra?
Cílem echo bublin je, abyste se cítili dobře, takže i přesto, že vám rekomendační algoritmus jednou za čas nabídne nějakou hloupost, například abyste si přidali do přátel bývalého vaší přítelkyně, tak se z 90 % trefí správně. Bude vás spojovat s lidmi, se kterými hodně interagujete a tím pádem máte i hodně společného.
Ale termíny jako echo chambers jsou často hodně zveličované. Tohle se přece děje i v normálním životě. Historicky, i bez počítačů, jsme vždy měli tendenci se sdružovat s lidmi, se kterými nám je dobře a jsou ve stejné názorové skupině. Málokdy lidé vystupují ze své komfortní zóny, aby si promluvili s někým, s kým nesouhlasí. Člověk a priori nemá rád konfrontaci. Na sociálních sítích se to děje ve větší škále, ale vinit technologii z toho, že lidé ve volbách volí určitým způsobem nebo se shlukují v bublinách, není fér.
Pokud budu mluvit z vlastní zkušenosti v politických kampaních, kterých jsem se účastnila v několika zemích po celém světě, od Singapuru, přes Albánii až po Ameriku, bylo to všude o tom samém. Politici neměli zdání, jak se správně dělá kampaň a jen kostrbatě používali různé digitální nástroje. Ve finále, pokud je člověk přesvědčený, že nebude volit Trumpa, tak ho jen tak něco nezviklá, i kdyby to byly fake news. Samozřejmě existují organizace, které je cíleně šíří. Ale to, že jim lidé uvěří, vychází z frustrace systémem, z toho, že lidé už nevěří ničemu a nikomu, a tím pádem spadnou do konspiračních teorií. Hledají alternativní realitu, která jim není na politickém poli poskytnutá. Národní státy už jsou překonané koncepty a podle mě nás v budoucnu čeká cloudové společenství.
Dobrý příklad v této oblasti je deep web, který funguje na bázi reputace. Pokud tam šíříte nepravdy, komunita vás vytěsní a vaše názory nepřijímá. A naopak, lidé, kteří mají co říct a chovají se na té síti slušně, se ocitnou na špičce pyramidy. V tomhle je to paradoxně zdravé prostředí. Ale jakmile se řekne deep web nebo dark net, lidi se hned bojí, protože stále panuje představa, že je určený na dětské porno nebo drogy, což už dávno není pravda.
Já jsem tedy také doteď žila v představě, že deep web je místo, kde se akorát nelegálně prodávají zbraně nebo drogy.
Určitě existují velmi temné, nepříjemné a ilegální zákoutí deep webu, ale nereprezentují celé prostředí. Nechci tvrdit, že je to nějaké duhové místo plné jednorožců. Ale na druhou stranu, kryptoměny jako bitcoin byly taky na začátku používané na přeprodej zbraní, protože byly anonymní. Dnes se už ta sociální dimenze úplně změnila a investují do nich i babičky. A tady je krásně vidět, že technologie za ty vzniklé problémy opravdu nemůže. Je to o tom, jak je společnost přijme a začne je využívat. A například na deep web se začíná uchylovat čím dál více lidí, kteří hledají svobodu, protože tam není tolik cenzury.
V současnosti se začínají rozrůstat různé další alternativní platformy, jejichž krédo je, že na rozdíl od velkých sociálních sítí necenzurují. Nebude tento pocit, že podléháme cenzuře, postupně od původních sociálních sítí odrazovat?
Opět to vychází z toho, že lidé hledají autenticitu a opravdovost. Je to vidět třeba i na tom, jak se mění influencerská scéna během covidu. Influencerů typu Kardashians, kteří letěli před pár lety, už lidé mají plné zuby. Je krize, lidi nemají peníze a chtějí vést upřímné diskuze. Prostředí sociálních sítí je ale toxické a lidi se často bojí, aby nevypadali hloupě, nebo aby je dokonce nevyhodili z práce, pokud napíšou něco kontroverzního. A proto sociální síť, která umožňuje být autentický a váží si uživatele jako člověka, bude hit. Myslím, že takových uvidíme čím dál víc.
Vraťme se nyní ke strachu lidí z umělé inteligence. Jak se proti němu dá bojovat?
Možná to bude znít jako klišé, ale důležité je hlavně vzdělání. Například v Elements of AI se snažíme lidem ukazovat, že neuronové sítě nejsou žádná magická záležitost, ale prostá analytická metoda zpracování dat.
Popularizace AI v Česku ale není jednoduchá záležitost, protože tu panuje jistý akademický elitismus. Já jsem vystudovaná archeoložka a evoluční antropoložka a pracuji v technologiích už téměř deset let. Ale v Česku se tu a tam setkávám s názorem, že pokud člověk nemá doktorát v daném oboru, tak si o něm téměř nemůže dovolit nic říct. Občas se tedy popularizace dělá těžko, ale pomáhá mi, že své obory propojuji a o AI mluvím lidovým tónem. To, že člověk o tak složitém oboru mluví, jako by si objednával svíčkovou se šesti, na lidi nejvíc funguje. Je potřeba s veřejností mluvit a vytvořit poptávku odzdola, probudit v lidech přirozenou zvídavost a dovolit jim angažovat se. Je důležité, aby se uměli sami vyznat v digitálních technologiích.
Bohužel seriály a filmy jako je Black Mirror nebo Social Dilemma nám v našem snažení moc nepomáhají. Já, robot taky zní víc sexy než Já, datový klasifikátor. Musíme tedy jít proti téhle PR bublině. Nedělá se to lehce, ale my v Paralelní Polis, Science To Go, Elements of AI, prg.ai a jiných iniciativách jsme vytrvalí.
A mají „obyčejní“ lidé vůbec touhu se v oboru AI vzdělávat? Setkáváme se přece běžně s tím, že lidé často raději žijí ve své pohodlné nevědomosti a odmítavosti a jsou tak spokojení.
Pro mě je inkluze maximálně důležitá. Je podstatné, aby se žádný člověk nestyděl být součástí ekosystému. Podívejme se, jak popularizaci dělá Elon Musk. Na jeho Twitteru je vidět, jak se obyčejní lidé, kteří přes den pracují třeba v obchodě, mohou aktivně zajímat o mechanické detaily Neuralinku nebo autopilota Tesly a Musk jim to předává. Jeho 50 milionů sledujících je důkazem, že přirozená zvědavost po technologiích v lidech je, akorát se jim ty informace musí dobře předat. Ovšem má to i své stinné stránky – podívejme se například, jak jeho tweety ovlivňují kurz bitcoinu. Kolísání kryptoměn na bázi těchto až prozaických momentů na sociálních sítích ukazuje, jak „lidské“ a emotivní technologie vlastně jsou.
Ale zpět domů a k digitální gramotnosti našeho národa. V Česku historicky hraje velkou roli průmysl. A my se dostáváme do paradoxních situací, kdy by AI mohla velkou část procesů zautomatizovat, ale firmy odmítají své zaměstnance v této oblasti vzdělávat, protože chtějí ušetřit. Pro ty pracovníky je pak irelevantní, že AI nejen vezme pracovní místa, ale také pomůže vytvořit nová, protože nemají možnost získat schopnosti, které jsou pro ty nové pozice nutné. A proto je potřeba mezi lidmi šířit, že AI není tak složitá, jak zní, a že i oni mají nárok se v této oblasti vzdělávat.
A jak se dá překlenout propast mezi ajťáky, kteří AI rozumí a mluví často odborným jazykem a „obyčejnými lidmi“, pro které je IT a AI španělská vesnice?
Jeden způsob je popularizovat výzkum, který tady už máme. Češi jsou v tomhle opravdu „experti“. U nás probíhá skvělý výzkum, do kterého by se na západě lily desítky milionů dolarů, ale my ho neumíme ani zpeněžit, ani PRově vytěžit. Je třeba místním akademikům ukázat, že popularizace dobrého výzkumu se nerovná jeho zlevňování. Ale jsou tu lidé jako Pavel Kordík, Jan Veselý, Radek Richter nebo Michal Pěchouček, kteří se popularizaci aktivně věnují a posouvají ekosystém raketově vpřed.
Druhý způsob jsou vzdělávací programy jako je Elements of AI. Třetí možnost je matchmaking informací, tedy aby se relevantní informace dostávaly k relevantním lidem. V téhle oblasti pracujeme na projektu Metauniversity, který má propojovat studenty a jejich schopnosti s relevantními pozicemi v průmyslu. V jeho rámci se už od školky bude zaznamenávat v čem dítě vyniká, a co mu naopak nejde. Celoživotně se může vzdělávat a vyvíjet na bázi svého talentu a akademických úspěchů a prošlapávat si tak cestu personalizovaným způsobem. A poslední cesta, jak propojovat ajťáky a veřejnost, je poskytnout lidem nezávislou platformu, která umožňuje žít a potkávat se v cloudu a v níž budou moct být sami sebou a získávat ničím nezkorumpované informace. O to se snaží pAIoneers a Czech.global.
Česko, podobně jako jiné státy střední a východní Evropy, čelí odlivu mozků. Jak se dá zabránit tomu, aby nám odborníci neutíkali do zahraničí?
V Česku máme tu výhodu, že se sem lidé instinktivně po nějaké době strávené v zahraničí vracejí. V tom případě jsou hlavním problémem příjmy. Buď musíte mít vyděláno tak, že pro vás peníze nejsou relevantní, takže se můžete vrátit a pracovat za nižší částku, nebo vás musí někdo nalákat na vysoký plat. Ale ten jsou většinou ochotné nabídnout jen korporáty, které nebývají pro odborníky až tak zajímavé. Problém není jen v nedostatku peněz, ale i v psychologickém bloku. Odborníci se jednak bojí, že jim závistiví lidé budou házet klacky pod nohy, a jednak je odrazuje složitá administrace a byrokracie. Pokud v Česku chcete udělat něco, co vybočuje z tabulky, strávíte půl roku jenom procesním řízením.
No a co přimělo k návratu ze zahraničí Tebe?
Pro mě to bylo opadnutí růžových brýlí. Na Oxfordu jsem zažila jedny z nejšťastnějších let mého života. Bylo to tam skvělé hlavně z toho důvodu, že si mě okolí poprvé nedobíralo za to, že mě baví škola, ale naopak to bylo plus. Potkala jsem tam hodné lidi, kteří nikoho nesoudili za to, z jakého pocházel zázemí. Jediná berná mince bylo, jestli je člověk chytrý, což pro mě bylo osvěžující. Ale po škole to opadlo. Nájem v Londýně byl vysoký a místní mi začali připadat čím dál míň sympatičtí. Postupně jsem zjistila, že kromě práce na všech frontách stagnuju a začalo se mi stýskat po rodině a po takových každodenních drobnostech, jako je český smysl pro humor. Pak už to byla souhra okolností, která mě přiměla se vrátit. A byl to nejlepší tah, jaký jsem mohla udělat. Už jsem zpátky v Praze skoro tři roky a jsem pořád nadšená. Často si ani neuvědomujeme, co tady v Česku máme.
V Anglii jsou asi i vstřícnější k multioborovosti, tedy k tomu, že si člověk nakombinuje několik oborů zájmu a pak to zužitkuje, než u nás?
To ano. V Anglii mají multioborovost i víc formálně zanesenou. Všechny obory jsou tam fixní, takže jdete studovat určitou kombinaci oborů, které dává smysl studovat ve spojitosti a přes to nejede vlak. Jsou tam i kombinace oborů, jako je fyzika a filozofie, kde se učíte o Kantově kategorickém imperativu a zároveň studujete strojové učení. I ve společnosti je k tomu jiný přístup. Mně se vždycky divili i doma, proč nedělám archeologii, když jsem ji vystudovala. Ale v Anglii to není téma. Tam člověk může studovat jeden obor, který ho baví, a pak dělat téměř cokoliv jiného. Oproti tomu v Česku je to spíš lineární. V patnácti se rozhodnete, že půjdete na práva, a to znamená, že do důchodu nesmíte dělat nic jiného, jinak jste zradil ten svůj cech. To je dost rakousko-uherské a nekonstruktivní. A připadá mi, že se to neslučuje s takovou tou českou punkáčovskou mentalitou. Jsou tu některé projekty, které se to snaží změnit, ale myslím si, že je to ještě běh na dlouhou trať.
Co si myslíš o současném postavení žen ve vědě? Poslední dobou se do popředí konečně dostávají i ženy jakožto vědkyně a vzdělávání v technických oborech cílí i na mladé dívky. Mám pocit, že se konečně alespoň částečně daří narušovat stereotypní představu o tom, že ženy technice prostě nerozumí. Vidíš někde prostor pro zlepšení?
Možná to bude znít kontroverzně, ale já tuhle rétoriku nemám ráda. Já osobně jsem nikdy nezažila, nebo si to alespoň neuvědomuju, že by mě někdo diskriminoval, protože jsem žena. Naopak jsem zažila pozitivní diskriminaci, kdy mě kvůli tomu pozvali na moderování panelu. A nemyslím si, že by moje chromozomy měly rozhodovat o tom, jestli někde mám, nebo nemám být. Chci být pozvaná hlavně kvůli tomu, že jsem v tom, čemu se věnuju, dobrá. V zahraničí jsem taky často zažila opačné případy, kdy docházelo k diskriminaci mužů.
Určitě je dobře motivovat lidi, aby se vědě věnovali a nebáli se toho, ale podle mě to není tak otázka pohlaví, jako spíš generační edukace. Musíme motivovat rodiče, aby u svých dětí podporovali i netradiční povolání. Podle mě je důležitá popularizace a vzdělání všech, včetně chudších lidí. Je důležité propichovat spíš demografické a finanční bubliny než genderové.
S jakými problémy se setkáváš při práci na svých projektech?
Myslím si, že je potřeba nakopnout ekonomiku emocí a sdílení. Jako společnost máme takovou obsesi, že všechno musí být produkt. Jakmile tam není něco měřitelného, co by fungovalo jako argument pro investory, tak se to nemůže dělat. To vede k tomu, že vzdělávací aktivity jsou stavěny do pozice, kdy musí věčně žebrat o každý peníz. Doufám, že cloudové společenství napomůže tomu, že lidé začnou více sdílet své příběhy a starosti. To by mohlo i vést třeba i k rozšíření crowdfundingu.
Co bys vzkázala lidem, kteří uvažují o tom, že se začnou umělé inteligenci věnovat?
Vzkázala bych jim, aby se toho nebáli. Často jsou ty koncepty méně složité, než si je lidé představují. Je důležité se do toho nějakým způsobem ponořit. Začít se dá klidně na Wikipedii nebo v twitterové komunitě. Dobrý začátek jsou kurzy jako je Elements of AI. Dál bych jim poradila, aby se o tom bavili a oprostili se od psychologického bloku, že jim to nepřísluší. Je ale třeba mít hroší kůži, protože AI je také velký byznys a firmy často nechtějí, aby do toho lidé pronikali až příliš. Je ale důležité nebát se toho, nenechat se odradit a mít zdravou vnitřní motivaci. AI rozhodně není jen pro technology, ale je pro všechny, protože už nyní nám všem mění životy.
Sara Polak: Projekty
- Hlavní projekt: pAIoneers lab v Paralelní Polis – Cílem této technologické klubovny je probourat psychologickou bariéru mezi lidmi a technologiemi a skrz zábavný obsah a multioborové vzdělávání zdarma poskytnout lidem prostor technologie lépe pochopit. Smyslem je také vybudovat cloudové společenství a ukázat lidem praktické využití umělé inteligence. Podle Sary, která stojí v čele projektu, současné komunity vznikají v cloudu a nejsou geopoliticky ohraničené.
- Projekt prg.ai – iniciativa míní z Prahy učinit světové centrum umělé inteligence. Sara zde společně s vědcem Tomášem Mikolovem zdarma vyučuje kurz pro veřejnost Elements of AI.
- Projekt Czech.global – záměrem projektu je autentickým způsobem propojit Čechy z celého světa na jedné platformě a tím dokázat, že národ a komunita dokáže existovat v cloudu. Cílem je vytvořit první cloudový národ na světě.
- Drobnější projekty jako Science to go nebo podpora obsahu na FIT ČVUT – zkrátka intenzivní popularizace vědy tam, kde je to jen možné
- Pracuje na knize o memes, technologiích a historii lidstva