Marie Bydžovská, Euroskop, 19. 3. 2019
Nechtěl bych, aby se vývoj a výzkum zastavily proto, že se toho politici začnou bát. Ale zároveň by se technologie měly vyvíjet s ohledem na to, jaký mají dopad na společnost, říká zakladatel výzkumné organizace GARI Michal Kořan.
Michal Kořan předsedá představenstvu institutu GARI (Global Arena Research Institute). Předtím působil na pozici zástupce ředitele Aspen Institute Central Europe a zástupce ředitele Ústavu mezinárodních vztahů v Praze.
Při výzkumu mezinárodních vztahů a evropské politiky podle svých slov dlouhodobě narážel na „skleněný strop“ toho, co může dokázat v oblasti společenských věd. Proto se přibližně před třemi roky spojil s vědci z Českého vysokého učení technického (ČVUT), hlavně s odborníky na umělou inteligenci, hluboké učení (deep learning) a nejpokročilejší technologie, aby realizoval koncept, jak studovat globalizaci prostřednictvím nově založeného výzkumného institutu.
Institut GARI, v kterém působíte, se věnuje vztahu technologií a společenského vývoje. Kam bude podle Vás v příštích deseti letech technologický vývoj směřovat?
Mezi základními komponenty technologického vývoje jsou čím dál tím větší schopnost využívat data, rozvoj umělé inteligence a internetu věcí. Když toto propojíme, tak vidíme vytváření inteligentních systémů. Ty budou čím dál tím více propojeny s lidským životem a společností.
Nicméně cílem výzkumné organizace GARI není předvídat, co se bude dít. Spíše chceme říct, kde bychom za deset let chtěli být. A co pro to můžeme udělat. Když se účastním veřejné debaty, tak mám jiný cíl, než když jsem v roli výzkumníka. Nechci, aby ve veřejné debatě převládal postoj „něco se nám děje a bude se to dít i do budoucnosti“. Chtěli bychom říct: „Ono se nám to neděje. To děláme my“.
Nechtěl bych, aby se vývoj a výzkum zastavily proto, že se toho politici začnou bát a začnou podporovat konzervativní staré přístupy. Ale zároveň by se technologie měly vyvíjet s ohledem na to, jaký mají dopad na společnost. Těžko přinutíte manažery velkých firem, aby přemýšleli, jaký vliv budou mít jejich kroky na společnost.
Společnost by se ale měla snažit zabránit rozevírání digitálních a technologických nůžek. Tedy rostoucí propasti mezi částí společnosti, která je připravená na nástup digitálního světa a částmi, které připravené nejsou, třeba kvůli chybějícímu vzdělání. V době, kdy se moc přelévá ze státu na velké technologické společnosti, tak může být toto rozevírání nůžek opravdu smrtící.
Je vůbec možné tomuto vývoji zabránit?
Domnívám se, že už fakt, že se o tom bavíme, znamená, že ve společnosti existuje reflexe tohoto problému. Všichni jsme si dělali legraci z GDPR, z toho, kolik nám kvůli němu přišlo emailů. Jsou to sice možná zvláštní a nešikovné, ale první kroky směrem k reformě toho, co nazýváme společenským kontraktem.
Jsem optimista. Věřím, že společnost je schopná reflektovat změny a své instituce na základě nich upravovat. Problém je, že technologický pokrok je strašně rychlý a reflexe je 15 let za ním. Ale učíme se to. A třeba technologie můžou pomoct, abychom se učili rychleji.
Slavnostní zahájení činnosti výzkumného institutu GARI proběhlo v říjnu 2018. Zdroj: GARI
Vlády se snaží držet krok s technologiemi
Zatím se zdá, že spíše technologie ovlivňují společnost a politiku než naopak. Znáte nějaké konkrétní případy, kdy se naopak společenským vědcům nebo politikům podařilo ovlivnit vývoj technologií?
Není to tak, že by vlády nic nedělaly. Vlády se samozřejmě pokoušejí chytit vlak. Rozhodně v oblasti obranných a bezpečnostních systémů jsou to vlády, které pořád ještě mají hlavní slovo.
Z hlediska vývoje technologií, tak EU, národní vlády nebo USA financují výzkum. Podívejte se na výzkum letectví, kosmonautiky. Na naše Sympozium (hyperlink) třeba přijel ředitel technologií pro CERN. To jsou do velké míry veřejné finance, které směřují do základního výzkumu. Vznikají nové a nové iniciativy na masivní výzkum umělé inteligence. Ještě trochu jiný případ je Čína, která masivně investuje do technologií.
V mnoha jiných oblastech jsme teprve na začátku. Nyní vidíme celou řadu pokusů vlád ustát svou pozici na hracím poli – řekněme z hlediska regulatorního – ať už jsou to obří pokuty pro Facebook nebo Amazon nebo ustavení GDPR.
V čem jsou vlády pozadu za velkými firmami?
Základní rozdíl je, že velké společnosti mají data a využívají je. Google, Facebook, Amazon, ale třeba i Walmart mají obrovská množství dat a hlavně se nebojí je použít. I v případě, že vlády mají data, často nechtějí a neumí s nimi zacházet v té míře, jak by bylo možné.
Jeden z cílů GARI je veřejně dostupná vládní data v agregované podobě využívat. Chceme, aby se do našich projektů zapojili i firmy, abychom mohli využívat data ze soukromého sektoru. Máme neformální příslib od Mezinárodního měnového fondu, že bychom za určitých okolností mohli využívat jejich hrubá, nezpracovaná, agregovaná data.
Michal Kořan moderuje debatu při slavnostním zahájení činnosti institutu GARI. Zdroj: GARI
Internetové platformy budou muset dostat jasné „červené linie“
V mnoha zemích způsobilo skandál provalení informací o tom, jak společnost Cambridge Analytica využívala data od uživatelů Facebooku. Jak hodnotíte politické diskuze o regulaci využívání dat internetovými platformami jako třeba Facebook, které z tohoto skandálu vzešly?
Činnost Cambridge Analytica nebyla jenom o zneužívání velkých dat. Oni prostě natvrdo dělali „malou lokální politickou korupci“ a zastrašovali. Pokud jste schopní vytáhnout citlivá data z osobního facebookového profilu a pak dané osobě cíleně posílat obsah, který v ní vyvolá strach, tak útočíte na ty nejcitlivější primordiální stránky mysli. To je samozřejmě strašné. Pokud by takhle měl vypadat politický marketing do budoucna, tak můžeme všechno zabalit.
Vlády v Evropě v současnosti hledají cestu, jak internetové platformy regulovat. Invazivní regulace by ale zadusila potenciál, který ve velkých datových přístupech může být. Lepší by ale bylo jít dlouhodobější cestou – posílit schopnosti lidí, aby mohli díky technologiím činit informované volby sami pro sebe. Bylo by ale třeba vytyčit červené linie, kam až je možné jít, a při jejich překročení by bylo využití osobních údajů už trestné.
Opravdu v překvapivých výsledcích veřejných hlasování v posledních letech, jako bylo referendum o brexitu nebo vítězství Donalda Trumpa v prezidentských volbách, hrály tak významnou roli sociální sítě a manipulace s daty?
To si netroufnu tvrdit. Na to nejsem odborník. Můžete velmi dobře cílit reklamu na sociálních sítích. Ale třeba i v případě USA tomu předcházel velmi důkladný průzkum v lokalitách, které by mohly patřit ke skalním podporovatelům Donalda Trumpa. Oni měli detailní informace, co lidé chtějí slyšet a jak tedy kampaň vést. Tomu rozhodně sociální média napomohla.
Na druhou stranu si musíme uvědomit, že sociální frustrace není umělá, vyvolaná ruskou propagandou nebo čínskými troly, sociálními médii. Lidé ve velké části společnosti se opravdu cítí zrazeni a ztraceni. A tak prostě slyší na to, co jim někdo servíruje.
Vidíte i nějaká pozitiva, která přineslo rozšíření sociálních sítí?
Sociální sítě sice přispívají k vulgarizaci veřejného prostoru, ale na druhou stranu díky nim obrovským způsobem dochází k jeho demokratizaci. Vždyť díky nim můžete přes Twitter přímo komunikovat třeba s americkým prezidentem. Je móda vidět sociální sítě jako zlo. Neměli bychom je tolik démonizovat, ale spíš se bavit, jak s nimi pracovat a jak využít ten obrovský potenciál, který mají.
Pokaždé když došlo k výraznější změně, která znamenala demokratizaci, společnost musela projít velmi obtížným způsobem učení se nové skutečnosti. Podívejte se třeba na francouzskou revoluci. To nebyla procházka růžovým sadem. Došlo k vulgarizaci politiky, ale zároveň i k demokratizaci. Jde o to, aby došlo k demokratizaci vlastních technologií – technologického kapitálu a přístupu k technologiím.
S počítačovými vědci si musíme ujasnit pojmy
Jako cíl institutu GARI máte na webu napsáno, že „sociální, etické a normativní vědy a technologický pokrok se musí navzájem informovat a ovlivňovat“ a posláním GARI je přispět právě k tomu. Jak takového ambiciózního cíle chcete dosáhnout?
Uvědomuji si, že jsme si stanovili vysokou ambici. Ne vždycky je to zdravé, ale v tomto případě tomu věřím. Po celém světě se objevují nové instituce, které pracují se socio-technologickým přístupem. Věnují se třeba zdravotní péči, sociálním oblastem, vzdělávání, nebo kritické infrastruktuře. Další firmy používají datovou vědu pro politický marketing. Dosud jsem se ale nesetkal s pokusem využít datovou analytiku na výzkum globalizace.
Při výzkumu mezinárodních vztahů a evropské politiky jsem dlouhodobě narážel na „skleněný strop“ toho, co můžu dokázat v oblasti společenských věd. Měl jsem v hlavě koncept, jak studovat globalizaci, ale věděl jsem, že ho není možné v rámci společenských věd obsáhnout. Proto jsem se přibližně před třemi roky spojil s vědci z Českého vysokého učení technického (ČVUT), hlavně s odborníky na umělou inteligenci, hluboké učení (deep learning) a nejpokročilejší technologie. Došli jsme společně ke konceptu, že chceme studovat globalizaci pomocí vysoce vyvinutých počítačových technik. Technologie nám umožní globalizaci vidět v komplexitě a zachytit obrovskou rychlost proměn.
Dokáží sociální vědci a technici najít společnou řeč? Z vlastní zkušenosti se mi zdá, že obě tyto skupiny mají úplně jiný pohled na svět.
Když se spolu bavíte, tak zjistíte, že většina techniků přemýšlí stejně jako vy. Dokáží odlišit, co je dobré a co špatné. Uvědomují si, že mohou obrovsky přispět k tomu, co dělají společenské vědy. Snažím se přemýšlet o pro mě složitých otázkách, a když to řeknu počítačovému géniovi, tak většinou za deset vteřin ví, co jsem chtěl říct.
Měl jsem ale zkušenost, že jsem se bavil s vědcem z oblasti matematiky a počítačových věd o tom, jak udržet a zadávat hodnoty ve výzkumu globalizace. Za chvíli jsem si uvědomil, že on hovořil o hodnotách ve smyslu čísel. Na technické úrovni si někdy pojmy ujasnit musíme.
Chceme lidem usnadnit orientaci
Může vůbec umělá inteligence dodržovat etická pravidla? Není to čistě doména lidí?
Je to jako s každým jiným nástrojem. Na počátku procesu je člověk, a na něm záleží, kam ho nasměřuje. Další otázkou je, co se stane, když se začne umělá inteligence vyvíjet sama. To jsou už velmi technické otázky – třeba jak zvýšit transparentnost kódování, abychom byli schopni rekonstruovat proces nazpátek a vědět, co se uvnitř algoritmu děje. Je nesmírně důležité mít úzký dialog s techniky, s lidmi, kteří tvoří kódy.
Na sympoziu Next 100, které jsme zorganizovali v listopadu, jsme sice otázkám etiky a technologií věnovali jeden panel, ale není to hlavní otázka, kterou chceme řešit. Rozhodli jsme se v rámci výzkumu pracovat s umělou inteligencí, které dáváme úkoly pro výzkum globalizace. Cílem je, abychom umožnili lidem a institucím se v problematice orientovat. To považuji za využití umělé inteligence k dobrému cíli.
Sympozia Next 100 se zúčastnili také ředitel evropské kanceláře Mezinárodního měnového fondu Jeffrey Franks nebo profesor LSE Iann Begg. Zdroj. Sympozium Next 100
Není problém i vnímání postmoderní společnosti, která má problém se shodnout, jaké jsou naše společné hodnoty?
Rozmělňování hodnot je dlouhodobá věc, to je tady v podstatě pořád. Vždycky je ve společnosti skupina, která je nespokojená a útočí na hodnoty. Tak to bylo v 60. letech, revolty v polovině 19. století a v dalších případech.
Pro nás je důležité, že můžeme malým kamínkem přispět do mozaiky tím, že řekneme: „tady máme komplexní data, která jsme schopni ve velmi reálném čase vidět dopady různých politických rozhodnutí a postup globalizace. Jak se to přetaví v hodnotovou debatu, s tím nemůžeme nic dělat.
Snažím se naši práci přirovnat k GPS. Ta vám může velmi usnadnit život a rozhodování, zejména v letectví, kde si nedovedu představit, že by mohlo na nebi v jednu chvíli fungovat tolik letadel, jako může v současnosti díky GPS. To neznamená, že Vám to řekne, jaké rozhodnutí je nebo není správné.
Myslím si, že většina lidí dovede odlišit, co je dobré a špatné. Technologie nám usnadní orientaci ve společnosti.
Autor: Marie Bydžovská, Euroskop