Mařík: Pozor lidstvo, abys s inteligentními roboty nezašlo příliš daleko | E15.cz

Mařík: Pozor lidstvo, abys s inteligentními roboty nezašlo příliš daleko

Jiří Liebreich

Celý život věnoval technologiím, především robotům s umělou inteligencí. Dnes má Vladimír Mařík, ředitel Českého institutu informatiky, robotiky a kybernetiky, velkou radost z významných pokroků v oblasti člověkem tvořených inteligentních strojů. Zároveň ale neskrývá strach z těch s lidskou tváří a z podceňovaných investic do bezpečnostních systémů.

Do jaké míry jsou současní roboti vybavení umělou inteligencí skutečně inteligentní?

Zatím ne příliš. Jsou teprve na počátku vybavování těmito systémy. Srovnáme-li jejich dnešní inteligenci s tím, jak si to představoval Karel Čapek, tak stále máme co dohánět. Jsou to naprogramované stroje bez emocí a vlastního vědomí. Pokroky jsou ale ohromné.

Pro lepší představu - kteří roboti disponující umělou inteligencí patří k těm nejjednodušším a kteří ke špičce?

Nejjednodušší jsou ti, kteří vykonávají jednoduché úkony na základě rozpoznání tvarů součástek pomocí kamery. Najdeme je i v našem průmyslu. Po pásu jede výrobek, stroj rozpozná jeho typ i polohu. Úchopnou hlavici naviguje tak, aby ho ve vhodný okamžik vhodným způsobem uchopila. Na druhém konci spektra jsou takoví, kteří pocházejí od velkých japonských automobilek typu Toyota. Shoichiro Toyoda, syn zakladatele Toyoty a její čestný předseda, vidí auto budoucnosti jako sofistikovaného robota na čtyřech kolech. Přivezl sebou jednoho, co vypadal jako člověk. Hrál v Betlémské kapli na trubku. Když přišel, pozdravil, zahrál, zasalutoval a skončil, tak mi běhal mráz po zádech. Když jsem v Japonsku viděl tyto lidské napodobeniny mající simulovanou pokožku i emoce, říkal jsem si: pozor lidstvo, abys nezašlo příliš daleko.

Robot v Betlémské kapli.Robot v Betlémské kapli.Autor: ČVUT

Takže se vám podobné napodobeniny člověka nelíbí?

Z výzkumného i propagačního hlediska – dobrý. Chceme ale do budoucna roboty, kteří by vypadali jako lidé? Je to problematika etiky, vkusu, našich emocí.

Jak rychle probíhá u umělé inteligence učení a jak si tento proces představit?

Znamená to hledání typicky se opakujících situací v datech. Ty se pak zobecní a stroj je připraven je řešit. Vezmete si situace, jak reagoval člověk, a snažíte se nastavit parametry robota, aby reagoval stejně. Příklad: máte stroj s rukou. Rozvolníte klouby, mechanika tedy nic nesvírá. Vezmete lidskou ruku a provádíte pohyby, jako když třeba stříkáte plech automobilu – a opakujete stokrát. Robot si takhle zobecní a zprůměruje trajektorii a učí se. Toto je pouze učení od člověka nebo z již zažitých situací. Nás ovšem zajímá učení, které bude založené na vytvoření složitějšího modelu světa. To je náročnější, stroj s umělou inteligencí by si musel uvědomovat svou pozici, nadefinovat cíl a matematickými manipulacemi hledat řešení, které může být lepší než z lidské hlavy.

Je zmíněná absence vědomí sama sebe největší rozdíl mezi špičkovými stroji a člověkem?

Tam je ten klíč. Když jednou robot překročí práh toho, že bude schopen uvědomit si sám sebe a mít vlastní vědomí, vlastní cíle a vlastní způsoby, jak jich dosáhne, tak je položen základ toho, aby mohl působit kreativně.

Jak stát plánuje využít drony: odkrývání časovaných bomb na polích i plašení srnčat

Věříte, že někdy dojde k vyrovnání úrovně lidského a uměle vytvořeného vědomí?

Vývoj půjde dopředu, zatím tu šanci ale nevidím – nemohu ji ale vyloučit. Nepodaří se to zřejmě u robotů s procesory a pamětí postavenou na anorganické hmotě, na křemíku. Cesta vede k tomu, že část rozhodovacích mechanismů by měla fungovat na bázi živých, byť námi vytvořených tkání. Očekávám, že jednoho dne vzniknou umělé bílkoviny, struktury, které budou zpočátku jednoduše reagovat a přizpůsobovat se prostředí, ale ve kterých může nastat autonomní přesmyknutí se – změna DNA, autonomní kousek kreativity. To je ten zlom, který může v dlouhodobém výhledu přispět k tomu, že se budou stroje schopny samy učit a vymanit se z klišé, které mají naprogramované.

Do jaké míry jsou současní roboti nebezpeční?

Nebezpečí je hlavně v tom, že mají mechanickou sílu, kterou mohou poškodit svět – lidi a naše zařízení. I v situaci, kdy spolu kooperují tři dobře naprogramovaní, může dojít k tomu, že něco rozbijí nebo do sebe narazí. Bráníme se třeba diodovou stěnou, kterou když poruší, vznikne varovná signalizace.

Nacházíme se v nejnebezpečnějším okamžiku ve vývoji lidstva, varuje Hawking

Platí rovnice: modernější = nebezpečnější?

Stupeň inteligence by měl odpovídat míře zabezpečení autonomního systému. O tom ty zákony robotiky v budoucnu budou. Když budeme mít velmi vyspělého robota bez dostatečně inteligentních zábran, tak je pro nás nebezpečný. Vedlo by to k tomu, že by se nám stroje vymkly z kontroly. Zabezpečení budou velmi drahá, proto je musí nařizovat zákon.

V Evropské unii vzniká vůbec první legislativa, která se zabývá roboty s umělou inteligencí. Na jakých principech by měly stát nově tvořené zákony?

Velice to vítám. Právní rámec má vznikat hned v zárodku masovějšího nástupu robotů. Setkáváme se s přítomností úplně nových autonomních entit – například samořídících aut. Budou mezi námi jezdit, parkovat. Je to nový prvek, který se nějak chová v našem prostředí. Měly by proto být zakotveny jasné normy, kdo za co zodpovídá, a stanoveny hranice, kam až může autonomie jít. Zatím se zákony týkají hlavně lidí, kteří s roboty zachází, časem mohou vzniknout pravidla i pro chování strojů.

 

Pokud jde o novou legislativu, omezil bych se při jejím tvoření na pravidla používání robotů a jejich konstrukce. Mělo by se stanovit, za jakých podmínek se může použít technika dané kategorie pro vyřešení stanoveného typu úloh a prioritně způsoby ověřování bezpečnosti. Důležitá je i ochrana proti zneužití. Už tu byly pokusy, kdy chtěl hacker ovládat výrobní stroje a způsobil malér.

Součástí vytvářené legislativy je i zmíněná otázka zodpovědnosti u samořídících aut. Na koho ji v případě nehody nasměrovat?

Musí se přirozeným způsobem rozdělit. Nejvíce to leží na programátorech, pak na výrobcích a až na konci je uživatel. Za mechanické závady musí ručit výrobce, za softwary programátor. Koncový uživatel, který dává autu cíl a podmínky, by měl nést poměrně malou část zodpovědnosti – jen pokud by udělal chybu. I v tomto případě by se ale provinil i programátor, protože jím vytvořený software dovolil nezkušenému uživateli chybovat.

Jak trestat roboty? Exemplárním sešrotováním pro výstrahu ostatním

Evropský návrh zvažuje i zdanění firem využívajících inteligentní roboty, známým zastáncem této myšlenky je i Bill Gates. Je tato snaha legitimní?

Oprávnění to má ve chvíli, kdy stroj prokazatelně nahradí člověka. Přibývá momentů, kdy ho nenahrazuje, ale pouze zvyšuje schopnosti – třeba mechanika, která operuje slepé střevo – lékař je stále u toho. Tady by nemělo nastat sociální zdanění. Automatizace, které odstraňují těžkou fyzickou práci, mohou potenciálně odebírat pracovní místa v rutinních činnostech. Musíme najít cesty, jak zafinancovat ty lidi, kteří budou mít výrazně sníženou pracovní dobu nebo o zaměstnání dokonce přijdou. To ale může jít jinou cestou, než trestáním firem za zavádění robotů.

Že by lidem brali práci, toho se nebojíte?

Vezměte si pilotní továrnu Siemensu v německém Ambergu. Deset let vyrábějí to samé, teď je ale výrobní linka plně automatizovaná. Produktivita práce se zvýšila sedmkrát, počet lidí se zvýšil o dvě procenta. Co se zjistilo? Musíte převést lidi do kontrolních činností. Někdo musí zařízení kontrolovat. Čeho jsem si všimnul, že ti pracovníci tam jsou v naprosté pohodě – procházejí halou, kontrolují zařízení a jsou v klidu. To je ta kvalita života.

1080p 720p 480p 360p 240p
CeBit 2017


Po přečtení evropského návrhu se nabízí otázka, zda by měli mít svá práva i roboti?

Zatím mají jediné právo – bezmezně sloužit lidem. Časem je ale mít budou a zase budou vyplývat z bezpečnosti. Myslím, že půjde o právo na údržbu, výměnu součástek, na slušné zacházení. Na to, aby systém splňoval parametry. V případě porušení práva by měl být trestán podnik. Stroje budou přes internet nahlašovat svůj technický stav - pokud nebudou dodrženy principy údržby, tak to nahlásí mimo podnik a přijde inspektorát bezpečnosti práce autonomních strojů.

Budeme-li trochu fantazírovat a zamyslíme se nad roboty s vlastním vědomím, kteří by si uvědomovali i své mechanické kamarády, tak ti by si začali říkat – my jsme něco jiného, možná něco víc – nikdo z lidí tohle dvousetkilové závaží neuzvedne. Tady mohou nastat jisté tlaky, stroje by se mohly samy odborově organizovat a jít do stávky. Teoreticky s tím musíme počítat. Člověk nad nimi bude mít pořád jistou moc, kterou bude uplatňovat pomocí tlačítka on/off. Robot musí být něčím napájen. Když ho odpojíte, ukončíte jeho schopnost myslet, vyhrožovat… Další problém spočívá v tom, aby nebyli tak fikaní, že by si začali vzájemně chránit tlačítka a člověk je nemohl vypnout. Sem musí legislativa dosáhnout a určit, že takový stroj musí mít například dálkově ovladatelný vypínač.

Marvan Shamma: Jedeme na drakovi umělé inteligence

Pokud by existovali i takto inteligentní, vyřešila by se otázka, kdo za nehody ponese odpovědnost…

Na roboty ji můžeme přenést jedině tehdy, pokud se podaří překonat bariéru vědomí, o které hovoříme. Jak je ale trestat? Třeba exemplárním sešrotováním pro výstrahu ostatním, přes víkend mu nedovolíte pustit televizi (smích). Nevím, jestli by je bavily naše pořady, hlavně jim ale nepouštět ty Čapkovy, aby se neinspirovali.

Jak dlouho trvá, než se podaří převést výzkum umělé inteligence do světa byznysu?

Vyhodnocování slepého úhlu u automobilů, dnes běžné u řady značek, trvá dle našich zkušeností dva roky, než se z laboratoří přenese do provozu. K zákazníkovi jde poměrně rychle. Je to malá kamerka, která vyhodnotí chování vedlejšího vozidla a vyšle varování řidiči. U lepších aut máte čipy, které se dokonce vyvíjí a vyrábí v Česku pro velké značky. Sbírají informace o řidiči, motoru či brzdění. V servisu se z nich vyčte kompletní diagnostický obraz. To je jednoduchá inteligence – ta jde poměrně rychle. Horší je to u plné autonomie, kdy předáváme stroji právo mechanicky ovlivňovat svět.

Co podniky stojí investice do chytrých systémů?

Náklady na zinteligentňování jednotlivých funkcí automobilů – příklad s kamerkou pro slepý úhel – ty dnes tvoří dvacet až třicet procent nákladů na vývoj. Pokud jde o vývoj zcela autonomních vozidel, tak ten je dražší než vývoj úplně nového modelu.

Prof. Ing. Vladimír Mařík, DrSc., dr.h.c. Pověřený ředitel Českého institutu informatiky, robotiky a kybernetiky.Prof. Ing. Vladimír Mařík, DrSc., dr.h.c. Pověřený ředitel Českého institutu informatiky, robotiky a kybernetiky.Autor: Jiří Koťátko

Budou tedy samořídící auta nedostupným luxusem?

Dovedu si představit, že je automobilky i trochu zadotují, aby se pohybovaly v dnešní hodnotě dvou až tří milionů korun. Řekněme že budou třikrát dražší než dobré auto. Cena půjde dlouhodobě dolů a stanou se standardem. V budoucnu se budou prodávat pouze vozidla bez řidiče. Ke stěrači a blinkru přibude modul automatického řízení. Odhaduji, že za deset let se bude autonomních vozidel po Praze pohybovat asi takové množství jako dnes Jaguárů nebo Rolls-Royců. Za dvacet let to bude půlka provozu.

Ve kterých dalších oborech má umělá inteligence největší potenciál růstu, kde ho naopak postrádá?

Kde může pomoci nejvíce, to je energetika. Při využívání zdrojů, kterých má lidstvo omezeně. Když budete decentralizovat energetiku, dělat téměř soběstačné bloky domů, které budou spotřebovávat o sedmdesát procent méně energie než dnes, víte, jak ušetříme při výstavbě nových elektráren a jak snížíme zplodiny?

Některé obory potřebují umělou inteligenci víc, některé míň, neexistují ale takové, které by ji nepotřebovaly. Nejvíce ji budeme potřebovat při zpracování obrovských objemů dat. Ta můžeme ukládat, ale co s nimi? Třeba data o provozu vaší ledničky – každou vteřinu odešlete informace do centrály o teplotě, odběru proudu, kolik je v ní mléka. Všechno se dá naskladovat, problém je v té analýze. Umělá inteligence musí pomoct řešit, jak z těch obrovských objemů dat vydolovat pro člověka zajímavou informaci. Aby mu na hodinkách píplo, že má v ledničce dva týdny staré máslo a že to mléko taky není úplně čerstvé. Koukni se do ní, vyčisti ji, nezatěžuj mne tolik.

Jak vysoké jsou investice firem do chytrých domácností?

Nemusí být ani tak vysoké, ty algoritmy už v podstatě jsou. Jde o to dát je dohromady a masově opakovat. Těch domů jsou miliony. Komplexně řešenou domácnost si bude moci dovolit mnoho lidí.

Chemik: Roboti budou uvnitř lidského těla dopravovat léky na postižená místa

Jak rychle se těmto uživatelům vrátí jejich investice?

Za dva až tři roky, protože chytré systémy pomohou ušetřit náklady na provoz – například regulováním světla. Pokud jde o teplo, světlo, televizi a ledničku, tak uživatel průměrné domácnosti bezpečně ušetří. Když k tomu přidáte malý solární panel na střeše s akumulátorem elektrické energie, tak se domnívám, že šedesát procent je doma. A to už jsou zajímavé částky. Dokonce se domnívám, že když si na střeše trochu víc zainvestujete, tak můžete nejen ušetřit, ale i vydělat dodáváním energie do sítě.

Chytré domácnosti se mohou naučit vzorek chování – ví, že každý pátek uživatel odjíždí a vrací se v neděli. V pátek, jakmile se zapne zabezpečení, už systém ví, že teplota má jít dolů a že v neděli kolem šesté se pan domácí vrátí, ve čtyři proto zvedne výkon topení. Tohle už dnes zvládáme.

Co sexuální roboti napodobující člověka, jakou těm věštíte budoucnost?

Proti gustu žádný dišputát, výzkum v Česku se tímto směrem ovšem neprovádí. Někteří si tyto produkty mohou pořídit jen proto, aby si zvýšili svůj statut.

Myslíte, že umělá partnerka může v budoucnu zvyšovat společenský statut?

Určitě. Ukážu tím, že si mohu dovolit partnerku, která na slovo poslechne, vykoná přesně to, co jí určím. Podívejte se na mě, jsem boháč, mohu si to dovolit. Možná že to bude částečná náhrada současných vztahů, které například v Japonsku začínají strádat, hodně lidí tam žije bez partnera.

Robot pro práci s měkkými materiály.Robot pro práci s měkkými materiály.Autor: ČVUT

V čem spočívají rizika možného emočního propojení lidí s roboty?

Nebezpečí emočního propojení příliš nehrozí. Zatím si myslím, že k němu můžete přilnout stejně jako ke svému automobilu. Bude záležet na člověku. Roboti, kteří budou podobní člověku, antropomorfní, budou mít větší šanci, že osamělou osobu mohou i citově poutat. Zatím ale emočně nedosahují ani poslední kočky v domácnosti. Umí simulovat emoce, uvnitř nich ale nejsou, a to se snadno odhalí. Nemyslím, že je japonská cesta investování do mechanických kopií člověka v této fázi správná. Budujme takové roboty, kteří nám budou díky své současné inteligenci prospěšní. Aby nepřekáželi a postupně se stali přirozenou součástí našich životů.

Proč je výjimečná čtvrtá průmyslová revoluce?

První byla způsobena párou, druhá elektřinou, třetí spočívala v nasazení individuálních počítačů a chytrých strojů. Čtvrtá znamená, že se vše propojí internetem, vznikne síť vzájemně komunikujících a interagujících jednotek – těmito budou a jsou i roboti. Ti ve čtvrté generaci vylézají z klecí, jak říkáme. Dosud totiž byli nemotornými mechanismy nepříliš vnímajícími své okolí - museli jsme se jich bát. Dostáváme se do éry kooperativních robotů. Vnímají, kde je člověk, začínají s ním spolupracovat.

Prof. Ing. Vladimír Mařík, DrSc., dr.h.c

Pověřený ředitel Českého institutu informatiky, robotiky a kybernetiky. Zajímá se především o využití umělé inteligence v automatickém řízení a v systémech pro podporu rozhodování s ohledem na potřeby průmyslové praxe.  Za ČVUT je odpovědným řešitelem kontraktů s NASA nebo USA Air Force Research Lab. Byl oceněn mj. Českou státní cenou, rakouským státním vyznamenáním nebo cenou Outstanding Service Award od IEEE SMC Society.

V roce 1990 založil a od té doby vede Společné pracoviště ČVUT a FAW J. Kepler University v Linci, které v roce 1996 přerostlo v Gerstnerovu laboratoř pro inteligentní rozhodování. Ta dnes představuje jedno z nejvýznamnějších pracovišť v oblasti umělé inteligence v ČR. Od roku 1999 do roku 2013 vedl katedru kybernetiky ČVUT FEL, která v roce 2000 získala titul Centrum excellence EU.

 
Newsletter
Využijte služby
zasílání zpráv do vaší
e-mailové schránky!