O umělé inteligenci

1) Rozvoj v oblasti informatiky a především umělé inteligence může brzy znamenat, že mnohé profese „seberou“ lidem stroje: možná v relativně brzké době zmizí většina překladatelů, vyprázdní se spousta míst v řídících a kontrolních centrech podniků, ubude dopravních dispečerů, počítače budou nahrazovat nedokonalý lidský faktor v řízení dopravních prostředků atd... příkladů odvětví, kde člověka může brzy vystřídat stroj, bychom našli dost. Neobáváte se takových změn? Nemohly by vyvolat hlubokou společenskou krizi?
Zatím se děje pravý opak. Kde dřív byl jeden úředník se štemplem sedí dnes patnáct úředníků s počítači. Teze o strojích ubírajících práci se zřejmě IT netýká. Naopak mi připadá, že je jako nějaká kapalina, která prosakuje do stále hlubších vrstev, kde dosud nic spojeného s inteligencí nebylo. Kolik inteligentních systémů je dnes, dejme tomu, v automobilu! Navíc, bylo by asi třeba si definovat, co pod pojmem umělá inteligence, dejme tomu UI, vlastně myslíme. Pokud by naše představa vedla k replice člověka se vším všudy, jak jsme to viděli ve stejnojmenném filmu, pak asi nemáme ještě dlouho čeho se obávat, pokud vůbec ta doba nastane. Nebo to má být HAL 9000, tedy počítač vsáklý do kosmické lodi, do továrny, do města? Myslím si, že UI bude roztroušená do dílčích jednotek a systémů, že bude mít autonomní vývoj, který nebude kopírovat kapacity lidské psychiky, ani - na to nezapomínejme - zvířecí psychiky.

2) Bude přejímání mnoha složitějších lidských činností stroji znamenat, že většinou výrobních prostředků bude disponovat stále užší skupina elit, nebo to naopak zjednoduší běžnému jednotlivci vstup do mnoha průmyslových odvětví, kde dříve působily jen „velké“ podniky?
Rozhodně to nepovede k žádnému zjednodušení. Jednotlivé prvky, nebo dejme tomu uzly umělé inteligence budou generovat další uzly, něco jako když se rozvíjí fraktálový útvar. Zde bych rád připomněl pojem komplexnost užívanou v teorii informace. Úhrn zrnek písku v poušti je složitý, ale není komplexní, ta zrnka spolu nesouvisejí a nekomunikují. Zato ony zmíněné uzly umělé inteligence, které NEBUDOU napodobovat lidskou ani zvířecí inteligenci, vzájemně komunikovat budou a tudíž budou vytvářet komplexní systém.

3) Dalo by se uvažovat o tom, že rozvoj robotiky běžnému člověku dokonce umožní, aby se o řadu svých potřeb postaral sám a byl mnohem autonomnější?
Zase záleží na pojmovém vymezení. Co je "postarat se sám"? Mohu si to vyložit tak, že předpokládáte vznik nějakých výrobních jednotek řízených umělou inteligencí? Třeba že si usmyslím, že chci oblečení ve stylu italské renesance a UI řízená kreativní jednotka nastuduje dějiny módy a oblek mi ušije? Nemyslím, že vývoj půjde touto cestou. Zatím je zřejmé, že vývoj nevede k zjednodušení lidských potřeb, ale k pravému opaku. To možná je cosi jako nebezpečí, že budeme stále více závislí na komplexním systému dílčích uzlů UI.

4) Jedním z odvětví, kde je aplikovaná umělá inteligence nejvíc „vpředu“, je vojenství. Bezpilotní letouny se dnes v mnoha ohledech chovají velmi nezávisle na řídícím centru a blíží se tomu, aby začaly vyhledávat a ničit cíle samostatně. Neměli bychom v této věci začít uvažovat o zavedení nějakých norem podobných třem zákonům robotiky Isaace Asimova? Prostě konfrontovat tuto větev technického pokroku s etikou?
Toto je určitě závažný problém. A velmi komplexní. Podívejme se na to z druhé strany. Terorista, sebevražedný atentátník s vymytým a přeprogramovaným mozkem jev jistém smyslu absolutní zbraň. Je zbaven standardního morálního kodexu, takže se také stal svébytným uzlem UI. Na tom příkladu vidíme, jak nesnadné, ne-li nemožné je ustanovení nějakých "zákonů robotiky". Dobře to ostatně věděl i Asimov, protože jeho robotické příběhy jsou o překračování těch slavných tří zákonů. Spíš si myslím, že spolu se zaváděním UI do armády se bude víc a víc žvanit a debatovat a bude to námět pro neplodné disputace a nikam nevedoucí iniciativy. 5) Podle Mooreova zákona roste s rozvojem průmyslu a vědy složitost součástek při zachování ceny exponenciálně. To znamená, že - zjednodušeně řečeno - asi podobnou rychlostí roste i výkon procesorů v počítačích. Podle některých vědců a renomovaných počítačových odborníků (Vernor Vinge, Ray Kurzweil, Bill Joy...) dříve či později dosáhneme stavu, kdy vytvoříme superinteligentní stroj, inteligentnější než lidé, schopný vyvíjet a vytvářet ještě schopnější stroje. Považujete takovou úvahu za utopii?
Zase se vrátím k jádru věci: půjde UI cestou připodobňování se k lidské (a zvířecí) inteligenci anebo půjde jinudy? Zatím pozorujeme vývoj toho druhého typu. Stroje vyrábějí stroje už dlouho a pokud vezmeme v úvahu podíl IT na vývoji a produkci, pak ten proces o němž mluvíte je už v chodu. Tuším, že má jednu slabinu, totiž nedosahuje takové robustnosti vůči nepředvídatelným okolnostem, jako živé organismy. Jinými slovy, jsou křehké a potřebují přesně definované podmínky. K vaší otázce: to vše, co jsem se tu pokusil vyjádřit, v podstatě vylučuje představu "superinteligentního stroje" inteligentnějšího než člověk. Letadlo není pták, ponorka není ryba, UI nebude lidská inteligence. Samozřejmě: ledaže dojde k průlomu do světa, o němž nemáme zatím představu. Je možné, že přirozená inteligence zvířecí a lidská obsahuje prvky tohoto "jiného světa" a nelze zcela vyloučit, že průlom do "jiného světa" bude mít v tomto směru nedozírné následky. Jenže o něčem, co je mimo představu a o čem nic nevíme se nedá seriózně uvažovat.

6) Jakým směrem se bude podle Vás vývoj v oblasti robotiky a umělé inteligence ubírat? Máte z něj strach?
Bojím se darebáků a blbců, nikoli UI. :-) Tu představu směru jsem se tu pokusil nastínit, takže shrnu: postupné kroky vzájemně nekoordiinované, stále vyšší komplexnost, pronikání do oblastí informatikou dosud nedotčených. Vizuální představa se vrací k pojmu fraktálů, těch samomnožících obrazců, replikujících sama sebe. Lidové noviny , duben 2010, Ondřej Formánek