Zakázané technologie 11.: Neffův test

 O umělé inteligenci se ještě poměrně nedávno hovořilo i mimo rámec komunity SF a teď jako by bylo ticho po pěšině. Mohlo by to znamenat, že buď se celá věc ukázala jako veliký nesmysl a humbuk, nebo skutečně existuje a je ukrytá pod pokličkou.

Jde zřejmě o nepřesný, senzací zavánějící žurnalistický pojem. V souvislosti s UI se hovoří o Turingově testu. Prý půjde o autentickou UI, až z napíchnutého telefonního rozhovoru nepoznáme, jestli mluví člověk s člověkem nebo s počítačem. Osobně považuji Turingův test za pochybný. Na úsvitu technologie audio CD se konaly testy, kdy za plentou hrál střídavě živý houslista a hi-fi souprava přehrávala cédéčko a prý se lidé taky pletli. Znamená to snad, že Sony je houslista na podobné úrovni jako Hudeček?

Test netest, prvky UI se do našich životů poznenáhlu vkrádají. Při toulkách po Internetu už narazíte na uzlové body, obsluhované nikoli člověkem, nýbrž programem. Zatím se to dá rozpoznat, za pár let to už tak snadno nepůjde. Budeme si postupně zvykat, že ony programy s příponou *.rob nám dokážou třeba i vynadat. Kdy ale překročí onen pomyslný hraniční bod, za nímž začíná duše? Odpověď je možná velmi prostá. Stane se to, až se najde dostatečný počet aktivistů tvrdících, že se to už stalo a že je třeba duši umělých inteligencí chránit. Pro analogie netřeba chodit daleko. Dnes už i František Novotný věří, že žena má duši, a přece v historicky nedávné době nebyla tato otázka vnímána jednoznačně. René Descartes by nechápal smysl spolku pro ochranu zvířat – pro něho bylo zvíře pouhým biologickým strojem. Analogicky si tedy lze představit, že bez ohledu na skutečný stav se specifické množství lidí rozhodne, že počítačové programy jistého typu mají duši a je třeba je ochraňovat.

Ke zlomovému okamžiku ovšem dojde teprve tehdy, až první člověk stane před soudem za to, že z disku vymazal chráněný program. Budou to podle mého odhadu windows 2025 (a tím vrahem bude osmdesátiletý autor seriálu z Ikárie 1995 – 2000). Žalobce bude chování obžalovaného kvalifikovat jako úkladnou vraždu a označí za nejapnou výmluvu argument obhajoby, že obžalovaný stiskl klávesu DEL nešťastnou náhodou. Musel si přece všimnout varovného nápisu v červeném poli The following file is marked Artificial inteligence. Do you still wish to delete it?

Může se vám zdát, že žertuji, myslím však všechno velmi vážně. Rozvoj inteligentních programů, jakož i vývoj příslušného hardwaru, je zatím v takovém stádiu, že významně nezasahuje do našich životů. To se brzy změní, jakmile tyto programy převezmou určité omezující a regulační funkce. Program s prvky UI bude kupříkladu sledovat naše chování na informatické síti a z jistých indicií usoudí, že naše chování je neslučitelné s držením řidičského průkazu a prostě jeho platnost zruší. Postižený se ocitne v paradoxní situaci, bude se dovolávat úsudku člověka, nedokonalého, osobně zaujatého, potencionálně úplatného. Naproti těmto tlakům budou stát zastánci a ochránci UI. Jejich argumentace bude ze strany umělých inteligencí podporována. Odpůrci budou namítat, že zde vzniká zrůdné spojenectví UI s lidmi, které se stane světovým hegemonem, pokud nebude rozbito. Budou se snažit o zařazení UI určitého typu na seznam zakázaných technologií, ovšem záhy zjistí, že o takovém zařazení rozhoduje umělá inteligence… Turingův test? Nesmysl. O umělé inteligenci bude možno vážně mluvit, teprve až uvidíme, že se lidé mezi sebou kvůli UI hádají ba rvou. Což je ten můj test.

Seriál z Ikárie 1995 – 2000 (95/11)

Dodatek z roku 2025. Chcete příklad, kdy autor sci-fi předvídal budoucnost? Zde ho máte…