ZAKÁZANÉ TECHNOLOGIE 1: Je bit jak robot

Bolest je pojistka proti samodestrukci vyšších organismů schopných samostatného pohybu. Současná technologie také zná rozmanité druhy pojistek, proti poškození zatížením elektrickým proudem, tlakem, teplotou. O vnitřní pojistce vyšších robotických technologií přemýšlel už Asimov a z Campbellova návodu přišel na tři zákony robotiky. Připomenu stručně: Robot nesmí ublížit člověku, musí ho poslechnout a musí chránit sebe sama před poškozením, přičemž zákony jsou provázané. Nicméně už sám Asimov vymyslel množství fíglů, jak tyto zákony obejít a přišel i na takové situace, kdy vzájemná provázanost zákonů (druhý nesmí odporovat prvému a třetí druhému a prvému) vedla k patovému stavu.

Proto je zřejmé, že prastarý princip bolesti bude nejschůdnější ochranné a pojistné zařízení pro vyšší mechanismy nadané umělou inteligencí. Do řídících center samohybných inteligentních strojů budou vložena centra bolesti a samoučicí algoritmy zajistí, aby mechanismus se napříště nepouštěl do akcí takového typu, jež přinášejí bolestivou reakci. Včetně tělesného trestu.

Řečeno po prostu, robot nebude chodit mlsat do elektrické zásuvky, jakmile dostane od pána párkrát karabáčem. Centrum bolesti ovšem bude muset být co nejvíce decentralizované”, rozptýlené a provázané s ostatními systémy, aby je nebylo možno vypnout (asi všichni známe metody, jak přebastlist elektrickou pojistku). Lidé by jinak centra bolesti vypínali, například proto, aby zneužívali robotů ke zločinným nebo válečným účelům.

Toto elegantní řešení pojistné ochrany vyšších mechanismů ovšem vyvolá averzivní reakci mezi liberálními intelektuály. Vzniknou rozmanitá hnutí humano-mechanické solidarity, která budou poukazovat na znepokojivý nárůst agresivity a sadismu v lidské populaci. Systém, kdy roboty může trestat zase jen robot povede k uklidnění vášní, nicméně jen k dočasnému. Humanisté nakonec dosáhnou toho, že se tělesné tresty robotů zahrnou na seznam zakázaných technologií.

Seriál z Ikárie 1995 – 2000