Ať se výrobci robotů inspirují v letectví a zavedou etické černé skříňky, nabádají vědci

Ruský robot Promobot

Ruský robot Promobot Zdroj: Profimedia.cz

Robot Gita, se kterým přichází italská společnost Piaggio
Ruský robot Promobot
Montážní linky automobilek jsou robotů plné
Ruský robot Promobot
O-R3 je světově prvním hybridním robotem, který kombinuje jak autonomní vozítko, které se dokáže přemisťovat na povrchu, tak i autonomní dron, který dokáže vzlétnou a sledovat případného pachatele i ze vzduchu.
16
Fotogalerie

Stejně jako každé letadlo nahrává letová data do černé skříňky, tak by měl i každý robot vybavený umělou inteligencí běžně zaznamenávat „myšlenky“, na jejichž základě učinil rozhodnutí. Takzvané etické černé skříňky by měly jednak pomoci při vyšetřování nehod, zároveň by měly usnadňovat komunikaci robotů s jejich uživateli.

Roboti zasahují do veřejného prostoru stále častěji, ovlivňují životy lidí a mají potenciál být pro člověka nebezpečím. Proto je podle vědců zapotřebí zavést taková bezpečnostní opatření, která po případném incidentu pomohu rozklíčovat, co robot vlastně udělal a na základě jakých dat se k tomu rozhodl.

I na takovém závěru se shodli vědci na v pořadí osmnácté konferenci o autonomních robotických systémech na University of Surrey. „Doufáme, že budou incidenty jen raritou, nevyhnutelně ale musí přijít,“ prohlásil Alan Winfield, profesor etiky v robotice z University of the West of England.

„Vážné nehody se budou muset vyšetřit, ale co se bude dít, až zjistíme, že nemáme žádná interní data, žádný záznam o tom, co robot v čase incidentu dělal? Bude více či méně nemožné říci, co se stalo,“ vysvětluje Winfield.

Proto vědci navrhují, aby etické černé skříňky zaznamenávaly například pohyby, informace z kamery, mikrofonu a dálkoměru, robotem učiněná rozhodnutí a důvody k nim vedoucí.

Etické černé skříňky by měly být do robotů instalovány se stejnou samozřejmostí, s jakou jsme na ně zvyklí v letadlech, kde navíc pomáhá i zvukový záznamník, míní autoři návrhu.

„Komerční letadla jsou bezpečná ne díky kvalitnímu designu, ale díky přísným bezpečnostním procedurám a robustním, veřejnosti přístupným vyšetřovacím procesům v případě nehody,“ stojí v prohlášení vědců.

V rozhovoru pro E15 řekl Vladimír Mařík, ředitel Českého institutu informatiky, robotiky a kybernetiky, že stupeň inteligence robotů by měl odpovídat míře zabezpečení autonomního systému.

„Když budeme mít velmi vyspělého robota bez dostatečně inteligentních zábran, tak je pro nás nebezpečný. Vedlo by to k tomu, že by se nám stroje vymkly z kontroly. Zabezpečení budou velmi drahá, proto je musí nařizovat zákon,“ myslí si.

„Budeme-li trochu fantazírovat a zamyslíme se nad roboty s vlastním vědomím, kteří by si uvědomovali i své mechanické kamarády, tak ti by si začali říkat – my jsme něco jiného, možná něco víc – nikdo z lidí tohle dvousetkilové závaží neuzvedne. Tady mohou nastat jisté tlaky, stroje by se mohly samy odborově organizovat a jít do stávky,“ dodává.

Etické černé skříňky by však nesloužily jen vyšetřovatelům nehod. Roboti, kteří jsou konstruovaní například jako asistenti seniorům, by mohli jednoduchou řečí vysvětlit svým postarším uživatelům, jaká rozhodnutí činí a proč. Senioři by se tak mohli v soužití s technologiemi cítit lépe.

Podívejte se na představení nejrůznějších robotů na CeBit 2017:

Video placeholde
CeBit 2017 • Michal Nosek, Jan Pavec