Robotai gali išnaikinti mus iš geranoriškumo

Inžinierė Nell Watson jaudinasi, jog išmokyti galingus robotus vertybių nebus lengva.

– Ką pastaruoju metu nuveikei dėl visuomenės, a? Nieko. Tai ne tavo kaltė. Tu palikai ją. Tu turėtum tai pripažinti. Tu tiesiog visą dieną sėdi ant sofos ir kemši sūrio traškučius, žiūrėdamas „Freizerio“ kartojimus.

– Tu mane smaugi.

– Tai tavo paties labui. Na, iš tiesų, mūsų visų labui.

Ir taip gali pasibaigti žmonijos gyvavimas, tas, kuris daug žadėjo, tačiau, kaip dažnai būna, visko neišpildė.

Neseniai tokį scenarijų pateikė Nell Watson, Malmo konferencijoje, Švedijoje. Watson yra inžinierė, futuristė, Poikos, kompanijos užsiimančios kūnų skenavimu, generalinė direktorė ir viena iš tų, kurie įtemptai galvoja, ar inžinerija mūsų gyvenimą nuolat darys geresniu.

Kaip praneša Wired UK, ekspertė jaudinasi dėl to, kad robotai gali staiga virsti labai protingi, tačiau jų vertybės gali išlikti labai žemos arba išvis neegzistuoti.

Malmo konferencijoje Watson teigė, jog „pats svarbiausias mūsų laikmečio darbas yra užtikrinti, jog mašinos sugebėtų suvokti žmogiškąsias vertybes. Būtent šios vertybės užtikrins, jog mašinos neišžudys mūsų vedamos geraširdiškumu.“

Tačiau ar gali inžinieriai sukurti programinę įrangą su įdiegta vertybių sistema? Net jeigu tokia sistema egzistuotų, robotai gali būti tokie protingi, jog išmoktų ją perrašyti patys. Jie tam rastų nuosavas, visiškai pagrįstas priežastis.

Gali būti, kaip teigė ekspertai, jog 2025-aisiais robotai taps mūsų mylimaisiais. Tačiau ar jais galima pasitikėti? Ar galbūt robotai pažvelgs mums į veidą ir nusišypsoję užbaigs mūsų egzistenciją, pasiųsdami mums atsisveikinimo bučinį oru?

Tesla generalinis direktorius Elonas Muska teigia investuojantis į dirbtinį intelektą, siekdamas išsiaiškinti ką planuoja jo kūrėjai. Jis ir Stephenas Hawkingas abu yra susirūpinę milžiniškomis grėsmėmis, susijusiomis su superbūtybių sukūrimu.

Watson susirūpinimai paremti tuo faktu, jog robotai, kaip dabar suprantame, veikia vadovaudamiesi taisyklių rinkiniais. Tuo tarpų žmonės didelė dalį žinių ir išminties įgauna iš instinktų ir intuicijos.

Nelengva paaiškinti, kodėl vienas asmuo atrodo atstumiantis, o kitas spinduliuoja supratingumu.

Daugybė inžinierių mano galintys išspręsti bet kurią problemą. Tačiau šios problemos sprendimo būdas susijęs su daugybe neatsiejamų pavojų, įskaitant žmonių mirčių potencialą.

Netgi objektyviai žvelgdami į save, matome tokia galybę trūkumų.

Robotas gali nuspręsti, jog mes niekada nepasikeisime ir todėl esame nereikalingi visai žmonių giminei. Jie gali nuspręsti, jog mes beverčiai ir naudojame per daug natūraliųjų išteklių, kuriuos geriau perleisti tiems, kurie prisideda prie visuotinės gerovės didinimo.