Baiminkitės dirbtinio kvailumo, o ne dirbtinio intelekto

[paragraf 78]

O kaip jums atrodo?

Baiminkitės dirbtinio kvailumo, o ne dirbtinio intelekto

Stephenas Hawkingas mano, kad kompiuteriai gali aplenkti žmones ir užgrobti pasaulį. Dirbtinio intelekto ekspertas teigia, kad niekada netapsime silicio vergais

Nedažnai nutinka, kai reikia pasakyti, kad visų mylimas genijus klysta, bet manau, kad Stephenas Hawkingas, dėstydamas nerimą keliančią prognozę apie DI ir žmonijos ateitį, klydo. Tiksliau pasakius ir išlaikant panašumą su fizika ir Schrödingerio katinu, jis tuo pat metu klysta ir yra teisus.

Paklaustas, kaip toli fizikai pasistūmėjo DI kūrime, Hawkingas atsakė: „Kai tik žmonės sukurs dirbtinį intelektą, jis perims vadžias ir perkurs save vis sparčiau. Žmonės, kuriuos riboja lėta biologinė evoliucija, negalėtų varžytis ir būtų nugalėti."

Mano požiūriu, jis klysta, kadangi yra tvirtas pagrindas manyti, jog kompiuteriai niekados neatkurs žmogaus kognityvinių savybių. Jis teisus, kadangi netgi tokios ribotos mašinos gali kelti grėsmę žmonijos ateičiai - pavyzdžiui, kaip autonominiai ginklai.

Tokios prognozės nėra naujos; mano buvęs bosas Readingo universitete, kibernetikos profesorius Kevinas Warwickas, šį klausimą iškėlė savo 1997 m. knygoje March of the Machines. Jis matė sukurtus vabzdžio intelektą turinčius kompiuterius. Jis prognozavo, jog netrukus bus robotai, turintys katės smegenų pajėgumą, kiek vėliau pasirodys protu žmonėms prilygstantys aparatai, uzurpuosiantys ir pajungsiantys mus.

Triguba bėda

Tokios išvados remiasi ideologija, kad tinkamame kompiuteryje veikianti programa galiausiai įgyvendins visus žmogaus mentaliteto aspektus - vadinamasis stiprusis DI. Jei tai įmanoma, tada žinoma, dėl spartėjančio technologinio proceso galiausiai viskas išslystų iš rankų - tai vyktų dėl DI sistemų naudojimo dar sudėtingesnių DI kūrimui ir Moore'o dėnio, teigiančio, kad kompiuterių skaičiavimo galia kas porą metų dvigubėja.

Nesutikau su tuo tada, nesutinku ir dabar.

Manau, trys problemos paaiškina, kodėl skaitmeniniam DI vis nepavykdavo atkartoti žmogaus mentaliteto visame jos laukiniame ir elektrocheminiame grožyje ir kodėl nepavyks ir toliau.

Pirma, kompiuteriai nemoka iš tiesų suprasti. Kinų kambario ginčas yra žymusis JAV filosofo Johno Searle'o mintinis eksperimentas, rodantis, kaip kompiuterio programa gali atrodyti suprantanti kiniškas pasakas (teisingai atsakydama į klausimus apie jas), išties nieko iš to nesuprasdama.

Antra, kompiuteriai neturi sąmonės. Galima pateikti argumentą, kurį vadinu Dancing with Pixies, kad, jei robotas, sąveikaudamas su aplinka, patiria sąmoningą pojūtį, tada aplink turi būti begalė sąmonių: geriamame arbatos puodelyje, sėdynėje, ant kurios sėdžiu. Jei atmetame tokį platų požiūrį - vadinamąjį panpsichizmą - turime atmesti ir mašinų sąmonę.

Ir galiausiai, kompiuteriai neturi matematinio įžvalgumo. Matematikas fizikas iš Oxfordo universiteto Rogeris Penrose'as savo knygoje The Emperor's New Mind, teigia, kad tai, kaip matematikai pateikia daugelį „neklystančių demonstracijų" savo matematinių prielaidų patikrinimui, iš esmės nėra algoritminiai ir nesuskaičiuojami.

Ne OK kompiuteris

Drauge šie trys teiginiai iš esmės palaidoja viltis, kad žmogaus smegenys gali būti visiškai atkurti vien skaičiavimais. Jeigu jie teisingi, tai rodo, kad platesnių žmogaus proto aspektų ateities DI įveikti nesugebės.

Užuot kalbėjus apie robotų valdžią iš Holivudo vaizdinių, būtų geriau susitelkti į labai realų jau egzistuojančio DI vis platesnio panaudojimo keliamą nerimą - autonomines ginklų sistemas.

Mane, kaip Tarptautinio robotų ginklų kontrolės komiteto DI ekspertą, itin neramina potencialus robotinių ginklų sistemų, galinčių kariauti be žmogaus įsikišimo, naudojimas. Būtent todėl, kad dabartinis DI neprimena žmogaus intelekto, o netinkamai sukurtos autonominės sistemos, kovodamos vienos prieš kitas, gali greitai eskaluoti pavojingas situacijas iki katastrofiškų padarinių. Tokios sistemos gali parodyti tikrą dirbtinį intelektą.

Įmanoma sutikti, kad DI gali žmonijai kelti egzistencinę grėsmę, bet ne įsivaizduojant, kad jis kada taps protingesnis už mus.

Šaltinis: http://www.technologijos.lt/n/technologijos/it/S-44882/straipsnis/Baiminkites-dirbtinio-kvailumo-o-ne-dirbtinio-intelekto?l=2&p=1

[Ezekiel]

Jei remtis teorija, kad žmogaus protas, emocijos ir sąmonė tėra smegenų elektrocheminės reakcijos tuomet visai tikėtina sukurti dirbtinį intelektą. Tik kolkas nesukurta pakankamai sudėtingos tranzistorių strūktūros ir programos. Unikalus žmogaus bruožas yra noras mokytis ir turėti tikslus, analizuoti savę. Kompiuteriai kol kas tik atlieka veiksmus, bet patys nesuvokdami ir tik su programuotojo paliepimu.
Kompiuteris jei ir suvokia tai labai ribotoje terpėje, pvz. skaičių ir ženklų terpėje kaip A.L.I.C.E: http://alice.pandorabots.com/
Tuo tarpu žmogus operuoja vaizduote, mitais ir sapnais kas žymiai sudėtingesnė terpė, kur yra daugiau chaoso ir atsitiktinumo leidžiančių atsirasti sudėtingoms mintims. Žmogus turi daug informacijos kanalų (jūslės) kas leidžia kaupti sudėtinga medžiaga. O iš kur kompiuteris tokia gali gauti?

Aišku kompiuteriai gali būti protingesni ir greitesni už žmogų, tačiau kolkas taip ir toliau atlieka žmogaus paliepimus.

[Supera]

O negali taip būt,kad tiesiog kompiuteriai išvystys (ar jau turi, nelabai nusimanau ) tokią griežtą matematiniais skaičiavimais apibrėžtą samonę, kuri sugebės priimt sprendimus, bet jie nebus paremti emocijom ir t.t, tiesiog išlaikys ledinį šaltakraujiškumą, kuriuo ir bus apsręsti visi veiksmai? Kaip kad pvz, gautas įsakymas kažką sunaikint, kaip dabar dronus JAV naudoja, tik daleiskim didesniais mąstais, tai jis įvykdytų kas liepta, o žmogus dar pasvarstytų, nes vistiek emocijos ir sprendi ar apsimoka pvz. sunaikint kokį Niujorką dėl to, kad sunaikintum teroristinę grupuotę, kuri iš to miesto paleistų bombą.

[Ezekiel]

O negali taip būt,kad tiesiog kompiuteriai išvystys (ar jau turi, nelabai nusimanau ) tokią griežtą matematiniais skaičiavimais apibrėžtą samonę, kuri sugebės priimt sprendimus, bet jie nebus paremti emocijom ir t.t, tiesiog išlaikys ledinį šaltakraujiškumą, kuriuo ir bus apsręsti visi veiksmai? Kaip kad pvz, gautas įsakymas kažką sunaikint, kaip dabar dronus JAV naudoja, tik daleiskim didesniais mąstais, tai jis įvykdytų kas liepta, o žmogus dar pasvarstytų, nes vistiek emocijos ir sprendi ar apsimoka pvz. sunaikint kokį Niujorką dėl to, kad sunaikintum teroristinę grupuotę, kuri iš to miesto paleistų bombą.

Matai neaišku iš kur atsiranda sąmonė, tai yra viena iš mokslinių paslapčių. Šaltakraujiškumas gal net geriau, nes daug destrukcijos sukelia blogos emocijos. Kompiuteris neturi ko nekęsti, pykti, baimių tai kam jam ką nors naikinti? Aš net būčiau už jei kompiuteriai tam tikrame lygyje dalyvautų valdžioje, nes jie griežai atliks žmonių pavęstas pareigas, dirbs didesnių pajėgumu, neturės polinkio į korupciją ir nepriims pražutingų sprendimų dėl kvailų afektų būdingų paprastiems žmonėms.
Aš matau DI labiau kaip tarną, o ne grėsmę.

[Supera]

Čia manau toks slidokas reikalas, yra ir pliusų ir minusų. Nes pvz, būna atvejų kai reikia to pačio šaltakraujiškumo, o būna ir situacijų kai kaip tik geriau, kad suveiktų emocijos ir žmogus neįšdrįstų padaryt kas įsakyta.

[time]

Visas šis reikalas verčia susimąstyti "kas yra vertybė?" apskritai žmogui. Tai, kas atrodo reikalinga žmogui, nebūtinai tai gali būti tiesa. Žmogus neretai klysta. Kurdamas technologijas, jis save tapatinasi su Dievu ir bando atkurti vos ne naują gyvenimą. Jo sukurtas gyvenimas yra dirbtinas ir neskirtas kitam žmogui manipuliuoti ir kurti iliuzijas. Viso to skeptiškumas pasirodo, kada žmogus pradeda vengti technologijų, vengia ir prie jų prisliesti, įžvelgia sąmokslus. Bet didžioji dalis technologijų su DI yra kurtos apskaičiavimams ir išmatavimams. Tokios technologijos reikalingos, tačiau proto ribose, kol nereikia varžytis savo intelektu.

Lyginti šiuolaikinius kompiuterius su ateities kuriamomis technologijomis nėra prasmės. Ateities technologijos bus visvien pranašesnės ir bus daug tobulesnės nei dabar. Spėju bus gerenis prieinamumas, valdymas, lengvesnis ryšio gavimas ir siuntimas didesniais atstumais.

Pagrindinė technologija kuria viskas veiks, manau, bus EM bangų pakaitalas. Praeito amžiaus išradimas EM bangos šiais laikais geriausias visų laikų išradimas perduoti ryšiui tarp didelių atstumų. Bet manau neilgai truks, kai mokslininkai imsis ieškoti kažko naujo. Todėl manau, kad ateities mokslininkai ieškos būdų, pakaitalų šiam išradimui egzistuoti "švaresnėmis" sąlygomis, nesukeliant pašalinių efektų. Raiška (kokybė) turėtų atitikti irgi.

Kad veiktų dirbtinis intelektas turbūt bus naudota bangos, kažkokia nemokama (neišsenkanti) energija DI aktyviai prilaikyti. Bet tai nebus nei saulės, nei vandens, nei vėjo energija, spėju. Tai kažkas susyja su torsoininiais laukais ir torsoinine energija. Torsoininę energiją jau senai buvo norima paleisti į apyvartą kaip naują energijos išgavimą apart kitų (šiuolaikinių) išgavimo būdų. Šis energijos išgavimo būdas senstelėjęs, bet vis dar palankus prigyti.

Įdomu, kaip ten bus. Tik nelabai norėtųsi pamatyti dar savo amžiuje robotus naikinančius viską kas pasitaiko kelyje.