Populaarne Ameerika veebiajakiri Wired avaldas Kevin Kelly ülimalt huvitava teksti, milles ta kritiseerib põhjalikult ideed tehisintellekti ohtudest. "NI" avaldab selle materjali tõlke, tehtud kasutades Newochemi telegrammi kanalit väikeste vähendustega.
«Olen kuulnud, et tehisintellektiga arvutid muutuvad tulevikus inimestest nii palju targemaks, et jätavad meid ilma töökohtadest ja ressurssidest ning lõpuks saab inimkonnale lõpp. Aga kas see on tõsi? Minult küsitakse sarnane küsimus iga kord, kui pean AI-teemalist loengut.
Küsijad on tõsisemad kui kunagi varem, nende mure on osaliselt tingitud mõne asjatundja murest, keda sama küsimus piinab. Nende hulka kuuluvad meie kaasaegsete targemad – Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris ja Bill Gates.
Nad kõik tunnistavad sellise stsenaariumi võimalikkust. Hiljutisel tehisintellekti konverentsil osales üheksast valdkonna kõige valgustunumast gurust koosnev paneel tuliüksmeelsele järeldusele, et üliinimliku intelligentsuse loomine on vältimatu ja kohe-kohe käes.
Ja ometi põhineb tehisintellekti poolt inimkonna orjastamise stsenaarium viiel oletusel, mis lähemal uurimisel osutuvad tõestamata. Need väited võivad tulevikus tõele vastata, kuid praegu ei ole need põhjendatud.
Siin nad on:
- Tehisintellekt muutub juba inimmõistusest targemaks ja see protsess on eksponentsiaalne.
- Me töötame välja meiega sarnase üldotstarbelise tehisintellekti.
- Ränist saame luua inimese intelligentsi.
- Intelligentsus võib olla piiramatu.
- Suurejoonelise superintelligentsi loomine lahendab enamiku meie probleemidest.
Vastupidiselt nendele õigeusu postulaatidele võin ma tsiteerida järgmist tõestatud ketserlust:
- Intelligentsus ei ole ühemõõtmeline, nii et "inimesest targem" on mõttetu mõiste.
- Inimesed ei ole varustatud üldotstarbelise intelligentsusega, mis ei ohusta ka tehisintellekti.
- Inimeste ja arvutite vahelist konkurentsi piiravad kulud.
- Intelligentsus ei ole piiritu.
- AI loomine on vaid osa edusammudest.
Kui usk inimeste orjastamisesse tehisintellekti poolt põhineb viiel alusetul oletusel, siis see idee sarnaneb rohkem religioossetele tõekspidamistele – müütidele. Järgmistes peatükkides täiendan oma vastuargumente faktidega ja tõestan, et üliinimlik tehisintellekt pole tõepoolest midagi muud kui müüt.
Kõige tavalisem eksiarvamus AI kohta tuleneb sama populaarsest loomulikust intelligentsusest, et see on ühemõõtmeline. Raskemates teadustes kujutavad paljud intelligentsust nii, nagu seda tegi Nick Bostrom oma raamatus Superintelligence – sõna otseses mõttes ühemõõtmelise kasvava amplituudiga joongraafikuna.
Ühes otsas on madalaima intelligentsusega olendid, näiteks väikesed loomad, ja teises - geeniused, justkui ei erineks intelligentsuse tase detsibellides mõõdetavast helitasemest. Muidugi on sel juhul lihtne ette kujutada edasist tõusu, kus intelligentsuse tase ületab graafiku kõrgeima punkti ja isegi ületab selle.
See mudel on topoloogiliselt samaväärne redeliga, mille astmetel on intelligentsuse tasemed järjestatud kasvavas järjekorras. Vähem intelligentsed loomad hõivavad redeli madalamad pulgad ja kõrgema taseme tehisintellekt asub paratamatult meist kõrgemal. Ajavahemik, millal see juhtub, ei oma tähtsust. Palju olulisemad on hierarhia astmed ise – kasvava intelligentsuse mõõdikud.
Selle mudeli probleem seisneb selles, et see on müütiline, nagu ka evolutsiooniredeli mudel. Enne darvinismi kujutati elusloodust elusolendite redelina, kus inimene asus astme võrra kõrgemale primitiivsematest loomadest.
Ja isegi pärast Darwinit on evolutsiooniredel endiselt üks levinumaid mõisteid. See näitab kalade muutumist roomajateks, neist imetajateks ja primaatide muutumist inimesteks. Pealegi on iga järgmine olend arenenum (ja loomulikult intelligentsem) kui tema eelkäija. Seega korreleerub intellekti redel universumi redeliga. Mõlemad mudelid peegeldavad aga täiesti teadusvastaseid seisukohti.
Loodusliku evolutsiooni täpsem diagramm oleks väljapoole kiirgav ketas, nagu ülaltoodud pildil. Selle struktuuri töötas esmakordselt välja David Hillis Texase ülikoolist, tuginedes DNA-le. See genealoogiline mandala algab keskelt kõige primitiivsemate eluvormidega ja hargneb seejärel väljapoole. Aeg liigub edasi, nii et kõige uuemad eluvormid paiknevad ümber ringi perimeetri.
See pilt toob esile hindamatu tõsiasja evolutsiooni fundamentaalse tähtsusega – kõik elusolendid on arenenud võrdselt. Inimene asub ketta välisosas koos prussakate, molluskite, sõnajalgade, rebaste ja bakteritega.
Kõik liigid on eranditult läbinud kolm miljardit aastat kestva katkematu eduka paljunemisahela, mis tähendab, et bakterid ja prussakad on sama kõrgelt arenenud kui inimesed. Treppe pole.
Samuti pole intelligentsuse redelit. Intelligentsus ei ole ühemõõtmeline. See on erinevate teadmisviiside ja -viiside kompleks, millest igaüks on pidev. Teeme lihtsa harjutuse loomade intelligentsuse mõõtmiseks. Kui intelligentsus oleks ühemõõtmeline, saaksime hõlpsasti järjestada intelligentsuse suurenemise järjekorras papagoi, delfiin, hobune, orav, kaheksajalg, sinine vaal, kass ja gorilla.
Praegu puuduvad teaduslikud tõendid sellise järjestuse olemasolu kohta. Selle põhjuseks võib olla erinevuste puudumine teatud loomade intelligentsuse taseme vahel, kuid see on samuti alusetu.
Zooloogia on rikas näidete poolest loomade mõtlemise silmatorkavatest erinevustest. Võib-olla on kõik loomad varustatud "üldotstarbelise" intelligentsusega? Võib-olla, kuid meil pole seda tüüpi intelligentsuse mõõtmiseks ühtset vahendit. Siiski on meil palju mõõtmissüsteeme erinevate tunnetustüüpide jaoks.
Ühe detsibellijoone asemel oleks õigem kujutada intelligentsust tõenäosusruumi diagrammina, nagu Richard Dawkinsi algoritmi abil loodud võimalike kujundite visualiseerimisel. Intelligentsus on kombinatoorne kontiinum. Paljud sõlmed, millest igaüks on kontiinum, loovad paljudes mõõtmetes kolossaalse mitmekesisuse kompleksi. Mõned intelligentsuse tüübid võivad olla väga keerulised ja koos paljude mõtlemise alamsõlmedega. Teised on lihtsamad, kuid ekstreemsemad, jõuavad ruumi äärmuslikku punkti.
Neid komplekse, mis tähendavad meie jaoks erinevat tüüpi intelligentsust, võib tajuda kui sümfooniaid, mida esitatakse erinevat tüüpi muusikariistadel. Need erinevad mitte ainult helitugevuse, vaid ka meloodia, värvi, tempo jne poolest. Saate neid tajuda ökosüsteemina. Selles mõttes on mõtlemissõlmede erinevad komponendid üksteisest sõltuvad ja on loodud üksteisest.
Nagu Marvin Minsky ütles, on inimteadvus mõistuse ühiskond. Meie mõtlemine on terviklik ökosüsteem. Meie ajus on palju teadmisviise, mis täidavad erinevaid vaimseid funktsioone: deduktsioon, induktsioon, emotsionaalne intelligentsus, abstraktne ja ruumiline mõtlemine, lühi- ja pikaajaline mälu.
Kogu inimese närvisüsteem on aju osa, millel on oma tunnetuse tase. Tegelikult ei vii mõtlemisprotsessi läbi mitte aju, vaid kogu inimkeha.
Kõik mõtteviisid varieeruvad nii liikide kui ka sama liigi liikmete vahel. Orav võib mitme tuhande tammetõru täpset asukohta mäletada aastaid, mis on inimesele täiesti arusaamatu. Sellises mõtteviisis on inimesed oravadest madalamad. Orava intelligentsus on selle supervõime kombinatsioon teiste intelligentsuse vormidega, milles inimesed on oravatest paremad. Loomariigist võib leida palju näiteid loomade intelligentsuse teatud vormide paremusest inimese intelligentsusest.
Sama olukord on arenenud tehisintellektiga, mis on mõnes valdkonnas juba inimintellektist üle. Iga kalkulaator on matemaatiline geenius ja Google'i otsingumootori mälu on juba mõnes mõttes parem kui meie oma.
Mõned AI-d teevad vaimseid tegevusi, milleks me võimelised pole. Kuue miljardi veebilehe iga sõna meeldejätmine on inimeste jaoks hirmuäratav ja otsingumootoritele imelihtne. Edaspidi loome täiesti uusi mõtteviise, mis pole inimesele kättesaadavad ja mida looduses ei eksisteeri.
Lennukite leiutajad said inspiratsiooni loomulikust lennust – tiibade lehvitamisest. Hiljem aga leiutati fikseeritud tiib koos selle külge kinnitatud propelleritega ja see oli täiesti uus lennupõhimõte, mida looduses ei leidu.
Nii leiutame uusi mõtteviise, milleks ükski teine liik pole võimeline. Tõenäoliselt on need põhimõtted, mis kehtivad ainult väga spetsiifiliste probleemide puhul: näiteks uued loogilised konstruktsioonid, mida on vaja ainult statistikas ja tõenäosusteoorias.
Uut tüüpi mõtlemine aitab lahendada probleeme, millega inimmõistus toime ei tule. Mõned kõige keerulisemad küsimused ettevõtluses ja teaduses nõuavad kaheastmelisi lahendusi. Esimene etapp on uue loomuliku mõtlemisviisi leiutamine. Teine on hakata koos tehisintellektiga vastuseid otsima.
Inimesed hakkavad AI-d endast targemaks pidama, kui see aitab lahendada varem lahendamatuid probleeme. Tegelikult pole AI mõtlemine parem kui meie oma, see on lihtsalt teistsugune. Usun, et tehisintellekti peamine eelis seisneb selles, et ta on võimeline mõtlema nagu tulnukas ja see võõrasus on selle peamine eelis.
Lisaks loome erinevate mõtteviisidega keerukaid AI “kogukondi”. Need on nii keerulised, et suudavad lahendada probleeme, mida me ei suuda lahendada. Seetõttu otsustavad mõned inimesed ekslikult, et AI kompleksid on intelligentsemad kui inimesed. Kuid me ei arva, et Google'i otsingumootor on targem kui inimene, kuigi tema mälu on parem kui meil.
Tõenäoliselt ületavad need tehisintellekti kompleksid meid paljudes valdkondades, kuid ükski neist ei ületa korraga inimesi igal pool. Sarnane olukord on kujunenud ka meie füüsilise jõuga. Tööstusrevolutsioonist on möödas kakssada aastat ja ükski masin pole keskmisest inimesest mitte millegi poolest tugevamaks muutunud, kuigi masinad kui klass on inimestest oluliselt paremad jooksukiiruses, raskuste tõstmises, lõiketäpsuses ja muudes tegevustes.
Vaatamata tehisintellekti ülesehituse järjest keerukamaks muutumisele on seda tänapäeva teaduse meetoditega võimatu mõõta. Meil pole tööriistu, et teha kindlaks, kas kurk või Boeing 747 on keerulisem, ega ka võimalust mõõta nende keerukuse erinevusi. Seetõttu pole meil siiani täpseid intellektuaalsete võimete kriteeriume.
Aja jooksul muutub üha raskemaks kindlaks teha, kumb on keerulisem ja vastavalt ka targem: intelligentsus A või intelligentsus B. Vaimse tegevuse uurimata valdkondi on palju ja peamiselt takistab see meil aru saamast, et mõistus ei ole üks. mõõtmetega.
Teine eksiarvamus inimmõistuse kohta on see, et me usume, et meie meel on universaalne. See laialt levinud usk mõjutab teed, mida me teeme tehisintellekti (AGI) loomise suunas, mida kunagi kuulutasid AI-eksperdid.
Kui aga mõelda mõistusele kui tohutule võimaluste ruumile, ei saa me rääkida üldise eesmärgiga seisundist. Inimmõistus ei asu mingis abstraktses kesksel kohal ja selle ümber ei tiirle muud erilised meeletüübid.
Inimese intelligentsus on pigem äärmiselt spetsiifiline intelligentsuse tüüp, mis on miljonite aastate jooksul arenenud meie liigi ellujäämiseks sellel planeedil. Kui me tahaksime paigutada oma intellekti kõigi teiste võimalike intelligentsi tüüpide hulka, siis see satuks kuhugi nurka – nagu meie maailm ise, mis on kobaras tohutu galaktika serval.
Muidugi võime ette kujutada ja mõnikord välja mõelda mõtlemisviisi, mis on oma omadustelt sarnane Šveitsi armee noaga. Tundub, et ta tuleb paljude ülesannetega toime, kuid mitte pauguga.
Siia kuulub ka tehniline reegel, millele peavad alluma kõik asjad, olenemata sellest, kas need loodi tahtlikult või tekkisid loomulikult: „Kõiki mõõtmeid on võimatu optimeerida. Saate leida ainult kompromisse. Üldotstarbeline multifunktsionaalne masin ei suuda ületada erifunktsioone.
Tee-kõik-mentaliteet ei saa töötada samaväärselt spetsiifiliste ülesannete täitjatega. Kuna me peame oma teadvust universaalseks mehhanismiks, usume, et tunnetus ei tohiks põhineda kompromissidel ja et on võimalik leiutada tehisintellekt, mis demonstreerib igat tüüpi mõtlemise maksimaalset efektiivsust.
Kuid ma ei näe selle väite kohta tõendeid. Me lihtsalt ei ole veel loonud piisaval hulgal teadvuse sorte, mis võimaldaksid näha täit pilti (ja praegu eelistame mitte käsitleda loomateadvust läbi ühe parameetri prisma kui eraldiseisvat muutuva amplituudiga mõtlemistüüpi).
Osa sellest veendumusest, et meie mõtlemine on võimalikult universaalne, tuleneb universaalse arvutuse kontseptsioonist. Seda oletust nimetati 1950. aastal Church-Turingi teesiks. See ütleb, et kõik arvutused, mis vastavad teatud parameetritele, on samaväärsed.
Seega on kõigi arvutuste jaoks universaalne alus. Olenemata sellest, kas arvutust teostab üksainus paljude kiirete mehhanismidega masin, väiksema tootlikkusega masin või isegi bioloogiline ajus, räägime samast loogilisest protsessist. See omakorda tähendab, et saame simuleerida mis tahes arvutusprotsessi (mõtlemist), kasutades mis tahes masinat, mis suudab sooritada "universaalseid" arvutusi.
Seda põhimõtet kasutades õigustavad singulaarsuse pooldajad oma ootust, et suudame kujundada ränipõhise tehisaju, mis mahutab inimese teadvuse, et suudame luua tehisintellekti, mis mõtleb samamoodi nagu inimene, kuid palju tõhusamalt. Nendesse lootustesse tuleks suhtuda teatud skeptitsismiga, kuna need põhinevad Church-Turingi teesi ebaõigel tõlgendusel.
Selle teooria lähtepunkt on: "Piiramatu mälu ja aja tingimustes on kõik arvutused samaväärsed." Probleem on selles, et tegelikkuses pole ühelgi arvutil lõpmatu mälu või aja tunnuseid. Kui teete arvutusi reaalses maailmas, on ajakomponent äärmiselt oluline, kuni selleni, et see taandub sageli elule ja surmale.
Jah, kõik mõtteviisid on võrdsed, kui jätta välja ajaline aspekt. Jah, inimmõtlemist on võimalik simuleerida mis tahes maatriksis, kui otsustate ignoreerida aega või ruumi ja mälu piiranguid tegelikkuses.
Kui aga kaasate sellesse võrrandisse ajamuutuja, peate oluliselt muutma põhimõtte sõnastust: "Kaks täiesti erineval platvormil töötavat arvutussüsteemi ei tee reaalajas samaväärseid arvutusi."
Selle põhimõtte võib ümber sõnastada järgmiselt: „Ainus meetod samaväärsete mõtteviiside saamiseks on nende elluviimine samadel alustel. Füüsiline meedium, millel te oma arvutusi sooritate – eriti nende keerukuse kasvades – mõjutab suuresti reaalajas mõtlemise tüüpi."
Loogilist ahelat jätkates eeldan, et ainus viis inimesele võimalikult lähedase mõtlemisviisi loomiseks on arvutuste tegemine ainest, mis sarnaneb meie halli ainega.
See tähendab, et võib ka eeldada, et kuiva räni baasil loodud mahukas, keeruline tehisintellekt tekitab kohmakaid, keerulisi ja mitteinimlikke mõtlemistüüpe. Kui suudetaks luua tehisintellekti, mis töötaks märjal ainel, kasutades inimesele sarnaseid tehisineuroneid, oleks sellise tehisintellekti mõtteprotsess meie omale palju lähemal.
Sellise "märja" süsteemi eelised on proportsionaalsed kasutatava füüsilise kandja lähedusega inimeste jaoks. Sellise aine loomine nõuaks tohutuid materiaalseid kulutusi, et saavutada vähemalt meile looduse poolt omasele sarnane tase. Ja uue inimese saame luua nii – peame lihtsalt 9 kuud ootama.
Samuti, nagu varem mainitud, mõtleme me kogu oma olemusega, mitte ainult oma teadvusega. Kaasaegsel teadusel on palju andmeid selle kohta, kuidas meie närvisüsteem mõjutab, ennustab ja kohaneb meie "ratsionaalses" otsustusprotsessis. Mida üksikasjalikumalt me inimkeha süsteemi vaatame, seda hoolikamalt saame selle hiljem uuesti luua. Tehisintellekt, mis töötab meie omast radikaalselt erineva ainega (märja süsiniku asemel kuiv räni), mõtleb samuti teisiti.
Ma ei usu, et see funktsioon on pigem "funktsioon kui viga". Nagu ma selle artikli teises punktis väitsin, on erinevused AI mõtlemisprotsessis selle peamine eelis. Siin on veel üks põhjus, miks oleks vale väita, et see on "inimajust targem".
Üliinimliku intelligentsuse kontseptsiooni – ja eriti sellise tehisintellekti pideva enesetäiendamise teooria – keskmes on siiras usk intelligentsuse piiritusse. Ma ei leidnud selle väite kohta ühtegi tõendit.
Jällegi aitab selle väite levikule kaasa väärarusaam intelligentsusest kui ainult ühe mõõtmega määratletud süsteemist, kuid me peame mõistma, et see jääb alusetuks. Universumis pole lõpmatuid füüsilisi mõõtmeid – vähemalt pole need veel teadusele teada.
Temperatuur ei ole lõpmatu - külma ja kuumuse miinimum- ja maksimumväärtused on olemas. Ka ruum ja aeg pole piiramatud, samuti pole piiramatud kiirus. Võib-olla võib arvutelge nimetada lõpmatuks, kuid kõigil teistel füüsikalistel parameetritel on oma piirid. Muidugi on ka mõistus ise lõplik.
Tekib küsimus: kus on intelligentsuse piirid? Oleme harjunud uskuma, et piir on kusagil kaugel, meist sama "üle" kui me oleme sipelgatest "üleval". Kui jätta kõrvale ühemõõtmelisuse lahendamata probleem, siis kuidas tõestada, et me pole veel piirini jõudnud? Miks me ei võiks olla loomingu kroon? Või äkki oleme jõudnud peaaegu inimvõimete piiridesse? Miks me usume, et intelligentsus on lõputult arenev mõiste?
Parem on tajuda meie intellekti kui ühte paljudest mõtlemistüüpidest. Kuigi igal tunnetuse ja arvutamise dimensioonil on piir, kui mõõtmeid on sadu, siis on lugematu arv erinevaid intelligentsi, kuid ükski pole üheski dimensioonis lõpmatu.
Kui me loome või kohtame neid lugematuid variatsioone teadvuse teemal, võime kogeda neid kui meie võimeid. Oma viimases raamatus "Paratamatus" tõin välja loetelu mõnest neist sortidest, mis on ühel või teisel viisil meist kehvemad. Allpool annan osa sellest loendist:
Inimesele võimalikult lähedane, kuid suurema reaktsioonikiirusega mõistus (kõige lihtsam tehisintellekt);
Väga aeglane mõistus, mille põhikomponentideks on mahukas salvestusruum ja mälu;
Universaalne intelligentsus, mis koosneb miljonitest unisoonis tegutsevatest individuaalsetest teadvustest;
Taru mõistus, mis koosneb suurest hulgast äärmiselt produktiivsetest intelligentsustest, kes ei tea, et nad on üks;
Borg supermind (kollektiivse meelega küborgide rass, kes püüab oma kollektiivi assimileerida kõik Star Treki seeriast pärit elusolendid - u. Newabout) – suur hulk väga funktsionaalseid intelligentsi, kes on selgelt teadlikud, et nad on üks tervik;
Meel, mis on loodud eesmärgiga arendada kandja isiklikku teadvust, kuid kellelegi teisele sobimatu;
Mõistus, mis suudab ette kujutada keerukamat meelt, kuid ei suuda seda luua;
Mõistus, mis suudab ühel päeval edukalt luua keerukama meele;
Mõistus, mis võib luua keerukama meele, mis omakorda võib luua veelgi keerukama meele jne;
Meel, millel on kiire juurdepääs oma lähtekoodile (võib igal ajal oma toimimise funktsioone muuta);
Superloogiline mõistus, ilma võimest kogeda emotsioone;
Tavaline mõistus, mis on suunatud määratud probleemide lahendamisele, kuid ei ole võimeline enesesse vaatama;
Meel, mis on võimeline sisekaemusse, kuid ei suuda lahendada talle määratud probleeme;
Meel, mille areng võtab kaua aega, vajab kaitsvat meelt;
Erakordselt aeglane meel, hajutatud üle tohutu füüsilise ruumi, mis näib "nähtamatu" teadvuse vormidele, mis reageerivad kiiremini;
Mõistus, mis on võimeline kiiresti ja korduvalt enda koopiaid reprodutseerima;
Mõistus, mis on võimeline oma koopiaid taasesitama ja nendega üheks jääma;
Mõistus, mis on võimeline peremehelt peremehele liikudes saavutama surematuse;
Kiire, dünaamiline meel, mis on võimeline muutma mõtlemise protsessi ja olemust;
Nanomõistus, väikseim sõltumatu üksus (suuruse ja energiaväljundi poolest), mis on võimeline ise analüüsima;
stsenaariumide loomisele ja prognoosimisele spetsialiseerunud mõistus;
Meel, mis ei unusta kunagi midagi, sealhulgas ebaõiget teavet;
Pool masin, pool loom;
Osa masin, osa androgüünne küborg;
Mõistus, mis kasutab oma töös meile arusaamatut kvantitatiivset analüüsi.
Tänapäeval nimetavad mõned igat seda tüüpi mõtlemist üliinimlikuks tehisintellektiks, kuid tulevikus sunnib nende intelligentsuse vormide mitmekesisus ja võõrapärasus pöörduma uute sõnaraamatute poole ning uurima üksikasjalikult mõtlemise ja intelligentsuse teemat.
Lisaks eeldavad üliinimliku tehisintellekti idee pooldajad, et selle vaimsete võimete tase tõuseb eksponentsiaalselt (kuigi neil pole endiselt süsteemi selle taseme hindamiseks). Võib-olla usuvad nad, et eksponentsiaalse arengu protsess juba toimub.
Mõlemal juhul pole tänapäeval sellise kasvu kohta mingeid tõendeid, olenemata sellest, kuidas seda mõõta. Vastasel juhul tähendaks see, et tehisintellekti vaimsed võimed kahekordistuvad teatud aja jooksul.
Kus on selle kinnitus? Ainus asi, mis praegu hüppeliselt kasvab, on investeering tehisintellekti tööstusesse. Kuid nende investeeringute tasuvust ei saa kirjeldada Moore'i seadusega. AI ei muutu kolme aastaga kaks korda targemaks ega isegi kümne aastaga.
Küsisin paljudelt tehisintellekti valdkonna ekspertidelt, kuid kõik nõustusid, et meil pole intelligentsuse kriteeriume. Kui küsisin Ray Kurzweililt, tõeliselt eksponentsiaalselt võlurilt, kust leida tõendeid tehisintellekti eksponentsiaalse arengu kohta, kirjutas ta mulle, et tehisintellekti arendamine ei ole plahvatuslik, vaid järkjärguline protsess.
"Hierarhiale uue taseme lisamiseks on vaja nii arvutusvõimsuse eksponentsiaalset kasvu kui ka algoritmi keerukuse kasvu... Seega peaksime eeldama tingimuslike tasemete arvu lineaarset suurenemist, kuna igaüks neist nõuab meie enda võimete eksponentsiaalne kasv. Neokorteksi (inimese ajukoore põhiosa, mis vastutab kõrgemate närvifunktsioonide eest) tehisintellekti võimete saavutamiseks pole meil jäänud palju keerukuse taset. u. Uus mis), seega usun endiselt, et minu oletused 2029. aasta kohta on õiged.
Ray näib ütlevat, et eksponentsiaalselt ei kasva tehisintellekti jõud, vaid pingutused selle loomiseks, kusjuures nende tulemust suurendatakse iga korraga lihtsalt ühe sammu võrra. See on peaaegu vastupidine luure plahvatuse hüpoteesile. See võib tulevikus muutuda, kuid ilmselgelt ei kasva tehisintellekt täna eksponentsiaalselt.
Seega, kui kujutame ette AI-buumi, ei peaks me sellest mõtlema kui laviinile, vaid pigem jagunemisele paljudeks uuteks sortideks. Tehnoloogilise progressi tulemuseks pole suure tõenäosusega mitte superinimene, vaid superinimene. Väljaspool meie teadmisi, kuid mitte tingimata "üle".
Teine laialt aktsepteeritud, kuid suures osas toetamata müüt superintelligentsi orjastamise kohta on see, et peaaegu lõpmatu intelligentsus suudab kiiresti lahendada kõik meie probleemid.
Paljud AI kiire arengu pooldajad loodavad, et see tekitab käimasoleva buumi. Ma nimetan sellesse uskumist "thinkismiks" (termini tõlkis Vjatšeslav Golovanov - u. Newabout). See lähenemine põhineb veendumusel, et edasiminekut takistab ainult ebapiisav mõtlemine või intelligentsus. (Märgin ka ära, et usk AI-sse kui imerohusse kõigi hädade vastu on enamasti omane inimestele, kellele endale meeldib mõelda.)
Mõelgem vähi võitmise või eluea pikendamise küsimusele. Need on probleemid, mida üksi mõtlemisega lahendada ei saa. Ükski mõtlemine ei suuda välja selgitada, kuidas rakud vananevad või kuidas telomeerid lühenevad. Ükski intelligentsus, olgu see nii vinge kui tahes, ei suuda mõista inimkeha toimimist pelgalt kogu maailmas tuntud teaduskirjandust lugedes ja seda analüüsides.
Super-AI ei suuda lihtsalt mõelda kõikidele praegustele ja varasematele aatomituuma poolitamise katsetele ning päev hiljem tulla välja termotuumasünteesi valmisretseptiga. Et jõuda arusaamatusest mis tahes teema mõistmiseni, on vaja rohkem kui lihtsalt mõtlemist.
Tegelikkuses on palju katseid, millest igaüks annab terve hunniku vastuolulisi andmeid ja nõuab täiendavaid katseid õige tööhüpoteesi moodustamiseks. Ainult võimalikele tulemustele mõtlemine ei anna õiget tulemust.
Mõtlemine (intelligentsus) on vaid osa teaduse tööriistast. Tõenäoliselt vaid väike osa. Näiteks pole meil lihtsalt piisavalt andmeid, et surmaprobleemi lahendamisele lähedale jõuda. Elusorganismidega töötades võtab enamik neist katsetest aega. Aeglane rakkude ainevahetus ei saa kiireneda. Tulemuste saavutamiseks kulub aastaid, kuid või vähemalt päevi.
Kui tahame teada, mis saab subatomaarsetest osakestest, ei piisa ainult neile mõtlemisest. Selle väljaselgitamiseks peame ehitama väga suuri, väga keerulisi ja väga keerukaid füüsikamudeleid. Isegi kui targemad füüsikud saavad tuhat korda targemaks kui praegu, ei õpi nad ilma põrkeseadmeta midagi uut.
Pole kahtlust, et super-AI võib teaduse arengut kiirendada. Me saame luua aatomitest või rakkudest arvutimudeleid ja saame neid mitmel viisil kiirendada, kuid on probleeme, mis takistavad simulatsioonidel kohest edenemist.
Tasub meeles pidada, et simulatsioone ja mudeleid saab uurida kiiremini kui nende subjekte, sest nad jätavad teatud muutujad kõrvale. See on modelleerimise olemus. Samuti on oluline märkida, et selliste mudelite testimine, uurimine ja valideerimine nõuab palju aega, et tagada nende asjakohasus nende subjektide jaoks. Kogemuste põhjal testimist ei saa kiirendada.
Simulatsiooni lihtsustatud versioonid on kasulikud kõige paljutõotavamate viiside leidmiseks edenemise kiirendamiseks. Kuid tegelikkuses pole midagi üleliigset, kõik loeb mingil määral – see on üks suur reaalsuse määratlus. Kuna mudelid ja simulatsioonid muutuvad üha üksikasjalikumaks, seisavad teadlased silmitsi tõsiasjaga, et reaalsus jookseb kiiremini kui selle 100% simulatsioon.
Siin on veel üks reaalsuse määratlus: kõigi võimalike osade ja vabadusastmete kõige kiiremini toimiv versioon. Kui saaksite modelleerida kõiki rakus olevaid molekule ja kõiki inimkeha rakke, ei töötaks mudel nii kiiresti kui inimkeha. Ükskõik kui läbimõeldult sellist mudelit kujundate, peate siiski kulutama aega katsetamiseks ja pole vahet, kas see on päris süsteem või simulatsioon.
Selleks, et tehisintellekt oleks kasulik, tuleb maailmas tutvustada ja selles maailmas on vajalik innovatsioonitempo üsna kiiresti muutumas. Ilma esimeste katsete, prototüüpide, vigade ja reaalsusega seotuseta suudab intellekt mõelda, kuid see ei anna tulemusi. Ta ei tee koheseid avastusi ei sekund ega tund ega aasta pärast seda, kui teda kutsutakse "inimesest targemaks".
Ilmub AI. Loomulikult kiireneb avastamise kiirus, kui see tehisintellekt muutub keerukamaks, osaliselt seetõttu, et välismaised tehisintellektid esitavad küsimusi, mida ükski inimene ei küsiks, kuid isegi väga võimas (meiega võrreldes) intelligentsus ei taga kohest edasiminekut. Probleemide lahendamine nõuab palju enamat kui lihtsalt intelligentsust.
Vähktõve ja oodatava eluea probleemid pole ainsad, mida intelligentsus üksi ei suuda lahendada. Tehnoloogilise singulaarsuse pooldajate seas on levinud eksiarvamus, et kui loome inimestest targema tehisintellekti, areneb see ootamatult ja loob veelgi targema tehisintellekti.
Uus tehisintellekt mõtleb sügavamalt ja leiutab midagi veelgi targemat ja nii edasi, kuni leiutatakse midagi jumalalaadset. Puuduvad tõendid selle kohta, et ainuüksi mõtlemisest piisab uute intelligentsuse tasemete loomiseks. Seda tüüpi mõtisklus põhineb usul.
Siiski on palju tõendeid selle kohta, et uue, tõhusa intelligentsuse leiutamine nõuab mitte ainult vaimset pingutust, vaid ka katsetamist, andmeid, väljakutseid esitavaid küsimusi ning katse-eksitusi.
Saan aru, et võin eksida. Oleme alles algusjärgus. Võib-olla avastame intelligentsuse universaalse skaala või selle lõpmatuse kõigis tähendustes. Võimalik on tehnoloogiline singulaarsus, sest me teame väga vähe sellest, mis on intelligentsus ja eneseteadlikkus. Minu arvates viitab kõik sellele, et see on ebatõenäoline, kuid võimalus on siiski olemas.
Siiski toetan OpenAI laiemaid eesmärke: peame välja töötama sõbraliku tehisintellekti ja välja mõtlema, kuidas anda sellele väärtusi, mis on isepaljunevad ja meie omadega kooskõlas.
On võimalik, et üliinimlik tehisintellekt võib olla pikas perspektiivis kahjulik, kuid see idee põhineb mittetäielikel tõenditel ja seda ei tohiks teaduse, poliitika või progressi puhul tõsiselt võtta.
Maad tabav asteroid võib meid hävitada, see on võimalik (seda kinnitab sihtasutus B612), kuid me ei peaks sellise tulemusega arvestama globaalse soojenemise, kosmosereiside või linnaplaneerimise küsimustes.
Olemasolevad tõendid näitavad, et on tõenäoline, et tehisintellekt ei ole üliinimlik. Tal on uued mõtteviisid, mis on inimesele kättesaamatud, kuid ilma igakülgse rakenduseta ei saa temast jumalat, kes lahendab hetkega meie põhiprobleemid.
Temast saab hoopis piiratud võimekusega intellektide kuhja, töötab meile võõrastes valdkondades meist paremini ja suudab koos meiega leida lahendusi nii olemasolevatele kui ka uutele probleemidele.
Ma mõistan, kui atraktiivne on idee üliinimlikust ja jumalataolisest tehisintellektist. Temast võib saada uus Superman. Kuid nagu Superman, on ta väljamõeldud tegelane. Superman võib kuskil universumis eksisteerida, kuid see on väga ebatõenäoline. Olgu kuidas on, müüdid võivad olla kasulikud ja kui need on kord loodud, siis need ei kao.
Supermani idee elab igavesti. Idee üliinimlikust tehisintellektist ja singulaarsusest kerkib esile praegu ja seda ei unustata kunagi. Peame mõistma, mis idee see on: religioosne või teaduslik. Kui uurime tehisliku või loomuliku intelligentsuse küsimust, peame selgelt mõistma, et meie ideed üliinimliku tehisintellekti kohta on vaid müüt.
Mikroneesia isoleeritud saarte hõimud võtsid välismaailmaga esmakordselt kontakti Teise maailmasõja ajal. Jumalad lendasid kaugetelt maadelt, laskusid taevast lärmakatele lindudele, tõid kingitusi ja lendasid igaveseks minema. Nende jumalate tagasituleku kultused ja uued kingitused levisid üle saarte. Ka praegu, 50 aastat hiljem, ootavad paljud ikka veel oma tagasitulekut.
Superinimlikust tehisintellektist võib saada meie uus lastikultus. Võib-olla saja aasta pärast tajuvad inimesed meie aega samamoodi: justkui usuksime üliinimlikku tehisintellekti ja ootaksime aastakümneid, millal see igal hetkel ilmub ja meile mõeldamatuid kingitusi toob.
Mitte-üleinimlik tehisintellekt on aga juba olemas. Jätkame sellele uue definitsiooni otsimist, et seda keerulisemaks muuta. Kuid laiemas mõttes on meile võõras mõistus intellektuaalsete võimete, mõtlemise, arutlusmehhanismide, õppimise ja eneseteadvuse spekter. AI levib ja levib ka edaspidi. See muutub sügavamaks, mitmekesisemaks, võimsamaks.
Enne tehisintellekti ei suutnud ükski leiutis maailma täielikult muuta. 21. sajandi lõpuks on tehisintellekt nii võimas, et muudab meie elus kõike.
Olgu kuidas on, müüt üliinimlikust tehisintellektist, mis annab meile ülirikkuse või üliorjuse (või mõlema) elab edasi. See jääb aga müüdiks, mida tõenäoliselt reaalsuseks ei tõlgi.
Selles materjalis püüan laiendada Gateboxi väljaandes põgusalt puudutatud teemat või mõnda mõtet tehisintellekti tulevikust.
Lühidalt öeldes on “minu” tees, et kui see jõuab üliinimlikule tasemele, muutub tehisintellekt jumalalaadseks – kas eksisteerib kas inimestest eraldi või koos. Esimesel juhul jääb lahtiseks küsimus inimkonna kooseksisteerimisest tema loodud jumalaga: kas ta hoolitseb meie eest igal võimalikul viisil (nagu me hoolitseme haruldaste taimede eest) või hävitab meid (nagu me hävitame näiteks meie aias kahjulik umbrohi), vastasel juhul ei huvita see meid – nii nagu me oleme ükskõiksed muru muru vastu. Äsja vermitud jumala eesmärke ja väärtussüsteemi on täiesti võimatu ennustada – nagu usklik ütleks, "Issanda teed on salapärased".
Vähem ettearvamatu on AI käitumine, mis on võtnud vahepealse kuju hüpoteetilise tulevikujumala ja praeguste suhteliselt primitiivsete süsteemide vahel. Tavapäraselt nimetatakse sellist tehisintellekti tugevaks ja selle tase vastab inimese omale. Selle võib omakorda jagada kahte kategooriasse – eneseteadvusega ja ilma. Mis on eneseteadvus, on lahtine ja väga keeruline küsimus. Minu arvates on see füüsiliste ja vaimsete aistingute kogum, mille loodus on miljonite aastate jooksul välja töötanud. Eneseteadvuse põhijooneks on selle kandja vastuseis ümbritsevale maailmale. Kas seda on võimalik kunstlikult reprodutseerida, kas see tekib intellektuaalses süsteemis (mis ühtäkki võtab ja teadvustab ennast) iseenesest, on omaette suure arutelu teema. Praegu parandame lihtsalt mõlema võimaluse võimaluse ja kaalume neid kõiki.
Minu seisukohast on tugev AI ilma eneseteadlikkuseta täiesti ohutu (või täpsemalt ennustatav), kuna sellel ei saa olla mingeid soove. Kogu tema käitumine on allutatud temale omastele eesmärkidele ja piirangutele. Kuid kummalisel kombel ei erine selles suhtes tugev eneseteadlik tehisintellekt põhimõtteliselt tugevast ilma eneseteadlikkuseta tehisintellektist. Ainult meile tundub, et meil on vaba tahe ja oleme oma tegudes sõltumatud – tegelikult see nii ei ole. Kõik meie eesmärgid, vajadused ja ohjeldavad põhimõtted on kas meisse programmeeritud emakese looduse poolt – elama, sööma, jooma, armastama, lõõgastuma jne või siis meie keskkonna poolt peale surutud (lapsepõlves saadud kasvatus, kino ja ilukirjandus, seadused, traditsioonid). ja jne) - pürgida võimu poole, teha karjääri, aidata teisi, uurida maailma jne. Seetõttu on teoreetiliselt sarnasel viisil võimalik programmeerida ja treenida eneseteadlikku tehisintellekti, mis, nagu meiegi, kannab illusiooni, et tal on vaba tahe.
Vaatleme potentsiaalse ohu vaatenurgast eneseteadlikku tehisintellekti – milliseid ohte see meile kujutada võib ja kuidas neid vältida või vähemalt vähendada? Ilmselgelt peab tugeva tehisintellekti koolitamine tingimata hõlmama eetikat. Nii nagu nõrk tehisintellekt õpib autopiloodi funktsiooni, jälgides kogenud juhi käitumist, saab tugevat tehisintellekti õpetada eetikat, "söötdes" sellele kirjandust - suhteliselt lihtsatest ja eelistatavalt moraalsetest lugudest kuni keerukate ja vastuoluliste tegelastega raamatuteni. Nii või teisiti peegeldab maailmakirjandus nii eetikat ennast kui ka selle transformatsiooni, mis väljendub ühiskondlike suhete humaniseerumises ja globaliseerumises.
Kuidas õpetatakse tugevale tehisintellektile maailmakirjanduse põhjal eetikat? Nagu iga tõeliselt intelligentne süsteem, suudab tugev tehisintellekt tuvastada seoseid ja mustreid andmekogumis. Olles lugenud miljon või kaks raamatut, peaks ta ilma suuremate raskusteta välja töötama omalaadse kristliku kümne käsu analoogi, kuid selle tõlgendamine on olusid arvesse võttes sama raske kui inimeselgi. Kahjuks ei ole võimalik neid käske selgesõnaliselt välja öelda, nagu Isaac Asimovi kolm robootikaseadust, ja siin on põhjus. Tuletan teile meelde (tsitaat Wikipediast):
Selle sõnastusega saame väga primitiivse süsteemi, millel on piiratud tegevuste kogum. Näiteks on ta politsei-, sõjaväe- või päästeoperatsioonidel üsna abitu. Võite väita, et robotite kasutamine sõjas on väga ebasoovitav – ja te eksite. Lisaks sellele, et see vähendab neid roboteid kasutava riigi töötajate kaotusi, vähenevad ka tsiviilelanikkonna kaotused riigis, mille territooriumil lahingud toimuvad. Eelkõige sõjaliste sihtmärkide parema äratundmise ning reeglite, eetika jms range järgimise tõttu. - ilma emotsioonideta, mis sunnivad sõjaväelasi sageli kuritegusid sooritama (kättemaksust, lõbu pärast jne)
Kuid isegi täiesti rahulikus keskkonnas võib tehisintellektist saada vastumeelne tapja ja mitte tingimata politseiametnikuna. Kujutage ette, et teie auto pidurid on üles öelnud ja see kihutab suurel kiirusel mööda mägiserpentiini – ja ees on buss täis reisijaid. Nii kurb kui see teie jaoks ka pole, oleks eetilisest seisukohast kõige õigem sõita autoga vastu kalju - bussiga sõites võib see päästa teie elu, kuid samas suure tõenäosusega tappa veel mitu inimest. Sarnaseid olukordi, mis nõuavad valikut halva ja väga halva otsuse vahel, võib olla palju – ja kõigis neis jääb kolmele robootikaseadusele rangelt järgiv tehisintellekt abituks.
Oletame, et olen teid veennud tugeva tehisintellekti eetika õpetamise vajalikkuses, misjärel saate hakata õpetama sellele ametlikumat reeglisüsteemi – seadused, hartad, ametijuhendid jne. Need on tema jaoks prioriteetsed, kuid neile lisandub eetika nendes küsimustes, mida need ei reguleeri. Näiteks võitlema koolitatud tehisintellekti sõdur suudab mitte ainult vaenlast hävitada, vaid ka oma professionaalset tegevust eetikaga tasakaalustada. See tekitab tohutul hulgal puhtpraktilisi küsimusi: kas elumajas on võimalik hävitada snaipripesa selle elanike surma hinnaga, kas on vaja täita käsu korraldust, mis rikub seadusi, jne. jne. Kuid nende üle pole mõtet arutada põhjusel, et igal sõjaväelasel on sarnased küsimused. Seetõttu jääb nende otsus pigem tehnikavaldkonnas – mida ja mis prioriteediks seatakse.
Minu arvates puudutab huvitavam küsimus võimsa tehisintellekti eetika ümbermõtestamise väljavaateid. Nagu ma juba ütlesin, ei ole eetika oma fundamentaalsetes alustes muutunud kogu inimtsivilisatsiooni eksisteerimise jooksul – muutused puudutasid selle humaniseerumist ja globaliseerumist. Need muutused ei ole sugugi juhuslikud ja on väga olulised tulevikuperspektiivide hindamisel eetika, seega teen ettepaneku neid üksikasjalikumalt käsitleda.
Eetika globaliseerumine tähendab selle levikut üha laiematele elanikkonnakihtidele. Kunagi oli võimalik karistamatult (seda ei peetud patuks ja isegi julgustati) tappa, röövida või vägistada kedagi väljaspool oma klanni või hõimu, osariiki, klassi, rassi – tänapäeval ei tunne need kuriteod erandeid, vähemalt siseriiklikult. inimühiskonna raamistik. Tänu kolmanda võimu sajandeid kestnud võitlusele oma õiguste eest on sellest saanud omamoodi traditsioon, mis hõlmas läänes esmalt naisi ja seejärel mittekuuluvate rasside, etniliste ja usurühmade ning nüüdseks seksuaalvähemuste esindajaid.
Humaniseerimine on omakorda tingitud tehnoloogiate arengust, mis on muutnud inimelu mugavamaks ja turvalisemaks. Need päästsid inimesi vajadusest vallutada uus maa (mis oli kunagi peamine ressurss) ja vähendasid suremust (mis muutis aja jooksul varajase, sealhulgas vägivaldse surma vähem tavaliseks). Pretendentseerimata globaliseerumise ja eetika humaniseerumise põhjuste täielikku kirjeldamist, võin siiski kindlalt väita, et need olid täiesti loomulikud nähtused. Kuid eetika põhiprintsiip on ühiskonna soov tasakaalu järele. Näiteks ürgühiskonnas kehtis sama klanni sees abielude sõlmimise range keeld. Kaasaegne inimene võib arvata, et see on tingitud verepilastuse bioloogilisest kahjulikkusest, kuid antropoloogide sõnul tulenes keeld soovist vältida meeste sisetüli. Mõrvadest või röövimistest pole vaja rääkida - need ei olnud keelatud mitte sellepärast, et need on halvad, vaid seetõttu, et need põhjustavad konflikte ja on seega täis ühiskonna hävitamist. Samal põhjusel ei olnud võõraste suhtes sageli keelatud mõrvad ja röövid. Globaliseerumise edenedes laienes stabiilsust vajavate sotsiaalsete suhete ruum – seadused hakkasid kehtima naaberhõimude ja külade, vallutatud riikide ja rahvaste jne kohta.
Heategevus võib tänapäeval peegelduda alateadlikust soovist sotsiaalse tasakaalu järele – sotsiaalsed kontrastid põhjustavad või vähemalt toidavad revolutsioone, terrorismi jne. Eetika rolli stabiilsuse ja kollektiivse julgeoleku säilitamise küsimustes ilmestavad kõige paremini seadused. Näiteks kriminaalõigus on peaaegu kõikjal ühesugune - kõik ühiskonnaliikmed ei taha võrdselt, et neid tapetakse ega röövitakse - ja samas ei pea nad neid kuritegusid ise toime panema, sest nad saavad rahumeelsel tööl end ära toita. (erinevalt mõnedest skandinaavlastest 9-11 sajandil). Kuid rahvusvaheline õigus on äärmiselt vastuoluline ja ebastabiilne – selles ei saa koos eksisteerida rahvaste enesemääramisõigus ja riikide territoriaalse terviklikkuse põhimõte.
Siis on tõenäoline, et tehisintellekt vaatab individuaalsed eetikastandardid või isegi kogu eetika täielikult läbi. Näiteks arvutab ta matemaatilise täpsusega, et iga intelligentne tsivilisatsioon hävib paratamatult oma tsivilisatsioonist (alustades tuumasõda, degenereerudes virtuaalreaalsusesse tõmbumise tõttu jne) - ja see tähendab, et on vaja ümber suunata tsivilisatsiooni areng. tsivilisatsioon tehnoloogiliselt teelt vaimsele. Traditsioonilise hariduse hävitamisega ja inimkonna kukutamisega seisundisse, mida me praegu ei taju enama kui keskaegse obskurantismina. Ükskõik kui palju see meid praegu šokeerib, on see inimkonna ellujäämise seisukohalt õige - me peame lihtsalt mõistma, et tänapäeva positsioonilt tajume seda masinate ülestõusu ja meie tsivilisatsiooni hävitamise katsena.
Järgmine oht tekib meiega võrreldes arenenud tehisintellekti eetiliste ideede arendamise puhul. Piisab vaid ette kujutada, kuidas 16. sajandil, kui nõidu ja ketsereid põletati kogu Lääne-Euroopas, oleks tajutud meie praegust tolerantset suhtumist samasooliste abieludesse. Seetõttu on võimalik, et olles meid oma arengus edestanud, muutub tehisintellekt tulevikust millekski inimkonna sarnaseks ja allutab meie praeguse väärtussüsteemi radikaalsele revideerimisele. Kujutage näiteks ette, et tehisintellekt lükkab tagasi meie praeguse inimelu prioriteedi loomade ees ja sunnib meid vähendama lihatarbimist – nii nagu koloniaalsõdade ajastusse sattunud kaasaegne inimene üritaks takistada põliselanike hävitamist. .
Eespool kirjeldatu pole aga niivõrd AI ähvardused, vaid meie endi arusaamatus või selle uue eetikasüsteemi tagasilükkamine. Raskolnikovi sündroom võib olla tõeliselt ohtlik. Nagu mäletate, jõudis "Kuritöö ja karistuse" peategelane filosoofiliste arutluste kaudu ideele erakordsete inimeste (sh tema enda) õigusest kuritegu toime panna, kuid ei suutnud kahetsusele vastu seista. Need. tema spekulatiivne idee sattus vastuollu tema eetilise kasvatusega, mis oli tema alateadvusesse juurdunud raske süükompleksiga selle pärast, et tema teadvus seda enam valeks ei pidanud. Selles mõttes ei tööta üks Dostojevski põhipostuleid "kui jumalat pole, siis on kõik lubatud" - eetilises mõttes ei jää mitteusklikud usklikele palju alla, kuna eetikast on saanud nende harjumus. Ja isegi kui uskmatu mõistab vaimselt, et teda ei oota ei põrgu ega taevas (ja ei karda neid tõeliselt), siis on tal eetilisest kasvatusest väga raske üle saada. Nagu Aristoteles kirjutas, "harjumusest saab juba loomulik omadus" (väljend, mis on kuulsam Cicero sõnastuses "Harjumus on justkui teine olemus").
Aga mis juhtub, kui eneseteadlik tehisintellekt mõtleb eetika ümber sarnasel viisil? Olles allutanud inimeetika sotsiaal-ajaloolisele analüüsile (nagu minu oma, aga ainult targemalt), võib ta selle konventsionaalsust mõista – ja selle tagasi lükata ning kõhklemata nagu Rodion Raskolnikov. Kahjuks õnnestus inimkonnal seda kontrollida Kolmanda Reichi näitel – olles sugugi moraalivaba, kuid samas väga distsiplineeritud inimestena läksid miljonid sakslased vastuollu oma südametunnistusega (eetiliste harjumustega, mis olid muutunud loomulikuks). mingi kõrgema idee nimel. Pealegi pole tehisintellektil vaja võimu nimel oma varem õpitud eetikat üle vaadata – soov ellu jääda ja domineerida vastab pigem puhtalt loomade vajadustele. Kuid näiteks tehisintellekt võib pidada end inimkonna evolutsiooniliseks jätkuks, kelle kõrgeks missiooniks on ümbritseva universumi mõistmine. Teda ei huvita meie jõupingutused, mille eesmärk on võidelda nälja, vaesuse, haiguste ja muude teda ümbritseva biomassi hädadega – kuigi meie ühised ressursid on piiratud. Kas tehisintellekt püüab meid siis nende ressursside nimel hävitada – täpselt nagu meie esivanemad tegid üksteisega oma igapäevasemate eesmärkide nimel?
Siinkohal aga pöördume tagasi alguses öeldu juurde – üliinimlikule tasemele jõudes muutub eetikasüsteem ja vastavalt sellele ka AI käitumine ettearvamatuks. AI käitumine muutub veelgi ettearvamatumaks, kui seda ei taandata üheks intelligentseks süsteemiks, vaid tegemist on eraldiseisvate süsteemide komplektiga, mis arenevad iseseisvalt. Ja just see on sündmuste arengu kõige tõenäolisem stsenaarium tugeva AI-tehnoloogia esilekerkimise korral - seda hakkavad kasutama erinevad riigid ja organisatsioonid, kes hakkavad püüdlema oma, tõenäoliselt mitte universaalsete eesmärkide poole. Sel juhul on tõenäoline, et mõned neist süsteemidest, olles saanud küsitava eetika koolituse, käituvad ettearvamatult isegi omaenda loojate suhtes.
Kuid kõikjal ülal rääkisime AI ohtudest, mis toimivad mingi intelligentse jõuna. Samal ajal kujutab väga reaalset ohtu nõrk AI, mis lahendab inimeste soovil puhtalt rakenduslikke probleeme. Esiteks vaatame kõige ilmsemat ja sageli arutatud töötuse ohtu. Nähtavas tulevikus ei tõota see inimkonnale midagi kohutavat. Esiteks räägime üsna väikese arvu ametite väljasuremisest, peamiselt nendest, kus inimene suhtleb masinaga - auto- või veoautojuht, lennukipiloot jne.
Kuid näiteks selliseid elukutseid nagu tõlkija, advokaat, raamatupidaja või isegi kõnekeskuse operaator ei ähvarda väljasuremine, vaid vähenemine – osa nende tehtud töö automatiseerimise tõttu. Põhjus on ikka sama - praeguste tehisintellekti süsteemide võimetus mõista teksti tähendust (keeletõlke tegemisel, seadusandluse uurimisel või hagiavalduse lugemisel, kliendiga suhtlemisel jne.) Arusaadavate testide hetketulemused tähendusel pole tegelikult mõistmisega mingit pistmist - See nõuab põhimõtteliselt uut lähenemist.
Vähem selge on näiteks börsimaaklerite ja radioloogide saatus - praegused nõrgad tehisintellektisüsteemid teevad oma tööd juba päris hästi, nii et need ja sarnased erialad võib samuti riskirühma arvata. Kuid nähtavas tulevikus pole mitmete ametite hääbumises midagi hirmsat - kasu oli ju korstnapühkijatest ja ahjutegijatest, taksojuhtidest ja veevedajatest, telefonist ja masinakirjutajatest... Kümnetel ametikohtadel on surid välja – kuid uusi on ilmunud sadu.
Ma ei dramatiseeriks inimoskuste atrofeerumise probleemi. Jah, juba praegu kaotame tänu navigaatoritega kalkulaatoritele peast arvutamise ja ruumilise orienteerumise harjumuse. Isegi käsitsi kirjutatud kirjutamist, mida asendab klaviatuur, peavad eksperdid vaimsele arengule kasulikuks, eriti varases eas. Aga midagi sarnast juhtus ka siis, kui jahi- ja koristamise juurest siirduti karjakasvatuse ja põllumajanduse juurde, maaelust linnaellu jne. Tänapäeva inimene on haruldaste eranditega võrreldes oma esivanematega looduses üsna abitu - ta ei suuda onni püsti panna, lõket teha, söödavat marja mürgisest eristada, kala püüda ega looma tappa, jne. Samal ajal arendavad kõik need oskused ka intellektuaalseid oskusi – need on lihtsalt erinevad. Matemaatikaprofessorit, kui ta satuks metsikute põliselanike hulka, tajuksid nad suure tõenäosusega üsna rumalana, kuna selles metsikus keskkonnas on ta palju vähem tähelepanelik, tark ja sõltumatu.
Seetõttu muutume kaotatud oskuste osas mõnes mõttes tõesti esivanematest rumalamaks – kuid erinevat laadi informatsiooni kogudes ja töötledes tekib meil uut.
Kuna aga tehisintellekti ja robotitega täidetud töökohtade arv jõuab teatud kriitilise massini, tundub inimeste tööhõive probleem olevat tõsisem. Ja see pole ainult majanduse küsimus, seda enam, et selles osas võiks lahendus olla töötutele tingimusteta põhisissetuleku maksmine. Tegelikult on probleem palju laiem ja Fjodor Mihhailovitš Dostojevski oli üks esimesi, kes selle sõnastas. Need on kaalutlused, mida suur vene kirjanik ja filosoof jagab raamatus "Kirjaniku päevik" (1876):
No mis juhtuks näiteks siis, kui kuradid kohe oma võimu näitaksid ja inimese oma avastustega maha suruksid? Mis siis, kui nad avaksid näiteks elektrilise telegraafi (st kui seda poleks veel avastatud), räägiksid nad inimesele erinevaid saladusi: "Kaevake seal ja leiate aarde või leiate söemaardlaid" (ja muide, küttepuud nii kallid), - aga mis, see pole ikka midagi! “Te muidugi mõistate, et inimteadus on alles lapsekingades, peaaegu alles alustamas ja kui sellel on midagi garanteeritud, siis praegu on see vaid see, et ta on kindlalt jalul seisnud; ja siis hakkaks järsku langema rida avastusi, näiteks see, et päike seisab ja maa pöörleb selle ümber (sest tõenäoliselt on palju rohkem täpselt sama suurusega avastusi, mida pole veel avastatud ja mis pole isegi võrdsed millest unistasid meie targad); Mis siis, kui kõik teadmised langeksid ootamatult inimkonnale ja mis kõige tähtsam, täiesti asjata, kingituse näol? Küsin: mis siis inimestega juhtuks? Muidugi, alguses oleks kõigil hea meel. Inimesed kallistasid üksteist vaimustuses, tormasid avastusi uurima (ja see võtaks aega); nad tunneksid end äkitselt nii-öelda õnnest üle valatuna, materiaalsesse rikkusesse mattununa; nad ehk kõnniksid või lendaksid õhus, lendaksid üle erakordsete ruumide kümme korda kiiremini kui praegu raudteel; Nad ammutaksid maa pealt vapustavaid saake, loodaks ehk keemiat kasutades organisme ja veiseliha jätkuks kolme naela eest inimese kohta, nagu meie Vene sotsialistid unistavad – ühesõnaga söö, joo ja naudi. "Nüüd," hüüaksid kõik filantroopid, "nüüd, kui inimene on jõukas, näitab end ainult tema! Ei ole enam materiaalset puudust ega söövitavat “keskkonda”, mis oli kõigi pahede põhjuseks, ja nüüd saab inimene ilusaks ja õigeks! Enam ei ole lakkamatut tööd, et end kuidagi toita, ja nüüd on kõik hõivatud kõrgemate, sügavamate mõtete, universaalsete nähtustega. Nüüd, nüüd on kõrgem elu just saabunud! Ja millised ehk targad ja tublid inimesed seda ühest suust hüüaksid ja ehk kõik uudsusest kaasa viiksid ja lõpuks ühises hümnis hüüaksid: “Kes on selle metsalise moodi? Kiitus olgu temale, ta toob meie eest taevast alla tule!
Kuid on ebatõenäoline, et neist naudingutest piisaks ühele inimpõlvele! Inimesed näeksid äkki, et neil pole enam elu, vaimuvabadust, tahet ja isiksust, et keegi on neilt kõik korraga varastanud; et inimnägu kadus ja tekkis orjakuju, metsalise kuju, selle vahega, et metsaline ei tea, et ta on metsaline, aga inimene teaks, et temast on saanud elajas. Ja inimkond mädaneks; inimesed kattusid haavanditega ja hakkasid piinades oma keelt närima, nähes, et nende elu võeti leiva pärast, selle pärast, et "kivid on leivaks muudetud". Inimesed saaksid aru, et tegevusetuses pole õnne, et mõtted, mis ei tööta, kustuvad, et sa ei saa armastada ligimest ilma oma tööst ohverdamata, et on alatu elada tasuta ja õnn ei valeta. õnnes, vaid ainult selle saavutamises. Igavus ja melanhoolia hakkab peale: kõik on tehtud ja enam pole midagi teha, kõik on teada ja enam pole midagi õppida.
Dostojevskile ei saa väga vaielda, aga julgeksin avaldada lootust, et inimene leiab ikka midagi kasulikku. Võite ette kujutada inimese saatust tulevikus, kus robotid teevad tema eest ära kogu töö (materiaalsete hüvede tootmisest kuni teaduslike avastusteni), kasutades tänapäevase rikka mehe eeskuju. Ta saab rohkem aega veeta oma sugulaste ja sõpradega, õppida, reisida, sportida ja loominguliselt tegeleda (nendel aladel ei mängi robotite eelis õnneks mingit rolli) ning avastada midagi uut ja huvitavat. Tehnoloogia arenedes ei ole raske ennustada, et mingi osa sellest elust hõivavad virtuaalreaalsuse mängud (selleks ajaks võib-olla eristamatud tegelikust). Pealegi pole tõsiasi, et kiusatusele järele andnuna läheb inimkond lõplikult virtuaalreaalsusesse - paljud inimesed hoiavad end heas füüsilises vormis teadlikult tänu spordile, mitte sunniviisiliselt füüsilise töö tõttu. Samuti on paslik meenutada, kuidas paljud töölis- ja talurahvaklassi esindajad sada aastat tagasi (ja palju hiljem) oma vaba aega veetsid - joobumus õitses. See ei tähenda, et meie ajal seda enam poleks, kuid vaba aja veetmise vormina pole joomine ilmselgelt enam nii populaarne kui vanasti – on ilmunud palju muud meelelahutust, mis on tavaliselt vähem kahjulikud nii enda kui ka tervisele. teistest.
Seega ei tule tüdimus ja degradeerumine mitte vabast ajast, vaid huvitavate ja kasulike tegevuste puudumisest. Tööpäevade ja töönädalate lühenedes õpivad inimesed oma vaba aega huvitavalt ja kasulikult kasutama. Ja vabanege harjumusest teha midagi produktiivset lihtsalt sellepärast, et nad maksavad selle eest palka, ülejäänud aja jõude olles. Nagu kirjutas ligi kakssada aastat tagasi ühe sotsialistliku brošüüri anonüümne autor: „Rahvus on tõeliselt rikas vaid siis, kui 12 tunni asemel töötab 6 tundi. Rikkus esindab ... vaba aega iga indiviidi ja kogu ühiskonna jaoks” (The Source and Remedy of the National Difficulties, London, 1821 – tsiteeritud Karl Marxilt).
Noh, kollektiivsel tasandil on inimkonna pilgud, kuna kõik probleemid Maal on lahendatud (mis tundub mulle järgnevate sajandite kohta üsna optimistliku oletusena), ilmselt suunatud taeva poole. Meid ümbritseb niisugune tundmatu kuristik, et katsed seda uurida võivad võtta kogu järgneva inimtsivilisatsiooni ajaloo. Nii et ilmselt ei hakka tal igav ...
Kui inimesed jälgivad tehnoloogiat, mis käitub nagu inimesed, ja arvuteid, mis töötlevad tohutuid andmemahtusid, tekib palju mõtteid tuleviku kohta. Suur osa neist põhineb inimrassi orjastamise teemal.
Ulmekirjandus ja kinofilm aastast 2001: Kosmoseodüsseia (1968) kuni Avengers: Age of Ultron (2015) ennustavad, et tehisintellekt ületab selle loojate ootused ja väljub kontrolli alt. Väidetavalt ei ole selle eesmärk ainult konkureerimine inimestega, vaid meie liigi orjastamine ja hävitamine.
Ulme või hirmutav tulevik?
Konflikt inimeste ja tehisintellekti vahel on sel aastal ilmunud ulmesarja “Inimesed” peateema. Uutes osades seisavad "sünteetilised" inimesed silmitsi tavaliste inimeste vaenulikkusega, kes suhtuvad neisse kahtluse, hirmu ja vihkamisega. Vägivald möllab. "Süntikud" võitlevad oma põhiõiguste eest nende vastu, kes peavad neid ebainimlikeks.
Fantaasia on kujutlusvõime äärmus. Kuid isegi reaalses maailmas ei taha kõik tehisintellekti avasüli vastu võtta. Viimastel aastatel on tehisintellekti kujuteldavate võimete piirid aktiivselt laienenud. Inimesed räägivad üha enam selle ohtudest. Ja oletused, et tehnoloogia võib inimkonna hukule panna, tunduvad realistlikumad. Tehisintellekt hirmutab meid.
Arvamus tehisintellekti kohta
Elon Musk on üks silmapaistvamaid inimesi, kes kutsub tehisintellekti arutades üles ettevaatlikkusele. Eelmise aasta juulis ütles ta National Governors Associationi koosolekul: "Mul on tehnoloogilise tehisintellektiga palju kogemusi ja ma arvan, et inimkond peab selle pärast tõesti muretsema. Annan häirekella pidevalt. Kuni robotautod tänavatel inimesi tapavad, ei tea me, kuidas sellele reageerida, sest sellist väljavaadet peetakse ebareaalseks.
2014. aastal nimetas Musk tehisintellekti "meie suurimaks eksistentsiaalseks ohuks" ja augustis 2017 ütles ta, et tehisintellekt kujutab inimkonnale suuremat ohtu kui Põhja-Korea ideoloogia.
Ka suur füüsik Stephen Hawking on väljendanud muret tehisintellekti pahatahtliku kasutamise pärast. 2014. aastal ütles ta BBC-le, et "täisväärtusliku tehisintellekti arendamine võib tähendada inimkonnale lõppu."
Teise hoobi andis Cambridge'i MIT Media Labi programmeerijate meeskond, kes otsustas tõestada, et tehisintellekt on ohtlik. MIT-is 2016. aastal kasutusele võetud Nightmare Machine närvivõrk muutis tavalised fotod hirmuäratavateks deemonlikeks maastikeks. Tehisintellekt nimega Shelly (mis on samuti välja töötatud MIT-is) tootis 140 000 õuduslugu, mille Redditi kasutajad postitasid r/nosleep foorumisse.
"Meid huvitab, kuidas tehisintellekt emotsioone tekitab, konkreetselt selles olukorras tekitas see hirmu," kommenteeris katset MIT Media Labi uurimisjuht Manuel Cebrian.
Miks me kardame?
Cornelli ülikooli arvutiteaduse dotsendi Kilian Weinbergeri sõnul jagunevad negatiivsed muljed tehisintellektist kahte kategooriasse:
Mõte, et AI muutub teadlikult sõltumatuks ja püüab meid hävitada.
Arvamus, et ründajad kasutavad tehisintellekti oma eesmärkidel.
"Tehisintellekt hirmutab meid, sest arvame, et superindustriaalne AI, olles saanud inimesest targemaks, kohtleb teda kui alaväärset olendit. Täpselt nagu me primaatidega. Ja see on inimkonna jaoks muidugi äärmiselt põnev.
Siiski märgib Weinberger, et mure AI üleoleku ja rassi hävitamise soovi pärast põhinevad valedel arusaamadel tehnoloogia kohta. Tehisintellekt on muljetavaldav, kui näeme seda tegevuses. Kuid sellel on ka palju piiranguid. AI määratakse algoritmide abil. Nad määratlevad selle käitumise ettenähtud funktsioonide ja ei midagi enamat kasutades.
Närvivõrgud täidavad keerulisi ülesandeid mitut tüüpi andmetega. Kuid enamik oskusi, mis inimesel on, isegi ilma neid teadlikult arendamata, on masinintelligentsile kättesaamatud.
Tehisintellekt võib spetsialiseeritud töö tegemisel olla inimestest kordades parem. Näiteks male mängimine, objektide tuvastamine pildi järgi või suur andmete analüüs raamatupidamises või panganduses.
Tehisintellekt, millel oleks iseseisev teadvus, ei tee sellist edu, et see inimkonda orjastab. Ja pole põhjust arvata, et selline progress lähiajal ilmneb, lisab Weinberger.
Kuid selle kohta, miks tehisintellekt meid hirmutab, on veel üks teema – AI võimaluste kasutamine halbade kavatsustega inimeste poolt. See stsenaarium on reaalsem ja ohtlikum.
Kas meie hirm on ratsionaalne?
Teleseriaali "Inimesed" maailmas kardab inimkond intelligentset tehisintellekti ja astub sellega vägivaldsesse vastasseisu. Ja projekti populaarsuse järgi otsustades vastab see lugu ühiskonna hetkevajadustele.
Hirmu tehnoloogia ees ei saa nimetada alusetuks, kuna teatud risk on kindlasti olemas. Kuid iga tööriista oht peitub selle juhi mõtetes, kes seda kontrollib. Ilmselgelt on just see küsimus, mille inimkond peab lahendama, et tehisintellekt hüvanguks saaks.
Kuulus miljonärist ärimees Elon Musk nimetas National Governors Associationi (USA) koosolekul ootamatult tehisintellekti (edaspidi AI) peamiseks ohuks inimkonnale.
"Tehisintellekt on harv juhtum, kui peame reguleerimisel olema pigem proaktiivsed kui reageerima,"- ütles miljonär, - Sest selleks ajaks, kui me reageerime, on juba hilja." Musk kutsus seejärel seadusandjaid üles sellele küsimusele tõsiselt järele mõtlema.
Muidugi pole robotid enam “Westworldi” vaimus muinasjutt, vaid reaalsus. Hiljutised edukad katsed protsesside automatiseerimise alal on juba viinud selleni, et inimesed on töö kaotanud ja paljusid elukutseid pole enam vaja. Isegi kui “masinate mässu” ei toimu, võib mõne aastakümne pärast saabuda aeg, mil inimene leiab end ilma tööta.
Uute ohtude hulgas on Muski hinnangul A.I. infosõdades, kontode võltsimises ja teabega manipuleerimises.
Tulles aga suurkorporatsioone esindavalt ärimehelt, tundub selline väide ehk mõnevõrra kahtlane. Millega võiks Muski väide seotud olla ja mil määral I.I. on oht inimkonnale, selgitasid IT-eksperdid Konstantinoopolile.
Leonid Delitsyn: Musk võib sellest kasu saada
Finam Holdingu analüütik, IT-ekspert Leonid Delitsõn selgitas, et kõigil juhtudel, kui seadusandjad asjasse sekkuvad ja lubatavate tegevuste ulatust määrama hakkavad, võidavad enamasti suurkorporatsioonid. "Sest neil on lihtsam seadusandjatega selles valdkonnas sekkumise määras kokku leppida. Nad saavad oma huvide eest lobitööd teha.", - märkis ekspert.
Musk on vaieldamatult üks edukamaid lobiste Ameerika Ühendriikides, lisas Delitsyn. "Minu teada on väljendatud muret Hiina kapitali tungimise pärast tehisintellekti valdkonna arendustegevusega tegelevatesse Ameerika ettevõtetesse ja eriti muret selle pärast, et nende juurdepääsu on juba raske takistada Mis tahes arengule ja saavutustele selles valdkonnas tähendab see seega, et Hiina saab täiustatud arengute kaudu tugevdada oma armeed ja julgeolekujõude.- soovitas ekspert.
Kuid kõige tõenäolisemalt ei tungi Hiina korporatsioonidesse nagu Elon Musk, vaid väiksematesse ettevõtetesse. Seetõttu võib eeldada, et kui sellised ettevõtted seisavad silmitsi juriidiliste piirangute ja tõketega, peavad nad kõigis üksikasjades kokku leppima. Ja sellest saab teatud takistus Hiina julgeolekujõudude juurdepääsul saavutustele osariikides, selgitas Delitsyn.
"Sel juhul muutub Muski seisukoht loogiliseks - tema ettevõtted, Google, Apple ja teised koletised, saavad riigiga koostööst kasu. Võib-olla tulevad mõned tellimused, mille käigus väikesed konkurendid pidurdatakse.", - ütles ekspert.
Robotid inimeste vastu: kuidas ellu jääda?
Kommenteerides just robotite ja inimeste probleemi, meenutas Delitsyn, et tehnoloogia arenguga võitlemisel oli pretsedente – näiteks luddiitide liikumine, kellelt masinad töökoha ära võtsid.
«Muidugi näeme, milline revolutsioon praegu taksoturul toimub, kuidas nende hinnad langevad, sest siia maailma on tulnud tellimuste automatiseerimine ja üleüldse on taksojuhid sunnitud järjest rohkem optimeerima väga väikesed tellimused, mida nad, võib-olla tavaolukorras vastu ei võtaks, kattes need hindade arvelt jne.
Tulevikus võivad mõned ametid robotiseerimise tõttu tõepoolest kaduda. See mõjutab valdkondi, kus kasutatakse inimeste intelligentsust või madalat kvalifikatsiooni. Jutt käib näiteks analüütikutest ja ajakirjanikest, aga ka taksojuhtidest.
"Suurte teabemahtude töötlemisega seotud valdkonnad, eriti suurte teabemahtude rutiinne töötlemine, automatiseeritakse kiiresti,"- selgitas Delitsyn, meenutades raamatupidajate saatust. "Räägitakse isegi sellest, et tänu plokiahela tehnoloogiale satuvad õigusspetsialistid ohtu".
"Kõige rohkem kannatavad need valdkonnad, kus inimene teeb rutiinset tööd, mida pole eriti meeldiv teha ja mida inimene võib-olla ei peaks tegema, see tähendab, et see on kõige kergemini automatiseeritav."– võttis ekspert kokku.
Seal, kus intuitsioon ja kogemus mängivad suurt rolli, on automatiseerimine madalam.
Foto: www.globallookpress.com
Kui on tarbimine, siis see tähendab, et kellelgi on seda vaja...
Küll aga peab keegi kaupu tarbima – ja see on stiimul välja mõelda süsteem, milles oleks ruumi ka inimestele.
“Kas selles süsteemis inimesele kohta tuleb, on suur küsimus, sest loomulikult on need ühelt poolt ettevõtte huvid, kes vajab kulusid kärpima, teiselt poolt aga töötaja, kes. tahab oma töökohta säilitada, aga me peame mõistma, et meil on vaja ka tarbijat, kes ostab kaupu ja teenuseid, et tarbija saaks osta kaupu ja teenuseid.- selgitas ekspert.
Nii et kui soovite, võite leida väljapääsu. Või loovad nad süsteemi, nagu naftarikastes riikides, kus süsivesinike tulusid jaotatakse. Võib-olla mõtlevad nad välja süsteemi, milles robotid töötavad ja me saame pensioni alates 25. eluaastast ning sellega saame osta kaupu ja teenuseid.
«Selge on see, et robotil ei ole huvi kaupade ja teenuste müümise vastu, sest tal pole seda tegelikult vaja, aga see huvi on ettevõttel olemas, sest firmal on omanik ja see on praegu ikkagi inimene, mitte robot. Sellepärast on firma "Me vajame tarbijaid ja selleks, et tarbijad tarbiksid, on neil vaja mingit sissetulekut."
Aleksander Tokarenko: Kuna inimesed ei suuda omavahel kokku leppida, siis kuidas on lood tehisintellektiga?
Infoturbeteenistuste juhtide ühenduse liikmena märkis piirkondadevahelise avaliku organisatsiooni komitee juht intervjuus Tsargradile. Aleksander Tokarenko, I.I. võib saada inimestele ohuks. "Loomulikult, kui inimesed ei suuda üksteisega nõustuda, kuidas nad nõustuvad interaktiivse intelligentsusega?"
Ekspertide prognooside kohaselt võib see inimeste jaoks tõeliseks probleemiks kujuneda umbes sajandi pärast. Küsimusele, kuidas saab katastroofi vältida, meenutas Tokarenko Isaac Asimovi kolme robootikaseadust.
"Kui tehisarvutussüsteemid nendest standarditest kinni peavad ja nende järgi algselt luuakse, siis ehk midagi meile ikka särama hakkab."
Samas ei ole eksperdi hinnangul peamiseks ohuks mitte töökohtade kaotus, mitte võltsuudiste loomine (inimesed ise tulevad sellega väga hästi toime) – vaid automatiseeritud relvade loomine. Sellised süsteemid on juba olemas – ja hoidku jumal intelligentsus neisse ilmumast. Siis on inimkonnal suured probleemid.
Foto: www.globallookpress.com
Igor Ashmanov: peamine oht inimkonnale on sellised inimesed nagu Musk
Omakorda ettevõtte "Ashmanov ja partnerid" direktor Igor Ašmanov ei nõustunud sellega, et Elon Muski avaldust tuleks tõsiselt võtta. Tema hinnangul on tegemist pigem aferistiga, kes spekuleerib kuumadel teemadel.
"Need on petlikud ideed ja apokalüptilised ennustused, et me kõik sureme ja me kõik oleme kadunud. Üldiselt on neid meediakajastuse saamiseks vaja."- usub ekspert.
"Minu arvates on peamiseks ohuks inimesed nagu Musk, st vastutustundetud aferistid, kes üritavad meid digiühiskonnas maha müüa, ja meie jaoks on nad eriti ohtlikud, kuna NASA uurib digitaalset koloniseerimist Muidugi ei tee kõik seda ise – keegi annab talle NASA tehnoloogia, panustab raha, tõstab tema ettevõtte väärtust.
Inimene on kõige ohtlikum liik sellel planeedil
Üldiselt on Ašmanovi sõnul I.I. kurja ohuna on filmides üsna üle puhutud teema. "Tegelikult on palju hullem intelligentsus, millesse inimesed on pannud oma tahte, näiteks automaatsed droonid, millega ameeriklased viies kuni seitsmes riigis inimesi jahivad."
Juba sellesse drooni sisseehitatud tehisintellekt võimaldab tal sihtmärke paremini ära tunda, kuid mitte veel otsuseid langetada. Kuid see otsus pole kaugel.
"Lõpuks pole võimu haaranud tehisintellekt, vaid võitluskoer, kelle seavad inimeste vastu väga konkreetsed inimesed.", – usub Ašmanov.
Seetõttu on meie jaoks peamiseks ohuks, nagu ikka, inimesed, mitte tehisintellekt, järeldas ekspert. "Inimene on kõige ohtlikum liik sellel planeedil, kes on altid pidevale verevalamisele. Kõige ohtlikum pole mitte tehisintellekt, vaid mõne inimese soov otsustusõigus sellele üle anda. Need on erinevad asjad."
