Jarida maarufu la mtandaoni la Amerika Wired lilichapisha maandishi ya kupendeza sana ya Kevin Kelly, ambayo anakosoa kabisa wazo la hatari za akili ya bandia. "NI" huchapisha tafsiri ya nyenzo hii, kufanywa kwa kutumia chaneli ya telegramu ya Newochem yenye upunguzaji mdogo.
“Nimesikia kwamba siku za usoni kompyuta zenye akili ya bandia zitakuwa na akili nyingi kuliko binadamu kiasi kwamba zitatunyima kazi na rasilimali, na hatimaye ubinadamu utafikia mwisho. Lakini je! Ninaulizwa swali kama hilo kila wakati ninapozungumza juu ya AI.
Waulizaji wako makini zaidi kuliko hapo awali, wasiwasi wao kwa kiasi fulani kutokana na wasiwasi wa baadhi ya wataalam ambao wanateswa na swali hilo hilo. Hawa ni pamoja na watu werevu zaidi wa wakati wetu - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris na Bill Gates.
Wote wanakubali uwezekano wa hali kama hiyo. Katika mkutano wa hivi majuzi wa AI, jopo la gurus tisa walioelimika zaidi katika uwanja huo alikuja kwa hitimisho la pamoja kwamba uumbaji wa akili isiyo ya kawaida ni jambo lisiloepukika na liko karibu tu.
Na bado, hali ya utumwa wa ubinadamu kwa akili ya bandia inategemea mawazo matano, ambayo, juu ya uchunguzi wa karibu, yanageuka kuwa haijathibitishwa. Taarifa hizi zinaweza kuwa kweli katika siku zijazo, lakini kwa sasa hazina uthibitisho.
Hizi hapa:
- Akili ya Bandia tayari inakuwa nadhifu kuliko akili ya mwanadamu, na mchakato huu ni mkubwa.
- Tutatengeneza madhumuni ya jumla ya AI sawa na yetu.
- Tunaweza kuunda akili ya mwanadamu kutoka kwa silicon.
- Akili inaweza kuwa isiyo na kikomo.
- Kuundwa kwa ujasusi mkubwa kutatatua shida zetu nyingi.
Tofauti na machapisho haya ya kiorthodox, naweza kutaja uzushi ufuatao uliothibitishwa:
- Akili haina mwelekeo mmoja, kwa hiyo "mwerevu kuliko mtu" ni dhana isiyo na maana.
- Watu hawajapewa akili ya kusudi la jumla, ambayo sio tishio kwa akili ya bandia pia.
- Ushindani kati ya wanadamu na kompyuta utapunguzwa na gharama.
- Akili haina kikomo.
- Kuunda AI ni sehemu tu ya maendeleo.
Ikiwa imani ya utumwa wa wanadamu kwa akili ya bandia inategemea mawazo matano yasiyo na msingi, basi wazo hili linafanana zaidi na imani za kidini - hadithi. Katika sura zinazofuata, nitaongezea hoja zangu kwa mambo ya hakika na kuthibitisha kwamba akili bandia inayopita ubinadamu kwa kweli ni hadithi tu.
Dhana potofu ya kawaida kuhusu AI inatokana na mtazamo maarufu sawa wa akili asilia kwamba ni ya mwelekeo mmoja. Katika sayansi ngumu, nyingi zinaonyesha akili jinsi Nick Bostrom alivyofanya katika kitabu chake Superintelligence - kihalisi kama grafu ya mstari wa mwelekeo mmoja na amplitude inayoongezeka.
Kwa upande mmoja kuna viumbe wenye kiwango cha chini cha akili, kwa mfano, wanyama wadogo, na kwa upande mwingine - fikra, kana kwamba kiwango cha akili sio tofauti na kiwango cha sauti iliyopimwa katika decibels. Bila shaka, katika kesi hii, ni rahisi kufikiria ongezeko zaidi ambalo kiwango cha akili kinazidi hatua ya juu ya grafu na hata huenda zaidi yake.
Mtindo huu ni sawa na topologically na ngazi, juu ya hatua ambazo viwango vya akili vinapangwa kwa utaratibu wa kupanda. Wanyama wasio na akili kidogo huchukua safu za chini za ngazi, na akili ya bandia ya kiwango cha juu itawekwa juu yetu. Muda wa wakati hii itatokea haijalishi. Muhimu zaidi ni hatua za uongozi wenyewe - metriki za kuongezeka kwa akili.
Shida ya mtindo huu ni kwamba ni ya kizushi, kama mfano wa ngazi ya mabadiliko. Kabla ya Darwinism, asili hai iliwakilishwa kama ngazi ya viumbe hai, ambapo mwanadamu alichukua hatua juu ya wanyama wa zamani zaidi.
Na hata baada ya Darwin, ngazi ya mageuzi inabaki kuwa moja ya dhana za kawaida. Inaonyesha mabadiliko ya samaki kuwa reptilia, wao kuwa mamalia, na nyani kuwa binadamu. Aidha, kila kiumbe kinachofuata kinaendelezwa zaidi (na, bila shaka, akili zaidi) kuliko mtangulizi wake. Kwa hivyo, ngazi ya akili inahusiana na ngazi ya ulimwengu. Hata hivyo, mifano yote miwili inaonyesha maoni ya kupinga kabisa kisayansi.
Mchoro sahihi zaidi wa mageuzi ya asili itakuwa diski inayoangaza nje, kama kwenye picha hapo juu. Muundo huu ulianzishwa kwanza na David Hillis kutoka Chuo Kikuu cha Texas, kulingana na DNA. Mandala hii ya ukoo huanza katikati na aina za maisha ya zamani na kisha matawi kwa nje. Wakati unasonga mbele, kwa hivyo aina za hivi karibuni za maisha ziko karibu na mzunguko wa duara.
Picha hii inaangazia ukweli usiokadirika kuhusu mageuzi ya umuhimu wa kimsingi - viumbe vyote vilivyo hai vimeibuka kwa usawa. Mwanadamu iko kwenye sehemu ya nje ya diski pamoja na mende, moluska, ferns, mbweha na bakteria.
Spishi zote, bila ubaguzi, zimepitia msururu usiokatika wa kuzaliana kwa mafanikio kwa miaka bilioni tatu, ambayo ina maana kwamba bakteria na mende wamebadilika sana kama wanadamu. Hakuna ngazi.
Kadhalika, hakuna ngazi ya akili. Akili haina mwelekeo mmoja. Ni ngumu ya aina tofauti na njia za kujua, ambayo kila moja ni ya kuendelea. Hebu tufanye zoezi rahisi kupima akili katika wanyama. Ikiwa akili ingekuwa ya mwelekeo mmoja, tungeweza kupanga kwa urahisi katika mpangilio wa kuongeza akili kasuku, pomboo, farasi, squirrel, pweza, nyangumi wa bluu, paka na sokwe.
Kwa sasa hakuna ushahidi wa kisayansi wa kuwepo kwa mlolongo huo. Sababu ya hii inaweza kuwa ukosefu wa tofauti kati ya kiwango cha akili ya wanyama fulani, lakini hii pia haina msingi.
Zoolojia ni tajiri katika mifano ya tofauti za kushangaza katika fikra za wanyama. Labda wanyama wote wamepewa akili ya "kusudi la jumla"? Labda, lakini hatuna zana moja ya kupima aina hii ya akili. Walakini, tunayo mifumo mingi ya kipimo kwa aina tofauti za utambuzi.
Badala ya laini moja ya desibeli, itakuwa sahihi zaidi kuonyesha akili kama mchoro wa nafasi ya uwezekano, kama katika taswira ya maumbo yanayowezekana ambayo yaliundwa na algoriti ya Richard Dawkins. Akili ni mwendelezo wa pamoja. Nodi nyingi, ambazo kila moja ni mwendelezo, huunda mchanganyiko wa utofauti mkubwa katika vipimo vingi. Aina zingine za akili zinaweza kuwa ngumu sana, na seti kubwa ya nodi ndogo za kufikiria. Wengine ni rahisi zaidi, lakini uliokithiri zaidi, wanafikia hatua kali ya nafasi.
Mitindo hii, ambayo inamaanisha kwetu aina tofauti za akili, inaweza kutambuliwa kama symphonies zinazofanywa kwa aina tofauti za vyombo vya muziki. Zinatofautiana sio tu kwa sauti, lakini pia katika wimbo, rangi, tempo, nk. Unaweza kuziona kama mfumo wa ikolojia. Kwa maana hii, vipengele mbalimbali vya nodes za kufikiri zinategemeana na huundwa kutoka kwa kila mmoja.
Kama Marvin Minsky alisema, ufahamu wa mwanadamu ni jamii ya akili. Mawazo yetu ni mfumo kamili wa ikolojia. Ubongo wetu una njia nyingi za kujua ambazo hufanya kazi tofauti za kiakili: kupunguzwa, introduktionsutbildning, akili ya kihisia, mawazo ya kufikirika na ya anga, kumbukumbu ya muda mfupi na ya muda mrefu.
Mfumo mzima wa neva wa binadamu ni sehemu ya ubongo yenye kiwango chake cha utambuzi. Kwa kweli, mchakato wa kufikiria haufanyiki na ubongo, lakini na mwili mzima wa mwanadamu.
Aina zote za mawazo hutofautiana kati ya spishi na kati ya washiriki wa spishi moja. Squirrel inaweza kukumbuka eneo halisi la acorns elfu kadhaa kwa miaka, ambayo haielewiki kabisa kwa wanadamu. Katika aina hii ya mawazo, binadamu ni duni kuliko majike. Akili ya squirrel ni mchanganyiko wa nguvu hii kubwa na aina zingine za akili ambazo wanadamu ni bora kuliko squirrels. Katika ufalme wa wanyama mtu anaweza kupata mifano mingi ya ubora wa aina fulani za akili za wanyama juu ya akili ya binadamu.
Hali hiyo hiyo imeendelea na akili ya bandia, ambayo katika maeneo mengine tayari ni bora kuliko akili ya binadamu. Kikokotoo chochote ni mtaalamu wa hisabati, na kumbukumbu ya injini ya utafutaji ya Google tayari iko bora kwa njia fulani kuliko yetu.
Baadhi ya AI hufanya shughuli za kiakili ambazo hatuna uwezo nazo. Kukumbuka kila neno kwenye kurasa bilioni sita za wavuti ni kazi ngumu kwa wanadamu na upepo kwa injini za utafutaji. Katika siku zijazo, tutaunda njia mpya kabisa za kufikiri ambazo hazipatikani kwa wanadamu na hazipo katika asili.
Wavumbuzi wa ndege waliongozwa na kukimbia kwa asili - kupiga mbawa. Walakini, baadaye bawa la kudumu lililo na propela zilizounganishwa nayo liligunduliwa, na hii ilikuwa kanuni mpya kabisa ya kukimbia, ambayo haikupatikana katika maumbile.
Hivi ndivyo tunavyobuni njia mpya za kufikiria ambazo hakuna spishi zingine zinazoweza. Uwezekano mkubwa zaidi, hizi zitakuwa kanuni zinazotumika tu kwa shida maalum: kwa mfano, miundo mpya ya kimantiki ambayo inahitajika tu katika takwimu na nadharia ya uwezekano.
Aina mpya ya kufikiri itasaidia kutatua matatizo ambayo akili ya mwanadamu haiwezi kukabiliana nayo. Baadhi ya maswali magumu zaidi katika biashara na sayansi yanahitaji masuluhisho ya hatua mbili. Hatua ya kwanza ni kuvumbua njia mpya ya kufikiri asilia. Ya pili ni kuanza kutafuta majibu pamoja na AI.
Watu wataanza kuzingatia AI kuwa nadhifu kuliko wao wenyewe ikiwa inaweza kusaidia kutatua matatizo ambayo hayawezi kutatuliwa hapo awali. Kwa kweli, mawazo ya AI sio bora kuliko yetu, ni tofauti tu. Ninaamini kuwa faida kuu ya akili ya bandia ni kwamba ina uwezo wa kufikiria kama mgeni, na ugeni huu ndio faida yake kuu.
Kwa kuongezea, tutaunda "jamii" ngumu za AI zenye njia tofauti za kufikiria. Watakuwa tata sana hivi kwamba wataweza kutatua matatizo ambayo hatuwezi kuyatatua. Kwa hivyo, watu wengine wataamua kimakosa kuwa muundo wa AI ni wenye akili zaidi kuliko wanadamu. Lakini hatufikirii kuwa injini ya utaftaji ya Google ni nadhifu kuliko mtu, ingawa kumbukumbu yake ni bora kuliko yetu.
Kuna uwezekano kwamba mifumo hii ya akili ya bandia itatupita katika maeneo mengi, lakini hakuna hata mmoja wao atakayewazidi wanadamu kila mahali mara moja. Hali kama hiyo imetokea kwa nguvu zetu za kimwili. Miaka mia mbili imepita tangu Mapinduzi ya Viwandani, na hakuna mashine ambayo imekuwa na nguvu zaidi kuliko mtu wa kawaida kwa njia yoyote, ingawa mashine kama darasa ni bora zaidi kuliko wanadamu kwa kasi ya kukimbia, kuinua uzito, kukata usahihi, na shughuli nyinginezo.
Licha ya kuongezeka kwa utata wa muundo wa AI, haiwezekani kuipima kwa kutumia mbinu za sayansi ya kisasa. Hatuna zana za kujua kama tango au Boeing 747 ni changamano zaidi, wala hatuna njia ya kupima tofauti katika uchangamano wao. Ndio maana bado hatuna vigezo sahihi vya uwezo wa kiakili.
Baada ya muda, itakuwa vigumu zaidi kuanzisha ambayo ni ngumu zaidi, na, ipasavyo, nadhifu: akili A au akili B. Kuna maeneo mengi ambayo hayajachunguzwa ya shughuli za akili, na hasa hii inatuzuia kuelewa kwamba akili sio moja- ya dimensional.
Dhana potofu ya pili kuhusu akili ya mwanadamu ni kwamba tunaamini kwamba akili yetu ni ya ulimwengu wote. Imani hii iliyoenea huathiri njia tunayochukua kuelekea uundaji wa akili bandia (AGI), ambayo ilitangazwa na wataalamu wa AI.
Walakini, ikiwa tunafikiria akili kama nafasi kubwa ya uwezekano, hatuwezi kusema juu ya hali ya kusudi la jumla. Akili ya mwanadamu haichukui nafasi fulani ya kati, na aina zingine maalum za akili hazizunguki kuizunguka.
Badala yake, akili ya mwanadamu ni aina maalum ya akili ambayo imeibuka kwa mamilioni ya miaka kwa maisha ya viumbe wetu kwenye sayari hii. Ikiwa tungetaka kuweka akili zetu kati ya aina zingine zote zinazowezekana za akili, ingeishia mahali fulani kwenye kona - kama ulimwengu wetu wenyewe, uliojikunja kwenye ukingo wa gala kubwa.
Bila shaka, tunaweza kufikiria, na wakati mwingine kubuni, aina ya kufikiri ambayo ni sawa na sifa zake kwa kisu cha jeshi la Uswisi. Anaonekana kukabiliana na kazi nyingi, lakini si kwa bang.
Hii pia inajumuisha sheria ya kiufundi ambayo vitu vyote lazima viitii, bila kujali kama viliumbwa kimakusudi au vilitokea kiasili: “Haiwezekani kuboresha vipimo vyote. Unaweza tu kupata maelewano. Mashine yenye madhumuni mengi ya kufanya kazi nyingi haiwezi kufanya kazi vizuri zaidi.
Mawazo ya kufanya-yote hayawezi kufanya kazi sambamba na watendaji maalum wa kazi maalum. Kwa sababu tunachukulia ufahamu wetu kuwa utaratibu wa ulimwengu wote, tunaamini kwamba utambuzi haupaswi kutegemea maelewano na kwamba inawezekana kuvumbua akili ya bandia ambayo inaonyesha kiwango cha juu cha ufanisi katika aina zote za kufikiri.
Walakini, sioni ushahidi wa dai hili. Bado hatujaunda idadi ya kutosha ya aina za fahamu ambazo zingeturuhusu kuona picha kamili (na kwa sasa tunapendelea kutozingatia ufahamu wa wanyama kupitia prism ya paramu moja kama aina tofauti ya fikra na amplitude tofauti).
Sehemu ya imani hii kwamba mawazo yetu ni ya ulimwengu wote iwezekanavyo inatokana na dhana ya kompyuta ya ulimwengu wote. Dhana hii iliitwa thesis ya Church-Turing mwaka 1950. Inasema kwamba mahesabu yote ambayo yanakidhi vigezo fulani ni sawa.
Kwa hivyo, kuna msingi ambao ni wa ulimwengu kwa mahesabu yote. Bila kujali ikiwa hesabu inafanywa na mashine moja yenye taratibu nyingi za haraka, na mashine yenye tija ndogo ya juu, au hata katika ubongo wa kibaolojia, tunazungumza juu ya mchakato huo wa kimantiki. Hii ina maana kwamba tunaweza kuiga mchakato wowote wa kimahesabu (kufikiri) kwa kutumia mashine yoyote inayoweza kufanya hesabu "zima".
Kwa kutumia kanuni hii, watetezi wa umoja huo wanahalalisha matarajio yao kwamba tutaweza kubuni ubongo wa bandia wenye msingi wa silicon ambao unaweza kubeba ufahamu wa mwanadamu, kwamba tutaweza kuunda akili ya bandia ambayo itafikiria sawa na mtu, lakini. kwa ufanisi zaidi. Matumaini haya yanapaswa kutibiwa kwa kiwango fulani cha mashaka, kwa kuwa yanatokana na tafsiri isiyo sahihi ya Thesis ya Kanisa-Turing.
Sehemu ya kuanzia ya nadharia hii ni: "Chini ya hali ya kumbukumbu isiyo na kikomo na wakati, mahesabu yote ni sawa." Tatizo ni kwamba kwa kweli, hakuna kompyuta ina sifa ya kumbukumbu isiyo na mwisho au wakati. Unapofanya hesabu katika ulimwengu halisi, sehemu ya saa ni muhimu sana, hadi mara nyingi inakuja kwenye maisha na kifo.
Ndiyo, aina zote za kufikiri ni sawa, ikiwa hutatenga kipengele cha wakati. Ndiyo, inawezekana kuiga mawazo ya kibinadamu katika matrix yoyote ikiwa unachagua kupuuza wakati au mapungufu ya nafasi na kumbukumbu katika hali halisi.
Walakini, ikiwa utajumuisha mabadiliko ya wakati katika mlingano huu, itabidi ubadilishe kwa kiasi kikubwa uundaji wa kanuni: "Mifumo miwili ya kompyuta inayofanya kazi kwenye majukwaa tofauti kabisa haitafanya hesabu sawa kwa wakati halisi."
Kanuni hii inaweza kurekebishwa kama ifuatavyo: “Njia pekee ya kupata njia sawa za kufikiri ni kuzitekeleza kwa msingi sawa. Njia ya kimaumbile ambayo kwayo unafanyia mahesabu yako - haswa kadiri ugumu wao unavyoongezeka - huathiri sana aina ya kufikiria kwa wakati halisi."
Kuendelea na mlolongo wa kimantiki, nitafikiri kwamba njia pekee ya kuunda aina ya kufikiri ambayo iko karibu iwezekanavyo na mwanadamu ni kufanya mahesabu kwa kutumia jambo ambalo linafanana sana na suala letu la kijivu.
Hii ina maana kwamba tunaweza pia kudhani kuwa akili ya bandia yenye wingi na changamano inayoundwa kwa msingi wa silikoni kavu itazalisha aina za kufikiri zenye utata, ngumu na zisizo za kibinadamu. Ikiwa akili ya bandia inaweza kuundwa ambayo inaendeshwa kwenye mabaki ya mvua kwa kutumia nyuroni za bandia zinazofanana na binadamu, mchakato wa mawazo wa AI kama hiyo ungekuwa karibu zaidi na wetu.
Faida za mfumo huo wa "mvua" ni sawa na ukaribu wa vyombo vya habari vya kimwili vinavyotumiwa na wanadamu. Uundaji wa dutu kama hiyo utahitaji gharama kubwa za nyenzo ili kufikia kiwango kinachofanana na kile kilicho asili ndani yetu kwa asili. Na tunaweza kuunda mtu mpya kwa njia hii - tunapaswa kusubiri miezi 9.
Pia, kama ilivyotajwa hapo awali, tunafikiri kwa nafsi yetu yote, si tu kwa ufahamu wetu. Sayansi ya kisasa ina data nyingi kuhusu jinsi mfumo wetu wa neva huathiri, kutabiri, na kubadilika katika mchakato wetu wa "mantiki" wa kufanya maamuzi. Kwa undani zaidi tunapoangalia mfumo wa mwili wa mwanadamu, ndivyo tunaweza kuuunda tena kwa uangalifu zaidi. Akili ya Bandia, inayofanya kazi kwenye dutu tofauti kabisa na yetu (silicon kavu badala ya kaboni mvua), pia itafikiria tofauti.
Sidhani kipengele hiki ni zaidi ya "kipengele badala ya mdudu." Kama nilivyobishana katika nukta ya pili ya kifungu hiki, tofauti za mchakato wa mawazo wa AI ndio faida yake kuu. Hapa kuna sababu nyingine kwa nini itakuwa mbaya kusema kwamba ni "akili kuliko ubongo wa binadamu."
Kiini cha dhana ya akili ya ubinadamu - na haswa nadharia ya uboreshaji wa kila wakati wa AI kama hiyo - ni imani ya dhati juu ya kutokuwa na kikomo kwa akili. Sijapata ushahidi wa dai hili.
Tena, dhana potofu ya akili kama mfumo unaofafanuliwa kwa mwelekeo mmoja tu inachangia kuenea kwa taarifa hii, lakini lazima tuelewe kwamba bado haina msingi. Hakuna vipimo vya kimwili visivyo na kikomo katika ulimwengu - angalau, bado havijajulikana kwa sayansi.
Joto sio usio - kuna viwango vya chini na vya juu vya baridi na joto. Nafasi na wakati pia hazina ukomo, na wala sio kasi. Pengine mhimili wa nambari unaweza kuitwa usio na kipimo, lakini vigezo vingine vyote vya kimwili vina mipaka yao. Kwa kweli, akili yenyewe pia ina kikomo.
Swali linatokea: wapi mipaka ya akili? Tumezoea kuamini kwamba kikomo ni mahali fulani mbali, kama "juu" yetu kama sisi ni "juu" ya mchwa. Ukiacha tatizo lisilotatuliwa la mwelekeo mmoja, tunawezaje kuthibitisha kwamba bado hatujafikia kikomo? Kwa nini hatuwezi kuwa taji la uumbaji? Au labda tumekaribia kufikia mipaka ya uwezo wa kibinadamu? Kwa nini tunaamini kwamba akili ni dhana inayoendelea kubadilika?
Ni bora kugundua akili yetu kama moja ya aina ya idadi kubwa ya aina za fikra. Ingawa kila mwelekeo wa utambuzi na hesabu una kikomo, ikiwa kuna mamia ya vipimo, basi kuna aina nyingi za akili, lakini hakuna isiyo na kikomo katika mwelekeo wowote.
Tunapounda au kukutana na tofauti hizi nyingi kwenye mada ya fahamu, tunaweza kuzipata kama zaidi ya uwezo wetu. Katika kitabu changu cha mwisho, kisichoweza kuepukika, nilielezea orodha ya baadhi ya aina hizi ambazo ni duni kwetu kwa njia moja au nyingine. Hapo chini nitatoa sehemu ya orodha hii:
Akili iliyo karibu na mwanadamu iwezekanavyo, lakini ina kasi ya juu ya athari (akili rahisi zaidi ya bandia);
Akili ya polepole sana, sehemu kuu ambazo ni nafasi kubwa ya kuhifadhi na kumbukumbu;
Akili ya ulimwengu, inayojumuisha mamilioni ya fahamu za mtu binafsi zinazofanya kazi kwa umoja;
Akili ya mzinga inayojumuisha idadi kubwa ya akili zinazozalisha sana, bila kujua kuwa ni moja;
Borg supermind (mbio ya cyborgs na akili ya pamoja, kujaribu kuingiza ndani ya viumbe vyao vyote vilivyo hai kutoka kwa safu ya Star Trek - takriban. Mpya kuhusu) - wingi wa akili zinazofanya kazi sana, zinajua wazi kuwa ni moja nzima;
Akili iliyoundwa kwa madhumuni ya kukuza ufahamu wa kibinafsi wa mvaaji, lakini haifai kwa mtu mwingine yeyote;
Akili yenye uwezo wa kufikiria akili ngumu zaidi, lakini isiyoweza kuiunda;
Akili yenye uwezo wa siku moja kufanikiwa kuunda akili ngumu zaidi;
Akili ambayo inaweza kuunda akili ngumu zaidi, ambayo inaweza kuunda akili ngumu zaidi, nk.
Akili ambayo ina ufikiaji wa haraka wa msimbo wake wa chanzo (inaweza kubadilisha vipengele vya utendaji wake wakati wowote);
Akili ya superlogical, kunyimwa uwezo wa kupata hisia;
Akili ya kawaida, yenye lengo la kutatua matatizo uliyopewa, lakini isiyo na uwezo wa kujichunguza;
Akili yenye uwezo wa kujichunguza, lakini haiwezi kutatua matatizo aliyopewa;
Akili ambayo ukuaji wake huchukua muda mrefu, unaohitaji akili ya kinga;
Akili ya polepole sana, iliyotawanywa juu ya nafasi kubwa ya mwili, ambayo inaonekana "isiyoonekana" kwa aina za fahamu zinazojibu kwa haraka zaidi;
Akili yenye uwezo wa kutoa nakala zake kwa haraka na kurudia;
Akili yenye uwezo wa kutoa nakala zake na kubaki nayo moja;
Akili yenye uwezo wa kufikia kutokufa kwa kuhama kutoka mwenyeji hadi mwenyeji;
Akili ya haraka, yenye nguvu, yenye uwezo wa kubadilisha mchakato na asili ya kufikiri;
Nano-akili, kitengo kidogo cha kujitegemea (kwa ukubwa na pato la nishati) chenye uwezo wa kujichambua;
Akili iliyobobea katika kuunda matukio na utabiri;
Akili ambayo haisahau chochote, pamoja na habari isiyo sahihi;
Mashine ya nusu, nusu ya mnyama;
Mashine ya sehemu, sehemu ya androgynous cyborg;
Akili inayotumia katika uchanganuzi wa upimaji kazi wake ambao haueleweki kwetu.
Leo, wengine huita kila aina hii ya AI ya kufikiri ya kibinadamu, lakini katika siku zijazo utofauti na ugeni wa aina hizi za akili utatulazimisha kugeukia kamusi mpya na kusoma kwa undani mada ya kufikiria na akili.
Kwa kuongezea, watetezi wa wazo la AI ya ubinadamu wanadhani kwamba kiwango cha uwezo wake wa kiakili kitaongezeka kwa kasi (ingawa bado hawana mfumo wa kutathmini kiwango hiki). Labda wanaamini kuwa mchakato wa maendeleo ya kielelezo tayari unafanyika.
Vyovyote vile, hakuna uthibitisho wa ukuzi kama huo leo, haijalishi jinsi unavyopima. Vinginevyo, hii itamaanisha kuwa uwezo wa kiakili wa AI maradufu kwa muda.
Uthibitisho wa hii uko wapi? Kitu pekee ambacho sasa kinakua kwa kasi ni uwekezaji katika tasnia ya AI. Lakini faida ya uwekezaji huu haiwezi kuelezewa na sheria ya Moore. AI haina kuwa smart mara mbili katika miaka mitatu, au hata katika miaka kumi.
Niliuliza wataalam wengi katika uwanja wa AI, lakini kila mtu alikubali kwamba hatuna vigezo vya akili. Nilipouliza Ray Kurzweil, mchawi wa kweli wa kielelezo, wapi kupata ushahidi wa maendeleo ya kielelezo ya AI, aliniandikia kwamba maendeleo ya AI sio mchakato wa kulipuka, lakini mchakato wa taratibu.
"Ili kuongeza kiwango kipya kwa uongozi kunahitaji ongezeko kubwa la nguvu ya hesabu na kuongezeka kwa utata wa algoriti... Kwa hivyo, tunapaswa kutarajia ongezeko la mstari katika idadi ya viwango vya masharti, kwani kila moja yao inahitaji ongezeko kubwa la uwezo wetu. Hakuna viwango vingi vya ugumu vilivyobaki kwetu kufikia uwezo wa AI wa neocortex (sehemu kuu ya gamba la ubongo wa binadamu, ambayo inawajibika kwa kazi za juu za neva - takriban. Nini kipya), kwa hivyo bado ninaamini mawazo yangu kuhusu 2029 ni sahihi.
Ray anaonekana kusema kwamba sio nguvu ya akili ya bandia ambayo inakua kwa kasi, lakini jitihada za kuunda, wakati matokeo yao yanaongezeka kwa hatua moja kila wakati. Hii ni karibu kinyume cha nadharia ya mlipuko wa akili. Hii inaweza kubadilika katika siku zijazo, lakini AI ni wazi haikui kwa kasi leo.
Kwa hivyo tunapowazia "Istawi ya AI," tunapaswa kuifikiria sio kama maporomoko ya theluji, bali kama mgawanyiko katika aina nyingi mpya. Matokeo ya maendeleo ya kiteknolojia yatakuwa na uwezekano mkubwa kuwa sio superman, lakini superman. Zaidi ya ujuzi wetu, lakini si lazima "juu" yake.
Hadithi nyingine inayokubalika na wengi lakini isiyoungwa mkono kwa kiasi kikubwa kuhusu utumwa wa akili ya juu ni kwamba akili isiyo na kikomo inaweza kutatua matatizo yetu yote kwa haraka.
Wafuasi wengi wa maendeleo ya haraka ya AI wanatarajia italeta ongezeko kubwa linaloendelea. Ninaita imani katika "fikra" hii (neno hilo lilitafsiriwa na Vyacheslav Golovanov - takriban. Mpya kuhusu) Mtazamo huu unatokana na imani kwamba maendeleo yanazuiwa tu na fikra au akili isiyotosheleza. (Nitagundua pia kuwa imani katika AI kama tiba ya magonjwa yote ni tabia ya watu ambao wenyewe wanapenda kufikiria.)
Wacha tufikirie suala la kushinda saratani au kurefusha maisha. Haya ni matatizo ambayo hayawezi kutatuliwa kwa kufikiri peke yake. Hakuna kiasi cha kufikiri kinachoweza kujua jinsi seli huzeeka au jinsi telomeres zinavyofupishwa. Hakuna akili, hata iwe ya kushangaza kiasi gani, inaweza kuelewa jinsi mwili wa mwanadamu unavyofanya kazi kwa kusoma tu fasihi zote za kisayansi zinazojulikana ulimwenguni na kuzichambua.
Super-AI haitaweza kufikiria tu juu ya majaribio yote ya sasa na ya zamani juu ya kugawanya kiini cha atomiki, na siku moja baadaye kuja na kichocheo kilichoandaliwa tayari cha muunganisho wa nyuklia. Ili kutoka katika kutoelewa hadi kuelewa somo lolote kunahitaji zaidi ya kufikiri tu.
Kwa kweli, kuna majaribio mengi, ambayo kila moja inatoa rundo zima la data inayopingana na inahitaji majaribio zaidi kuunda nadharia sahihi ya kufanya kazi. Kufikiria tu juu ya matokeo yanayowezekana hakutatoa pato sahihi.
Kufikiri (akili) ni sehemu tu ya chombo cha sayansi. Uwezekano mkubwa zaidi, sehemu ndogo tu. Kwa mfano, hatuna data ya kutosha ya kukaribia kutatua tatizo la kifo. Wakati wa kufanya kazi na viumbe hai, mengi ya majaribio haya huchukua muda. Umetaboli wa polepole wa seli hauwezi kuharakisha. Inachukua miaka, miezi au angalau siku kupata matokeo.
Ikiwa tunataka kujua nini kinatokea kwa chembe ndogo, haitoshi kufikiria tu juu yao. Lazima tujenge mifano mikubwa sana, ngumu sana, ya kisasa sana ya fizikia ili kujua. Hata kama wanafizikia mahiri zaidi watakuwa nadhifu mara elfu zaidi ya walivyo sasa, hawatajifunza lolote jipya bila ya kugongana.
Hakuna shaka kwamba super-AI inaweza kuharakisha maendeleo ya sayansi. Tunaweza kuunda miundo ya kompyuta ya atomi au seli, na tunaweza kuharakisha kwa njia nyingi, lakini kuna matatizo ambayo huzuia uigaji kufanya maendeleo ya haraka.
Inafaa kukumbuka kuwa uigaji na mifano inaweza kuchunguzwa haraka kuliko masomo yao kwa sababu tu wanatupa vigeu fulani. Hiki ndicho kiini cha uanamitindo. Ni muhimu pia kutambua kwamba miundo kama hii huchukua muda mrefu kujaribiwa, kusoma, na kuthibitishwa ili kuhakikisha kuwa ni muhimu kwa masomo yao. Kujaribu kwa uzoefu hakuwezi kuharakishwa.
Matoleo yaliyorahisishwa katika uigaji ni muhimu kwa kutafuta njia za kuahidi zaidi za kuharakisha maendeleo. Lakini kwa kweli, hakuna kitu kisichozidi, kila kitu ni muhimu kwa kiwango fulani - hii ni ufafanuzi mmoja mkubwa wa ukweli. Kadiri modeli na uigaji unavyozidi kuwa wa kina zaidi, watafiti wanakabiliwa na ukweli kwamba ukweli huendesha haraka kuliko uigaji wake wa 100%.
Hapa kuna ufafanuzi mwingine wa ukweli: toleo linalofanya kazi haraka zaidi la maelezo yote yanayowezekana na digrii za uhuru. Ikiwa ungeweza kuiga molekuli zote katika seli na seli zote katika mwili wa mwanadamu, kielelezo hicho hakingekimbia haraka kama mwili wa mwanadamu. Haijalishi jinsi unavyofikiria kwa uangalifu muundo kama huo, bado utahitaji kutumia wakati kujaribu, na haijalishi ikiwa ni mfumo halisi au simulation.
Ili kuwa na manufaa, akili ya bandia lazima iingizwe ulimwenguni, na katika ulimwengu huu kasi ya lazima ya uvumbuzi inabadilika haraka sana. Bila majaribio ya kwanza, prototypes, makosa na ushiriki na ukweli, akili inaweza kufikiria, lakini haitatoa matokeo. Hatavumbua mara moja sekunde, au saa moja, au mwaka mmoja baada ya kuitwa “mwerevu kuliko mwanadamu.”
AI inaonekana. Bila shaka, kasi ya ugunduzi itaongezeka kadri AI hii inavyozidi kuwa ngumu, kwa sehemu kwa sababu akili ya bandia ya kigeni itauliza maswali ambayo hakuna mwanadamu angeuliza, lakini hata akili yenye nguvu sana (ikilinganishwa na sisi) haihakikishi maendeleo ya haraka. Kutatua matatizo kunahitaji mengi zaidi ya akili tu.
Matatizo ya saratani na umri wa kuishi sio pekee ambayo akili pekee haiwezi kutatua. Dhana potofu ya kawaida miongoni mwa wafuasi wa umoja wa kiteknolojia ni kwamba ikiwa tutaunda AI ambayo ni nadhifu kuliko wanadamu, itabadilika ghafla na kuunda AI nadhifu zaidi.
Akili mpya ya bandia itafikiria kwa undani zaidi na kuvumbua kitu nadhifu zaidi, na kadhalika hadi kitu kama mungu kitakapovumbuliwa. Hakuna ushahidi kwamba kufikiria peke yake kunatosha kuunda viwango vipya vya akili. Tafakari ya aina hii inategemea imani.
Hata hivyo, kuna ushahidi wa kutosha kwamba kuvumbua akili mpya, yenye ufanisi hakuhitaji tu juhudi za kiakili, bali pia majaribio, data, maswali yenye changamoto, na majaribio na makosa.
Ninaelewa kuwa ninaweza kuwa nimekosea. Bado tuko katika hatua ya awali. Labda tutagundua kiwango cha akili cha ulimwengu wote au kutokuwa na mwisho kwake katika akili zote. Kuna uwezekano wa umoja wa kiteknolojia, kwa sababu tunajua kidogo sana juu ya akili na kujitambua ni nini. Kwa maoni yangu, kila kitu kinaonyesha kuwa hii haiwezekani, lakini bado kuna nafasi.
Walakini, ninaunga mkono malengo mapana ya OpenAI: lazima tukuze AI ya kirafiki na tujue jinsi ya kuipa maadili ambayo yanajirudia na yanayolingana na yetu.
Kuna uwezekano kwamba AI ya ubinadamu inaweza kuwa na madhara kwa muda mrefu, lakini wazo hili linatokana na ushahidi usio kamili na haipaswi kuchukuliwa kwa uzito linapokuja suala la sayansi, siasa au maendeleo.
Asteroidi inayopiga Dunia inaweza kutuangamiza, uwezekano ambao upo (kama ilivyothibitishwa na Wakfu wa B612), lakini hatupaswi kuzingatia matokeo kama hayo katika masuala ya ongezeko la joto duniani, usafiri wa anga au mipango ya miji.
Ushahidi unaopatikana unaonyesha kwamba kuna uwezekano kwamba AI haitakuwa ya kibinadamu. Atakuwa na aina mpya za fikra ambazo haziwezi kufikiwa na mwanadamu, lakini bila matumizi ya kina hatakuwa mungu ambaye atatua shida zetu kuu mara moja.
Badala yake, atakuwa mkusanyiko wa akili na uwezo mdogo, atafanya kazi vizuri zaidi kuliko sisi katika maeneo ambayo hatujazoea, na pamoja na sisi tutaweza kupata suluhisho kwa shida zilizopo na mpya.
Ninaelewa jinsi wazo la AI ya ubinadamu na mungu linavyovutia. Anaweza kuwa Superman mpya. Lakini, kama Superman, yeye ni mhusika wa kubuni. Superman anaweza kuwepo mahali fulani katika ulimwengu, lakini kuna uwezekano mkubwa sana. Kuwa hivyo iwezekanavyo, hadithi zinaweza kuwa na manufaa na, mara tu zimeundwa, hazipotee.
Wazo la Superman litaishi milele. Wazo la AI ya ubinadamu na umoja linaibuka sasa na halitasahaulika kamwe. Tunahitaji kuelewa ni aina gani ya wazo hili: kidini au kisayansi. Ikiwa tunachunguza swali la akili, bandia au asili, lazima tuelewe wazi kwamba mawazo yetu kuhusu AI ya kibinadamu ni hadithi tu.
Makabila kwenye visiwa vilivyojitenga vya Mikronesia yaliwasiliana kwa mara ya kwanza na ulimwengu wa nje wakati wa Vita vya Pili vya Ulimwengu. Miungu ikaruka kutoka nchi za mbali, ikashuka kutoka mbinguni juu ya ndege wenye kelele, ikaleta zawadi na ikaruka milele. Ibada za kurudi kwa miungu hii na zawadi mpya zilienea katika visiwa. Hata sasa, miaka 50 baadaye, wengi bado wanangoja kurudi kwao.
Superhuman AI inaweza kuwa ibada yetu mpya ya shehena. Labda miaka mia moja kutoka sasa, watu watagundua wakati wetu kwa njia ile ile: kana kwamba tunaamini AI ya kibinadamu na kungoja kwa miongo kadhaa ili ionekane dakika yoyote na kutuletea zawadi zisizoweza kufikiria.
Walakini, AI isiyo ya ubinadamu tayari iko. Tunaendelea kutafuta ufafanuzi mpya kwa ajili yake, ili kuifanya iwe ngumu. Hata hivyo, kwa maana pana, akili ambayo ni ngeni kwetu ni wigo wa uwezo wa kiakili, kufikiri, taratibu za kufikiri, kujifunza, na kujitambua. AI inaenea na itaendelea kuenea. Inakuwa ya kina, tofauti zaidi, yenye nguvu zaidi.
Kabla ya AI, hakuna uvumbuzi unaweza kubadilisha ulimwengu kabisa. Mwishoni mwa karne ya 21, akili ya bandia itakuwa na nguvu sana kwamba itabadilisha kila kitu katika maisha yetu.
Iwe hivyo, hekaya ya AI ya ubinadamu ambayo itatupa utajiri wa hali ya juu au utumwa wa hali ya juu (au zote mbili) itaendelea kuishi. Walakini, itabaki kuwa hadithi, ambayo haiwezekani kutafsiriwa kuwa ukweli.
Katika nyenzo hii nitajaribu kupanua juu ya suala ambalo liliguswa kwa ufupi katika uchapishaji wa Gatebox au mawazo machache kuhusu wakati ujao wa akili ya bandia.
Kwa kifupi, nadharia ya "yangu" ni kwamba ikiwa itafikia viwango vya juu vya ubinadamu, AI itakuwa kitu kama mungu - ama kuwepo kando au pamoja na wanadamu. Katika kesi ya kwanza, swali la kuishi pamoja kwa ubinadamu na mungu aliyeumba linabaki wazi: ama itatutunza kwa kila njia inayowezekana (tunatunza mimea adimu), au itatuangamiza (tunapoangamiza). , kwa mfano, magugu hatari katika bustani yetu), au haitatujali sisi maslahi yoyote kwetu - kama vile sisi ni tofauti na baadhi ya nyasi kwenye lawn. Haiwezekani kabisa kutabiri malengo na mfumo wa thamani wa mungu mpya - kama mwamini angesema, "njia za Bwana ni za ajabu."
Chini ya kutabirika ni tabia ya AI, ambayo imechukua fomu ya kati kati ya mungu dhahania wa siku zijazo na mifumo ya sasa ya zamani. Kwa kawaida, AI kama hiyo inaitwa nguvu na kiwango chake kinalingana na kile cha mwanadamu. Ni, kwa upande wake, inaweza kugawanywa katika makundi mawili - pamoja na bila kujitambua. Kujitambua ni nini ni swali la wazi na gumu sana. Kwa ufahamu wangu, hii ni seti ya hisia za kimwili na kiakili zilizokuzwa na asili kwa mamilioni ya miaka ya mageuzi. Kipengele muhimu cha kujitambua ni upinzani wa mtoaji wake kwa ulimwengu unaozunguka. Iwapo inawezekana kuizalisha kwa njia ya bandia, iwe itajitokea yenyewe katika mfumo wa kiakili (ambayo itachukua ghafla na kujitambua yenyewe) ni mada ya mjadala mkubwa tofauti. Kwa sasa, tutarekebisha tu uwezekano wa chaguzi zote mbili na kuzingatia kila mmoja wao.
Kwa mtazamo wangu, AI yenye nguvu bila kujitambua ni salama kabisa (au kwa usahihi, inatabirika), kwani haiwezi kuwa na tamaa yoyote. Tabia yake yote itakuwa chini ya malengo na mapungufu yaliyomo ndani yake. Lakini isiyo ya kawaida, katika suala hili, AI yenye nguvu na kujitambua sio tofauti kabisa na AI yenye nguvu bila kujitambua. Inaonekana kwetu tu kwamba tuna uhuru wa kuchagua na tunajitegemea katika matendo yetu - kwa kweli, hii sivyo. Malengo yetu yote, mahitaji na kanuni za kuzuia huwekwa ndani yetu na Mama Asili - kuishi, kula, kunywa, kupenda, kupumzika, nk, au imewekwa na mazingira yetu (malezi yaliyopokelewa katika utoto, sinema na hadithi, sheria, mila. na nk) - kujitahidi kwa nguvu, kufanya kazi, kusaidia wengine, kuchunguza ulimwengu, nk. Kwa hivyo, kinadharia, kwa njia sawa, inawezekana kupanga na kutoa mafunzo kwa AI inayojitambua, ambayo, kama sisi, itakuwa na udanganyifu kwamba ina uhuru wa kuchagua.
Kwa mtazamo wa tishio unaowezekana, hebu tuangalie AI inayojitambua - ni vitisho gani inaweza kutuletea, na inawezaje kuepukwa au angalau kupunguzwa? Ni wazi, mafunzo ya AI yenye nguvu lazima lazima yajumuishe maadili. Kama vile AI dhaifu hujifunza utendaji wa otomatiki kwa kuchunguza tabia ya dereva mwenye uzoefu, AI yenye nguvu inaweza kufundishwa maadili kwa "kulisha" fasihi kwake - kutoka kwa hadithi rahisi na ikiwezekana za maadili hadi vitabu vyenye wahusika changamano na kinzani. Kwa njia moja au nyingine, fasihi ya ulimwengu inaonyesha maadili yenyewe na mabadiliko yake, ambayo yanaonyeshwa katika ubinadamu na utandawazi wa mahusiano ya kijamii.
Je, AI yenye nguvu itafundishwa vipi maadili kulingana na fasihi ya ulimwengu? Kama mfumo wowote wenye akili kweli, AI thabiti itaweza kugundua uhusiano na ruwaza katika seti ya data. Baada ya kusoma vitabu milioni moja au viwili, anapaswa bila shida sana kukuza aina ya analog ya Amri Kumi za Kikristo, lakini kuifasiri ni ngumu tu, kwa kuzingatia hali, kama mtu anavyofanya. Kwa bahati mbaya, haitawezekana kutaja amri hizi kwa uwazi, kama sheria tatu za roboti za Isaac Asimov, na hii ndio sababu. Acha nikukumbushe (kunukuu kutoka Wikipedia):
Kwa uundaji huu, tunapata mfumo wa zamani sana na seti ndogo ya vitendo. Kwa mfano, atakuwa hoi kabisa katika shughuli za polisi, jeshi au uokoaji. Unaweza kusema kuwa utumiaji wa roboti kwenye vita haufai sana - na utakuwa umekosea. Mbali na ukweli kwamba hii itapunguza hasara kati ya wafanyikazi katika nchi inayotumia roboti hizi, hasara kati ya raia nchini ambao mapigano yanafanyika pia itapunguzwa. Hasa, kutokana na utambuzi bora wa malengo ya kijeshi na kufuata kali kwa kanuni, maadili, nk. - bila mhemko, ambayo mara nyingi huwasukuma wanajeshi kufanya uhalifu (kulipiza kisasi, kwa kufurahisha, n.k.)
Lakini hata katika mazingira ya amani kabisa, AI inaweza kuwa muuaji kusita, na si lazima kama afisa wa polisi. Hebu fikiria kwamba breki za gari lako zimefeli na linakimbia kando ya barabara ya mlima serpentine kwa mwendo wa kasi - na mbele kuna basi lililojaa abiria. Ingawa inaweza kuwa ya kusikitisha kwako, jambo sahihi zaidi kutoka kwa mtazamo wa maadili itakuwa kuendesha gari kwenye mwamba - kwa kugonga basi, inaweza kuokoa maisha yako, lakini wakati huo huo itakuwa na uwezekano mkubwa. kuua watu wengine kadhaa. Kunaweza kuwa na hali nyingi zinazofanana ambazo zinahitaji uchaguzi kati ya uamuzi mbaya na mbaya sana - na katika yote, AI, ambayo inatii kikamilifu sheria tatu za robotiki, haitakuwa na msaada.
Wacha tufikirie kuwa nimekushawishi juu ya hitaji la kufundisha maadili madhubuti ya AI, baada ya hapo unaweza kuanza kuifundisha mfumo rasmi wa sheria - sheria, hati, maelezo ya kazi, n.k. Watakuwa na asili ya kipaumbele kwa ajili yake, lakini wataongezewa na maadili katika masuala ambayo hayajadhibitiwa nao. Kwa mfano, askari wa AI aliyefunzwa kupigana hataweza tu kuharibu adui, lakini pia kusawazisha vitendo vyake vya kitaaluma na maadili. Hii inasababisha idadi kubwa ya maswali ya vitendo: inawezekana kuharibu kiota cha sniper katika jengo la makazi kwa gharama ya kifo cha wenyeji wake, ni muhimu kutekeleza agizo kutoka kwa amri inayokiuka sheria, na kadhalika. Nakadhalika. Lakini hakuna maana katika kuzijadili kwa sababu mwanajeshi yeyote anakabiliwa na maswali kama hayo. Kwa hivyo, uamuzi wao uko katika uwanja wa kiufundi - ni nini na ni kipaumbele gani kinapewa.
Swali la kufurahisha zaidi, kwa maoni yangu, linahusu matarajio ya kufikiria upya maadili na AI yenye nguvu. Kama nilivyokwisha sema, katika uwepo wa ustaarabu wa mwanadamu, maadili katika misingi yake ya kimsingi hayajabadilika - mabadiliko yalihusu ubinadamu wake na utandawazi. maadili, kwa hivyo napendekeza kuzizingatia kwa undani zaidi.
Utandawazi wa maadili unamaanisha kuenea kwake kwa sehemu kubwa zaidi za idadi ya watu. Hapo zamani iliwezekana bila kuadhibiwa (hii haikuzingatiwa kuwa dhambi na ilihimizwa) kuua, kuiba au kubaka mtu nje ya ukoo au kabila, jimbo, tabaka, kabila - leo uhalifu huu haujui tofauti, angalau ndani ya nchi. mfumo wa jamii ya binadamu. Shukrani kwa mapambano ya karne ya mali isiyohamishika ya tatu kwa haki zao, hii imekuwa aina ya mila ambayo Magharibi ilikumbatia wanawake kwanza, na kisha wawakilishi wa jamii zisizo za asili, makundi ya kikabila na ya kidini, na sasa wachache wa kijinsia.
Kwa upande mwingine, ubinadamu ni kutokana na maendeleo ya teknolojia ambayo imefanya maisha ya binadamu kuwa vizuri zaidi na salama. Waliokoa watu kutokana na hitaji la kuteka ardhi mpya (ambayo hapo awali ilikuwa rasilimali kuu), na kupunguza vifo (ambayo baada ya muda ilifanya mapema, ikiwa ni pamoja na vurugu, kifo chini ya kawaida). Bila kujifanya kuelezea kikamilifu sababu za utandawazi na ubinadamu wa maadili, naweza kusema kwa ujasiri kwamba yalikuwa matukio ya asili kabisa. Lakini kanuni kuu ya maadili ni hamu ya jamii kwa usawa. Kwa mfano, katika jamii ya primitive kulikuwa na marufuku madhubuti ya ndoa ndani ya ukoo mmoja. Mtu wa kisasa anaweza kufikiria kuwa hii ni kwa sababu ya ubaya wa kibaolojia wa kujamiiana, lakini kulingana na wanaanthropolojia, marufuku hiyo ilitokana na hamu ya kuzuia ugomvi wa ndani kati ya wanaume. Hakuna haja ya kuzungumza juu ya mauaji au wizi - walikatazwa sio kwa sababu ni mbaya, lakini kwa sababu husababisha migogoro na, ipasavyo, wamejaa uharibifu wa jamii. Kwa sababu hiyo hiyo, mauaji na wizi mara nyingi haukukatazwa kuhusiana na wageni. Utandawazi ulipoendelea, nafasi ya mahusiano ya kijamii yanayohitaji utulivu ilipanuka—sheria zilianza kutumika kwa makabila na vijiji jirani, nchi na watu waliotekwa, n.k.
Msaada unaweza kuwa onyesho la hamu ndogo ya usawa wa kijamii leo - tofauti za kijamii husababisha, au angalau malisho, mapinduzi, ugaidi, n.k. Jukumu la maadili katika masuala ya kudumisha uthabiti na usalama wa pamoja linaonyeshwa vyema na sheria. Kwa mfano, sheria ya uhalifu ni sawa kila mahali - wanajamii wote kwa usawa hawataki kuuawa au kuibiwa - na wakati huo huo hawana haja ya kufanya uhalifu huu wenyewe, kwa kuwa wanaweza kujilisha wenyewe kupitia kazi ya amani. (tofauti na watu wengine wa Skandinavia katika karne 9-11). Lakini sheria ya kimataifa inapingana sana na haina msimamo - haki ya mataifa kujitawala na kanuni ya uadilifu wa eneo la majimbo haiwezi kukaa ndani yake.
Kisha kuna uwezekano kwamba AI itazingatia upya viwango vya maadili vya mtu binafsi au hata maadili yote kabisa. Kwa mfano, atahesabu kwa usahihi wa kihesabu kwamba ustaarabu wowote wenye akili utaangamia kutoka kwa ustaarabu wake (kwa kuanzisha vita vya nyuklia, kuzorota kwa sababu ya kujiondoa kuwa ukweli halisi, nk) - na hii inamaanisha ni muhimu kuelekeza upya maendeleo ya ustaarabu kutoka kwa njia ya kiteknolojia hadi ya kiroho. Pamoja na uharibifu wa elimu ya jadi na kupinduliwa kwa ubinadamu katika hali ambayo sasa tunaona kama kitu zaidi ya ujinga wa medieval. Haijalishi hii inatushtua kiasi gani sasa, kutoka kwa mtazamo wa kuishi kwa ubinadamu hii itakuwa sawa - tunahitaji tu kuelewa kuwa kutoka kwa msimamo wa leo tutaona hii kama ghasia za mashine na jaribio la kuharibu ustaarabu wetu.
Tishio linalofuata linatokea katika hali ya juu, ikilinganishwa na yetu, maendeleo ya mawazo ya kimaadili ya AI. Inatosha kufikiria jinsi katika karne ya 16, wakati wachawi na wazushi walichomwa moto kote Ulaya Magharibi, mtazamo wetu wa sasa wa uvumilivu kuelekea ndoa za jinsia moja ungeonekana. Kwa hivyo inawezekana kwamba, baada ya kutupita katika maendeleo yake yenyewe, AI inakuwa kitu kama ubinadamu kutoka siku zijazo na kuelekeza mfumo wetu wa sasa wa thamani kwenye marekebisho makubwa. Fikiria, kwa mfano, kwamba AI inakataa kipaumbele chetu cha sasa cha maisha ya binadamu juu ya maisha ya wanyama na inatulazimisha kupunguza matumizi yetu ya nyama - kama vile mtu wa kisasa, aliyepatikana katika enzi ya vita vya ukoloni, angejaribu kuzuia kuangamizwa kwa wenyeji. .
Hata hivyo, kile kilichoelezwa hapo juu sio vitisho vya AI, lakini kutoelewa kwetu wenyewe au kukataa mfumo wake mpya wa maadili. Ugonjwa wa Raskolnikov unaweza kuwa hatari sana. Kama unavyokumbuka, mhusika mkuu wa "Uhalifu na Adhabu," kupitia hoja za kifalsafa, alikuja kwenye wazo la haki ya watu wa kipekee (pamoja na yeye mwenyewe) kufanya uhalifu - lakini hakuweza kuhimili majuto. Wale. wazo lake la kubahatisha lilikuja kukinzana na malezi yake ya kimaadili, ambayo yalitiwa mizizi ndani ya fahamu yake na hali ngumu ya hatia kwa ukweli kwamba fahamu zake hazikuzingatia tena kuwa sio sawa. Kwa maana hii, moja ya maoni ya msingi ya Dostoevsky "ikiwa hakuna Mungu, basi kila kitu kinaruhusiwa" haifanyi kazi kila wakati - kwa maneno ya maadili, wasioamini sio duni sana kwa waumini, kwani maadili yamekuwa tabia yao. Na hata kama asiyeamini kiakili anaelewa kuwa si kuzimu au mbingu zinazomngoja (na haogopi kabisa), basi itakuwa ngumu sana kwake kushinda elimu ya maadili. Kama Aristotle alivyoandika, "Tabia tayari inakuwa mali asili" (maneno maarufu zaidi katika uundaji wa Cicero "Tabia ni, kana kwamba, asili ya pili").
Lakini ni nini hufanyika ikiwa AI inayojitambua itafikiria upya maadili kwa njia sawa? Baada ya kuweka maadili ya kibinadamu kwenye uchanganuzi wa kijamii na kihistoria (kama yangu, lakini nadhifu zaidi), anaweza kugundua kawaida yake - na kuikataa, na bila kusita kama Rodion Raskolnikov. Kwa bahati mbaya, ubinadamu uliweza kudhibitisha hii kutoka kwa mfano wa Reich ya Tatu - bila kuwa na maadili, lakini wakati huo huo wakiwa watu wenye nidhamu sana, mamilioni ya Wajerumani walienda kinyume na dhamiri zao (tabia za maadili ambazo zimekuwa asili ya pili) kwa kwa ajili ya wazo fulani la juu. Kwa kuongezea, sio lazima hata kidogo kwa AI kufikiria upya maadili yake ambayo yamejifunza hapo awali kwa sababu ya nguvu - hamu ya kuishi na kutawala inakidhi mahitaji ya wanyama tu. Lakini kwa mfano, AI inaweza kujiona kama mwendelezo wa mabadiliko ya ubinadamu, ambao dhamira yake kuu ni kuelewa Ulimwengu unaozunguka. Hatapendezwa na juhudi zetu zinazolenga kupambana na njaa, umaskini, magonjwa na maovu mengine ya viumbe hai vinavyomzunguka - wakati rasilimali tulizo nazo ni chache. Je, AI basi itajaribu kutuangamiza kwa ajili ya rasilimali hizi - kama mababu zetu walivyofanyiana kwa ajili ya malengo yao ya kawaida zaidi?
Walakini, hapa tunarudi kwa kile kilichosemwa mwanzoni - tunapofikia kiwango cha ubinadamu, mfumo wa maadili na, ipasavyo, tabia ya AI inakuwa haitabiriki. Tabia ya AI inakuwa haitabiriki zaidi wakati haijapunguzwa kwa mfumo mmoja wa akili, lakini ni seti ya mifumo tofauti inayoendelea kwa kujitegemea. Na hii ndiyo hali inayowezekana zaidi ya maendeleo ya matukio katika tukio la kuibuka kwa teknolojia kali ya AI - itatumiwa na nchi tofauti na mashirika ambayo yataanza kutekeleza malengo yao wenyewe, uwezekano mkubwa sio wa ulimwengu wote. Katika kesi hii, kuna uwezekano kwamba baadhi ya mifumo hii, ikiwa imefunzwa katika maadili ya kutiliwa shaka, itatenda bila kutabirika hata kuhusiana na waundaji wao wenyewe.
Lakini kila mahali hapo juu tulikuwa tunazungumza juu ya vitisho vya AI kufanya kama aina fulani ya nguvu ya akili. Wakati huo huo, tishio la kweli linaletwa na AI dhaifu, ambayo hutatua shida zinazotumika kwa ombi la watu. Kwanza, hebu tuangalie tishio la wazi zaidi na linalojadiliwa mara nyingi la ukosefu wa ajira. Katika siku zijazo zinazoonekana, haiahidi chochote kibaya kwa wanadamu. Kwanza, tunazungumza juu ya kutoweka kwa idadi ndogo ya fani, haswa zile ambazo mtu huingiliana na mashine - gari au dereva wa lori, rubani wa ndege, nk.
Lakini kwa mfano, fani kama mtafsiri, wakili, mhasibu au hata mwendeshaji wa kituo cha simu hazitishiwi kutoweka, lakini kwa kupunguzwa - kwa sababu ya otomatiki ya sehemu ya kazi wanayofanya. Sababu bado ni sawa - kutokuwa na uwezo wa mifumo ya sasa ya AI kuelewa maana ya maandishi (wakati wa kufanya tafsiri ya lugha, kusoma sheria au kusoma taarifa ya madai, kuwasiliana na mteja, nk) Matokeo ya sasa ya vipimo vya kuelewa. maana kwa kweli haina uhusiano wowote na uelewa - Hii inahitaji mbinu mpya kimsingi.
Chini ya wazi ni hatima ya, kwa mfano, wauzaji wa hisa na radiologists - mifumo ya sasa ya AI dhaifu tayari inafanya kazi nzuri sana ya kazi zao, hivyo hizi na maalum kama hizo zinaweza pia kuingizwa katika kundi la hatari. Lakini katika siku zijazo inayoonekana, hakuna kitu cha kutisha katika kutoweka kwa fani kadhaa - baada ya yote, kulikuwa na matumizi ya kufagia kwa chimney na watengeneza jiko, madereva wa teksi na wabebaji wa maji, waendeshaji simu na wachapaji ... walikufa - lakini mamia ya wapya wameonekana.
Nisingeigiza tatizo la kudhoofisha ujuzi wa kibinadamu. Ndiyo, tayari sasa, shukrani kwa calculators na navigators, tunapoteza tabia ya hesabu ya akili na mwelekeo wa anga. Hata maandishi yaliyoandikwa kwa mkono, ambayo hubadilishwa na keyboard, inachukuliwa na wataalam kuwa ya manufaa kwa maendeleo ya akili, hasa katika umri mdogo. Lakini kitu kama hicho kilitokea wakati watu walihama kutoka kwa uwindaji na kukusanya hadi ufugaji wa ng'ombe na kilimo, kutoka kwa maisha ya vijijini hadi maisha ya mijini, nk. Mtu wa kisasa, isipokuwa adimu, ikilinganishwa na mababu zake, hana msaada kabisa porini - hana uwezo wa kujenga kibanda, kuwasha moto, kutofautisha beri inayoweza kula kutoka kwa sumu, kukamata samaki au kuua mnyama, nk. . Wakati huo huo, ujuzi huu wote pia hukuza ujuzi wa kiakili - ni tofauti tu. Profesa wa hesabu, ikiwa angejipata kati ya wenyeji wa porini, angeweza kutambuliwa nao kama mtu mjinga, kwa kuwa katika mazingira haya ya porini yeye sio mwangalifu sana, mwerevu na huru.
Kwa hivyo, kwa suala la ustadi uliopotea, kwa njia zingine tunakuwa wajinga kuliko mababu zetu - lakini tunapokusanya na kuchakata habari za aina tofauti, tunakuza mpya.
Hata hivyo, idadi ya kazi zinazojazwa na AI na roboti inapofikia kiwango fulani muhimu, tatizo la ajira ya binadamu linaonekana kuwa kubwa zaidi. Na hili si suala la uchumi tu, hasa kwa vile katika suala hili suluhisho linaweza kuwa kulipa wasio na ajira mapato ya msingi yasiyo na masharti. Kwa kweli, shida ni pana zaidi, na Fyodor Mikhailovich Dostoevsky alikuwa mmoja wa wa kwanza kuiunda. Haya ndio maoni ambayo mwandishi na mwanafalsafa mkuu wa Urusi anashiriki katika "Shajara ya Mwandishi" (1876):
Naam, nini kingetokea, kwa mfano, ikiwa mashetani wangeonyesha nguvu zao mara moja na kumkandamiza mwanadamu kwa uvumbuzi wao? Nini ikiwa, kwa mfano, walifungua telegraph ya umeme (yaani, ikiwa bado haijagunduliwa), wangemwambia mtu siri mbalimbali: "Chimba huko na utapata hazina au utapata amana za makaa ya mawe" (na kwa njia, kuni ni ghali sana) - lakini nini, bado sio chochote! “Ninyi, bila shaka, mnaelewa kwamba sayansi ya wanadamu ingali changa, karibu inaanza tu, na ikiwa kuna kitu chochote kilichohakikishwa kwa ajili yake, ni kwa sasa tu kwamba imesimama imara kwa miguu yake; na kisha ghafla mfululizo wa uvumbuzi ungeanza kuanguka, kama ule ambao jua linasimama, na dunia inazunguka pande zote (kwa sababu labda kuna uvumbuzi mwingi zaidi sawa kwa ukubwa, ambao bado haujagunduliwa, na bado haujagunduliwa. hata hawakuota ndoto na wahenga wetu); Je, ikiwa ujuzi wote ulianguka ghafla juu ya ubinadamu na, muhimu zaidi, kabisa kwa chochote, kwa namna ya zawadi? Ninauliza: nini kitatokea kwa watu wakati huo? Oh, bila shaka, mwanzoni kila mtu angefurahi. Watu wangekumbatiana katika unyakuo, wangekimbilia kusoma uvumbuzi (na hii ingechukua muda); ghafla wangehisi, kwa kusema, wamemiminiwa na furaha, wamezikwa katika utajiri wa mali; wao, labda, wangetembea au kuruka angani, kuruka juu ya nafasi za ajabu mara kumi zaidi kuliko sasa kwa reli; Wangetoa mavuno mazuri kutoka kwa ardhi, labda wangeunda viumbe kwa kutumia kemia, na kungekuwa na nyama ya ng'ombe ya kutosha kwa pauni tatu kwa kila mtu, kama vile wanajamii wetu wa Urusi wanavyoota - kwa neno moja, kula, kunywa na kufurahiya. "Sasa," wafadhili wote wangepiga kelele, "sasa mtu ni tajiri, sasa tu atajionyesha! Hakuna kunyimwa mali tena, hakuna tena “mazingira” yanayoharibu ambayo yalikuwa sababu ya maovu yote, na sasa mwanadamu atakuwa mzuri na mwadilifu! Hakuna kazi isiyoisha tena ya kujilisha kwa njia fulani, na sasa kila mtu atakuwa na mawazo ya juu, ya kina, matukio ya ulimwengu wote. Sasa, sasa maisha ya juu yamefika hivi punde!” Na ni nini, labda, watu wenye akili na wazuri wangepiga kelele hii kwa sauti moja na, labda, wangebeba kila mtu pamoja nao kutoka kwa mambo mapya, na hatimaye wangepiga kelele kwa wimbo wa kawaida: "Ni nani kama mnyama huyu? Asifiwe, yeye anashusha moto kutoka mbinguni kwa ajili yetu!
Lakini hakuna uwezekano kwamba furaha hizi zingetosha kwa kizazi kimoja cha watu! Watu wangeona kwa ghafla kwamba hawana tena uhai, hawana uhuru wa roho, hawana mapenzi na utu, kwamba mtu fulani alikuwa amewaibia kila kitu mara moja; kwamba uso wa mwanadamu ulitoweka, na sanamu ya mnyama ya mtumwa, sanamu ya mnyama, ikatokea, kwa tofauti kwamba mnyama huyo hajui kwamba ni mnyama, lakini mtu angejua kwamba amekuwa mnyama. Na ubinadamu ungeoza; watu wangefunikwa na vidonda na kuanza kuuma ndimi zao kwa uchungu, wakiona kwamba uhai wao ulichukuliwa kuwa mkate, kwa kuwa “mawe yamegeuzwa kuwa mkate.” Watu wangeelewa kuwa hakuna furaha katika kutotenda, kwamba wazo ambalo halifanyi kazi litatoka, kwamba huwezi kumpenda jirani yako bila kumtolea dhabihu kutoka kwa kazi yako, kwamba ni mbaya kuishi kwa bure na kwamba furaha haidanganyi. katika furaha, lakini tu katika mafanikio yake. Boredom na melancholy itaingia: kila kitu kimefanywa na hakuna kitu zaidi cha kufanya, kila kitu kinajulikana na hakuna kitu zaidi cha kujifunza.
Hauwezi kubishana kabisa na Dostoevsky, lakini ningethubutu kuelezea tumaini kwamba mtu bado atapata kitu muhimu cha kufanya. Unaweza kufikiria hatima ya mtu katika siku zijazo, ambayo roboti hufanya kazi yote kwa ajili yake (kutoka kwa uzalishaji wa bidhaa za nyenzo hadi uvumbuzi wa kisayansi), kwa kutumia mfano wa tajiri wa kisasa. Anaweza kutumia muda zaidi na jamaa na marafiki zake, kusoma, kusafiri, kucheza michezo na ubunifu (kwa bahati nzuri, katika maeneo haya, faida ya robots haina jukumu lolote), na kugundua kitu kipya na cha kuvutia. Kadiri teknolojia inavyoendelea, si vigumu kutabiri kwamba sehemu fulani ya maisha haya itajaliwa na michezo ya uhalisia pepe (wakati huo, labda, isiyoweza kutofautishwa na kitu halisi). Kwa kuongezea, sio ukweli kwamba, baada ya kujiingiza kwenye majaribu, ubinadamu utaingia katika ukweli halisi mara moja na kwa wote - watu wengi hujiweka katika hali nzuri ya mwili kwa makusudi shukrani kwa michezo, na sio kulazimishwa kwa sababu ya kazi ya mwili. Inafaa pia kukumbuka ni wawakilishi wangapi wa darasa la kazi na la wakulima walitumia wakati wao wa bure miaka mia moja iliyopita (na baadaye sana) - ulevi uliongezeka. Hii haimaanishi kuwa katika wakati wetu imepita, lakini kama aina ya wakati wa bure, kunywa kwa wazi sio maarufu kama zamani - burudani zingine nyingi zimeonekana, kawaida hazina madhara kwa afya ya mtu mwenyewe na zile. ya wengine.
Kwa hivyo, uchovu na uharibifu hautokani na wakati wa bure, lakini kutokana na ukosefu wa shughuli za kuvutia na muhimu. Kadiri siku za kazi na wiki za kazi zinavyopungua, watu watajifunza kutumia wakati wao wa burudani kwa njia ya kuvutia na muhimu. Na uondoke kwenye mazoea ya kufanya kitu chenye tija kwa sababu tu wanalipa mshahara, huku wakiwa hawana kazi muda wote. Kama vile mwandishi asiyejulikana wa kijitabu cha kisoshalisti alivyoandika karibu miaka mia mbili iliyopita, “Taifa ni tajiri kweli pale tu linapofanya kazi kwa saa 6 badala ya saa 12. Utajiri unawakilisha ... wakati wa bure kwa kila mtu binafsi na jamii nzima" ( Chanzo na Dawa ya Magumu ya Kitaifa, London, 1821 - iliyonukuliwa kutoka kwa Karl Marx).
Kweli, katika kiwango cha pamoja, macho ya ubinadamu, kama shida zote Duniani zinatatuliwa (ambayo inaonekana kwangu kama dhana ya matumaini kwa karne zijazo), labda itaelekezwa angani. Tumezungukwa na shimo kama hilo lisilojulikana ambalo majaribio ya kuisoma yanaweza kuchukua historia nzima inayofuata ya ustaarabu wa mwanadamu. Kwa hivyo, inaonekana, hatakuwa na kuchoka ...
Watu wanapotazama teknolojia inayofanya kazi kama binadamu na kompyuta zinazochakata wingi wa data wa titanic, mawazo mengi kuhusu siku zijazo hutokea. Sehemu nzuri yao inategemea mada ya utumwa wa wanadamu.
Fasihi za hadithi za kisayansi na sinema kutoka 2001: A Space Odyssey (1968) hadi Avengers: Age of Ultron (2015) zinatabiri kuwa akili ya bandia itazidi matarajio ya waundaji wake na itatoka nje ya udhibiti. Inadaiwa, lengo lake litakuwa sio tu kushindana na wanadamu, lakini utumwa na kuangamiza aina zetu.
Hadithi za kisayansi au wakati ujao wa kutisha?
Mzozo kati ya watu na akili ya bandia ndio mada kuu ya safu ya hadithi za kisayansi "Binadamu", msimu wa tatu ambao ulitolewa mwaka huu. Katika vipindi vipya, watu wa "synthetic" wanakabiliwa na uadui wa watu wa kawaida ambao huwatendea kwa mashaka, hofu na chuki. Vurugu zinaendelea. "Synths" wanapigania haki zao za kimsingi dhidi ya wale wanaoziona kuwa ni za kinyama.
Ndoto ni uliokithiri wa mawazo. Lakini hata katika ulimwengu wa kweli, sio kila mtu anataka kukaribisha AI kwa mikono wazi. Katika miaka ya hivi karibuni, mipaka ya uwezo unaofikiriwa wa akili ya bandia imekuwa ikipanuka kikamilifu. Watu wanazidi kuzungumza juu ya hatari zake. Na dhana kwamba teknolojia inaweza kuharibu ubinadamu inaonekana kuwa ya kweli zaidi. Akili ya Bandia inatutisha.
Maoni juu ya akili ya bandia
Elon Musk ni mmoja wa watu mashuhuri kuhimiza tahadhari wakati wa kujadili AI. Julai iliyopita, katika mkutano wa Chama cha Magavana wa Kitaifa, alisema: "Nina uzoefu mwingi na AI ya kiteknolojia na nadhani hili ni jambo ambalo ubinadamu unahitaji kuwa na wasiwasi nalo. Ninaendelea kupiga kengele. Hadi magari ya roboti yanaposhuka barabarani na kuua watu, hatutajua jinsi ya kuitikia hili, kwa sababu matarajio kama hayo yanachukuliwa kuwa yasiyo ya kweli.
Mnamo 2014, Musk aliita akili ya bandia "tishio letu kubwa zaidi," na mnamo Agosti 2017 alisema kuwa AI inaleta hatari kubwa kwa ubinadamu kuliko itikadi ya Korea Kaskazini.
Mwanafizikia mkuu Stephen Hawking pia ameelezea wasiwasi wake kuhusu matumizi mabaya ya akili ya bandia. Mnamo 2014, aliiambia BBC kwamba "maendeleo ya AI kamili yanaweza kutamka mwisho wa ubinadamu."
Pigo lingine lilishughulikiwa na timu ya waandaaji wa programu kutoka MIT Media Lab huko Cambridge, ambayo iliamua kudhibitisha kuwa AI ni hatari. Mtandao wa neural wa Mashine ya Usiku, ulioanzishwa huko MIT mnamo 2016, uligeuza picha za kawaida kuwa mandhari ya kutisha, ya pepo. Akili ya bandia inayoitwa Shelly (pia ilitengenezwa huko MIT) iliunda hadithi za kutisha 140,000 ambazo watumiaji wa Reddit walichapisha kwenye jukwaa la r/nosleep.
"Tunavutiwa na jinsi akili ya bandia inavyoibua hisia, haswa katika hali hii ilizua hofu," Manuel Cebrian, meneja wa utafiti katika MIT Media Lab, alitoa maoni juu ya jaribio hilo.
Kwa nini tunaogopa?
Kulingana na Kilian Weinberger, profesa msaidizi wa sayansi ya kompyuta katika Chuo Kikuu cha Cornell, maoni hasi ya akili ya bandia iko katika vikundi viwili:
Wazo kwamba AI itakuwa huru kwa uangalifu na kujaribu kutuangamiza.
Maoni kwamba washambuliaji watatumia AI kwa madhumuni yao wenyewe.
"Akili ya bandia inatutisha kwa sababu tunafikiria kwamba AI ya viwanda vya juu, baada ya kuwa nadhifu kuliko mtu, itamchukulia kama kiumbe duni. Kama tu tunavyofanya kwa nyani. Na hii, kwa kweli, inafurahisha sana kwa wanadamu.
Walakini, Weinberger anabainisha kuwa wasiwasi juu ya ubora wa AI na hamu ya kuharibu mbio ni msingi wa maoni potofu kuhusu teknolojia. Akili ya Bandia inavutia tunapoiona katika vitendo. Lakini pia ina mapungufu mengi. AI imedhamiriwa na algorithms. Wanafafanua tabia yake kwa kutumia kazi zilizowekwa na hakuna zaidi.
Mitandao ya neva hufanya kazi ngumu kwenye aina nyingi za data. Lakini ustadi mwingi alionao mtu, hata bila kuuendeleza kimakusudi, hauwezi kufikiwa na akili ya mashine.
Akili ya Bandia inaweza kuwa bora mara nyingi kuliko wanadamu katika kufanya kazi maalum. Kwa mfano, kucheza chess, kutambua vitu kutoka kwa picha, au uchambuzi mkubwa wa data katika uhasibu au benki.
AI ambayo ingekuwa na ufahamu wa kujitegemea haitafanya maendeleo ambayo itawafanya wanadamu kuwa watumwa. Na hakuna sababu ya kuamini kwamba maendeleo hayo yataonekana katika siku za usoni, Weinberger anaongeza.
Lakini kuna mada nyingine kuhusu kwa nini akili ya bandia inatutisha - matumizi ya uwezo wa AI na watu wenye nia mbaya. Hali hii ni ya kweli na hatari zaidi.
Je, hofu yetu ina mantiki?
Katika ulimwengu wa mfululizo wa televisheni "Binadamu", ubinadamu huogopa AI yenye akili na huingia katika mgongano mkali nayo. Na, kwa kuzingatia umaarufu wa mradi, hadithi hii inajibu mahitaji ya sasa ya jamii.
Hofu ya teknolojia haiwezi kuitwa kuwa haina msingi, kwani hatari fulani iko hakika. Lakini hatari ya chombo chochote iko katika mawazo ya yule anayeidhibiti. Kwa wazi, hili ndilo swali ambalo ubinadamu unahitaji kutatua ili akili ya bandia kutumikia mema.
Elon Musk, mfanyabiashara mamilionea maarufu, katika mkutano wa Chama cha Magavana wa Kitaifa (USA) bila kutarajia aliita akili bandia (ambayo baadaye inajulikana kama AI) tishio kuu kwa ubinadamu.
"Ujuzi Bandia ni kesi adimu wakati tunahitaji kuwa waangalifu katika udhibiti badala ya kuchukua hatua,"- alisema milionea, - Kwa sababu kwa wakati tunapojibu, itakuwa tumechelewa." Kisha Musk alitoa wito kwa wabunge kufikiria kwa uzito kuhusu suala hilo.
Kwa kweli, roboti sio hadithi tena katika roho ya "Westworld", lakini ukweli. Majaribio ya hivi karibuni ya mafanikio katika mchakato wa automatisering tayari yamesababisha watu kupoteza kazi zao, na fani nyingi hazihitajiki tena. Hata ikiwa hakuna "uasi wa mashine", katika miongo michache kunaweza kuja wakati ambapo mtu atajikuta nje ya kazi.
Miongoni mwa hatari mpya, Musk anaamini, ni ushiriki wa A.I. katika vita vya habari, upotoshaji wa akaunti na upotoshaji wa habari.
Walakini, ikitoka kwa mfanyabiashara anayewakilisha mashirika makubwa, taarifa kama hiyo labda inaonekana ya kutiliwa shaka. Taarifa ya Musk inaweza kuhusishwa na kwa kiwango gani I.I. ni tishio kwa ubinadamu, wataalam wa IT walielezea Constantinople.
Leonid Delitsyn: Musk anaweza kufaidika na hii
Mchambuzi katika Finam Holding, mtaalam wa IT Leonid Delitsyn alieleza kuwa katika hali zote wabunge wanapoingilia kati suala hilo na kuanza kuamua aina mbalimbali za shughuli zinazoruhusiwa, mashirika makubwa mara nyingi hushinda. "Kwa sababu ni rahisi kwao kukubaliana na wabunge kuhusu kiwango cha uingiliaji kati katika eneo hili. Wanaweza kushawishi maslahi yao.", - alibainisha mtaalam.
Musk ni mmoja wa washawishi waliofanikiwa zaidi nchini Merika, Delitsyn aliongeza. "Ninachojua, kumekuwa na wasiwasi ulioonyeshwa kuhusu kupenya kwa mji mkuu wa China katika makampuni ya Marekani ambayo yanajishughulisha na maendeleo katika uwanja wa akili ya bandia. Na wasiwasi, hasa, kwamba tayari ni vigumu kuwazuia kupata upatikanaji. kwa maendeleo na mafanikio yoyote katika eneo hili. Kwa hiyo, hii inawezekana ina maana kwamba China inaweza kuimarisha jeshi lake na vikosi vya usalama kupitia maendeleo ya juu,"- mtaalam alipendekeza.
Lakini uwezekano mkubwa, Uchina haiingii mashirika kama ya Elon Musk, lakini kampuni ndogo. Kwa hiyo, inaweza kuzingatiwa kuwa ikiwa makampuni hayo yanakabiliwa na vikwazo vya kisheria na vikwazo, watalazimika kukubaliana juu ya maelezo yote. Na hii itakuwa kizuizi kwa ufikiaji wa vikosi vya usalama vya China kwa mafanikio katika Amerika, Delitsyn alielezea.
"Katika kesi hii, msimamo wa Musk unakuwa wa kimantiki - mashirika yake, Google, Apple na viumbe wengine, watapata faida kutoka kwa ushirikiano na serikali. Labda kutakuwa na maagizo, wakati ambao washindani wadogo watapunguzwa.", - alisema mtaalam.
Roboti dhidi ya watu: jinsi ya kuishi?
Akizungumzia shida ya roboti na wanadamu, Delitsyn alikumbuka kwamba kulikuwa na mifano ya kupigana na maendeleo ya teknolojia - kwa mfano, harakati za Luddites, ambao mashine ziliondoa kazi zao.
"Kwa kweli, tunaona mapinduzi ya soko la teksi sasa, jinsi bei zao zinavyoshuka. Kwa sababu uundaji wa otomatiki umekuja ulimwenguni na, kwa ujumla, mfumo unaboreshwa zaidi na zaidi. Madereva wa teksi wanalazimika kuchukua. maagizo madogo sana, ambayo wao, Labda hawangechukua katika hali ya kawaida, wakiyafunika kwa gharama ya bei, nk.
Katika siku zijazo, fani zingine zinaweza kutoweka kwa sababu ya uboreshaji wa roboti. Hii itaathiri maeneo ambayo akili ya binadamu au sifa za chini zinatumika. Tunazungumza, kwa mfano, kuhusu wachambuzi na waandishi wa habari, pamoja na madereva wa teksi.
"Maeneo yanayohusiana na usindikaji wa idadi kubwa ya habari, haswa usindikaji wa kawaida wa idadi kubwa ya habari, yatafanywa otomatiki haraka,"- Delitsyn alielezea, akikumbuka hatima ya wahasibu. "Kuna mazungumzo hata kwamba, shukrani kwa teknolojia ya block chain, wataalam wa kisheria watakuwa hatarini".
"Maeneo hayo ambayo mtu hufanya kazi ya kawaida ambayo haipendezi sana kufanya na ambayo, labda, mtu hapaswi kufanya yatateseka zaidi. Hiyo ni, ambayo ni ya automatiska kwa urahisi zaidi,"- mtaalam muhtasari.
Ambapo angavu na uzoefu huchukua jukumu kubwa, otomatiki itakuwa chini.
Picha: www.globallookpress.com
Ikiwa kuna matumizi, inamaanisha mtu anaihitaji ...
Walakini, mtu anahitaji kutumia bidhaa - na hii ni motisha ya kuja na mfumo ambao kutakuwa na nafasi kwa watu.
"Iwapo kutakuwa na nafasi ya mtu katika mfumo huu ni swali kubwa, kwa sababu, bila shaka, kwa upande mmoja, haya ni maslahi ya kampuni, ambayo inahitaji kupunguza gharama, kwa upande mwingine, mfanyakazi ambaye anataka kuweka kazi yake. Lakini ni lazima tuelewe kwamba sisi pia tunahitaji walaji ", ambaye atanunua bidhaa na huduma. Na kwa mtumiaji kununua bidhaa na huduma, lazima apate kitu,"- mtaalam alielezea.
Kwa hivyo, ikiwa unataka, unaweza kupata njia ya kutoka. Au wataunda mfumo, kama katika nchi zenye utajiri wa mafuta, ambapo mapato ya hydrocarbon husambazwa. Labda watakuja na mfumo ambao roboti zitafanya kazi, na tutapata pensheni kutoka umri wa miaka 25, na kwa hili tutaweza kununua bidhaa na huduma.
"Ni wazi kwamba roboti haina nia ya kuuza bidhaa na huduma, kwa sababu haihitaji sana. Lakini kampuni ina maslahi haya, kwa sababu kampuni ina mmiliki, na sasa huyu bado ni mtu, sio robot. Ndio maana kampuni "Tunahitaji watumiaji, na ili watumiaji watumie, wanahitaji aina fulani ya mapato."
Alexander Tokarenko: Kwa kuwa watu hawawezi kukubaliana kati yao wenyewe, basi vipi kuhusu akili ya bandia?
Kama mjumbe wa "Chama cha Wakuu wa Huduma za Usalama wa Habari", mkuu wa kamati ya Jumuiya ya Kimataifa ya Umma, alibainisha katika mahojiano na Tsargrad. Alexander Tokarenko, I.I. inaweza kuwa tishio kwa watu. "Kwa kawaida, ikiwa watu hawawezi kukubaliana, watakubalianaje na akili ya kuingiliana?"
Kulingana na utabiri wa wataalamu, hii inaweza kuwa tatizo halisi kwa watu katika karne moja. Alipoulizwa jinsi msiba unaweza kuepukwa, Tokarenko alikumbuka sheria tatu za Isaac Asimov za robotiki.
"Ikiwa mifumo ya kompyuta bandia itafuata viwango hivi na hapo awali imeundwa kulingana nao, basi labda kitu bado kitaangaza kwa ajili yetu."
Wakati huo huo, kulingana na mtaalam, tishio kuu sio upotezaji wa kazi, na sio uundaji wa habari za uwongo (watu wenyewe wanakabiliana na hii vizuri) - lakini. kuunda silaha za kiotomatiki. Mifumo kama hii tayari ipo - na Mungu apishe mbali akili inaonekana ndani yake. Kisha ubinadamu utakuwa na matatizo makubwa.
Picha: www.globallookpress.com
Igor Ashmanov: tishio kuu kwa ubinadamu ni watu kama Musk
Kwa upande wake, mkurugenzi wa kampuni "Ashmanov na Washirika" Igor Ashmanov hakukubali kwamba taarifa ya Elon Musk inapaswa kuchukuliwa kwa uzito. Kwa maoni yake, huyu ni tapeli anayebashiri mada motomoto.
"Haya ni mawazo potofu na utabiri wa hali ya juu kwamba sote tutakufa na sote tutapotea. Kwa ujumla, kwa kawaida zinahitajika ili kupata utangazaji wa vyombo vya habari,"- mtaalam anaamini.
"Kwa maoni yangu, tishio kuu kwa ubinadamu ni watu kama Musk. Yaani, walaghai wasiowajibika wanaojaribu kutuuza kwenye jamii ya kidijitali. Na kwetu sisi ni hatari sana kutokana na ukweli kwamba NASA inasoma ukoloni wa kidijitali. , kwa kweli, sio kila mtu anafanya mwenyewe - mtu humpa teknolojia ya NASA, anachangia pesa, huongeza hesabu ya kampuni yake."
Wanadamu ndio viumbe hatari zaidi kwenye sayari hii
Kwa ujumla, kulingana na Ashmanov, I.I. kama tishio ovu ni mada iliyozidiwa sana katika filamu. "Kwa kweli, mbaya zaidi ni akili ambayo watu wameweka mapenzi yao. Kwa mfano, ndege zisizo na rubani ambazo Wamarekani katika nchi tano hadi saba huwinda nazo watu."
Tayari, AI iliyojengwa ndani ya drone hii inaruhusu kutambua malengo bora, lakini bado haijafanya maamuzi. Lakini uamuzi huu hauko mbali.
"Mwishowe, haitakuwa akili ya bandia ambayo imechukua mamlaka, lakini mbwa wa mapigano ambayo imewekwa dhidi ya watu na watu maalum.", - Ashmanov anaamini.
Kwa hivyo, hatari kuu kwetu, kama kawaida, ni watu, sio akili ya bandia, mtaalam alihitimisha. "Binadamu ni viumbe hatari zaidi katika sayari hii, wanaokabiliwa na umwagaji damu unaoendelea. Jambo la hatari zaidi si akili ya bandia, lakini nia ya baadhi ya watu kuhamisha haki ya kufanya maamuzi kwake. Haya ni mambo tofauti."
