Smadzenes ir sarežģītas

Amerikāņu zinātnieks Rejs Kērzvails ir pazīstams gan kā Google korporācijas galvenais inženieris un inovators, gan kā futūrists ar skaidri definētiem priekšstatiem par tehnoloģiju lomu cilvēces nākotnē. Grāmatā “Singularitāte ir jau tuvu” (“The Singularity is Near”) Kērzvails apgalvo, ka jau 2045. gadā fizioloģiskās funkcijas pilnībā aizstās kibernētika, bet apziņas saglabāšana datu nesējos ļaus cilvēkam dzīvot mūžīgi. Šī viņa 2012. gada saruna ar Mārvinu Minski papildinās priekšstatu par mākslīgā intelekta pētniecības nozares pionieri.

Rejs Kērzvails: Manā pirmajā grāmatā “Gudro mašīnu laikmets” bija tava eseja, kurā tu rakstīji: “Tikai pirms dažām desmitgadēm,” – bet grāmata iznāca pirms 20 gadiem – “organismu spēja vairoties šķita dziļš un sarežģīts noslēpums. Tomēr, tiklīdz biologi saprata, kā mūsu gēnu virtenes pašas sevi pavairo, viņi brīnījās, kāpēc tik vienkāršas lietas saprašana prasījusi tik daudz laika.” Kā mums veicas ar mūsu domāšanas mehānismu saprašanu?

Mārvins Minskis: Mākslīgā intelekta jomā es redzu šādu problēmu: bioloģijā un fizikā mums ir gājis tik lieliski, ka cilvēki, kuri mēģina radīt gudras mašīnas, gribētu šos panākumus atdarināt. Piemēram, Arhimēds atklāja dažas lietas fizikā, tad sekoja ilgs klusums, un tad nāca Galilejs un Ņūtons, un pēdējais atklāja trīs vienkāršus likumus, kas izskaidroja visus mums redzamos mehāniskos fenomenus. Un pēc gadsimta vai diviem Maksvels to pašu paveica elektrības jomā – četri vienkārši likumi, kas izskaidroja elektrību un magnētismu... Un tad nāca Einšteins, kurš šos septiņus likumus reducēja uz ne vairāk kā vienu vai diviem, un fizikas progress, atklājot šos neticami vienkāršos skaidrojumus, bija brīnišķīgs. Arī psihologi gribēja panākt ko līdzīgu, viņi radīja mazas teorijas par to, kā, savienojot domas, notiek mācīšanās, un tā tālāk. Pēc tam mēs vairs ne tuvu neesam pieredzējuši tik lielu progresu. Tas tāpēc, ka pirms simt gadiem dzīvoja daži izcili cilvēki, kā Freids un Vunts, Viljams Džeimss un Frānsiss Goltons. Tie bija četri izcili psihologi, kuri radīja visnotaļ sarežģītas teorijas par prāta darbību. Bet tad daudzi psihologi mēģināja atdarināt fiziķus un reducēt to visu uz dažiem vienkāršiem likumiem – tas diez ko labi neizdevās, un simt gadi pagāja bez sevišķi daudziem atklājumiem. Manuprāt, problēma ir tāda, ka smadzenes nedarbojas vienkārši. Jo evolūcija 400 miljonu gadu garumā ir būvējusi struktūras uz struktūrām, zem kurām jau bijušas citas struktūras. Neironi mūsu smadzenēs ir gandrīz tādi paši, kādi tie bija pirms 400 miljoniem gadu, bet to sakārtojumi ir daudz sarežģītāki. Tāpēc labs veids, kā domāt par smadzenēm, ir tāds, ka tās ir 400 dažādi datori. Līdz ar to ir kļūdaini meklēt kopīgus principus. Kopīgi principi var izskaidrot, kā darbojas zivs, bet ne cilvēks.

Kērzvails: Mums ir izdevies, piemēram, smadzeņu garozā un smadzenītēs atrast struktūras, kas atkārtojas. Proti, varbūt pastāv kādi pamatprincipi, ko varētu dažādi izmantot par trūkstošajiem ķieģeļiem, lai būvētu sarežģītu domu hierarhijas?

Minskis: Jā, visas smadzeņu daļas ir līdzīgas, bet, ja ielūkojamies datorā, tajā viss sastāv no tranzistoriem, kuri savā starpā mazliet atšķiras, taču kaitina tranzistoru īpašības – tie nav lineāri, nav uzticami. Tomēr, ja paņem tikai divus tranzistorus un tos savieno noteiktā veidā, iegūst cilpu, kas ikreiz darbojas vienādi. Un man ir aizdomas, ka smadzenēs svarīgākais ir tas, ka evolūcijas gaitā attīstījās struktūras, kas... Patiesībā lielāko daļu galvas smadzeņu veido garozas kolonnas, no kurām katru veido daži simti šūnu, un man šķiet, ka tieši tās izolē pārējo prātu no neironu īpašībām. Un, redzi, fiziķis varētu gribēt visu reducēt uz atsevišķa neirona darbību, bet man šķiet, ka mums jāsaprot, kā darbojas kolonnas. Un, ja salīdzinām dažādas smadzeņu daļas, tajās ir simtiem dažādu reģionu, un savienojumi katrā no tiem nedaudz atšķiras. Mans secinājums ir tāds, ka nepastāv nekāds vispārīgs cilvēku domāšanas princips, taču tas, kas padara mūs tik gudrus – un es labprātāk lietotu nevis vārdu “gudrus”, bet gan “atjautīgus” –, ir spēja tik bieži neiestrēgt: ja gadījumā viens domāšanas veids nedarbojas, mēs varam pārslēgties uz citu. Un, manuprāt, tas tiek panākts, iedarbinot dažas smadzeņu daļas, bet tad pārslēdzoties uz citām. Tāpēc vissvarīgākais attiecībā uz domāšanu ir, kā kāda smadzeņu daļa pamana, ka citai nekas nesanāk. Un ko smadzenes tad dara? Tās saka – es izslēgšu, lūk, šīs un ieslēgšu dažas no šīm. Tā ir tāda kā augstākā līmeņa pārvaldība, kura nolīgst jaunus padomniekus un vairs neklausās vecajos... Un to dara varbūt kādas piecas reizes sekundē. Tiek mainīti domāšanas veidi.

Kērzvails: Kāds ir tavs viedoklis par cilvēku smadzeņu modelēšanu un simulēšanu, lai saprastu, kā tās darbojas, un sekojoši – kā radīt gudras mašīnas?

Minskis: Nu, daudzi uzskata, ka smadzenes var saprast, saprotot, kā darbojas to daļas un kā darbojas šo daļu kombinācijas un tā tālāk. Šāda pieeja ir nesusi augļus fizikā. Bet nevar saprast, kā darbojas dators, ja tikai saprot, kā darbojas tranzistori. Cilvēki šai problēmai pieiet no nepareizā gala. Lai saprastu smadzenes, ir jāsaprot, kā notiek domāšana, un, tiklīdz par to būs teorija, varēs paraudzīties uz šīm neiedomājami sarežģītajām smadzenēm un teikt: šķiet, ka šī daļa dara to un to. To nevar sākt, ejot no lejas uz augšu, jo nav zināms, kas jāmeklē.

Kērzvails: Tu minēji, ka tiek pamanīts, ka viena metode nestrādā un tu iestrēgsti, tāpēc tu pārslēdzies uz citu pieeju... Šis “tu”, kas ar to nodarbojas, – vai tā ir kāda atsevišķa smadzeņu daļa ārpus tām, kuras mēdz iestrēgt? Proti, kas ir šī galvenā pārvaldības programma, kas pārvalda visus pārējos resursus?

Minskis: Viens no šiem sīkajiem kritiķiem pasaka: šī mērķa sasniegšanā nav bijis nekāda progresa. Un dažādām smadzeņu daļām ir dažādi mērķi. Un tad šis kritiķis saka: nu, ir pagājušas piecas minūtes, un progresa nav; es sevi izslēgšu un ieslēgšu šos sešus citus, un viņi kādu brīdi pacīnīsies. Tāpēc man nešķiet, ka būtu kaut kas tāds kā patība. Man patīk Zīgmunda Freida vecā teorija, ka smadzenes sākotnēji nodarbojas ar daudzām sīkām instinktīvām lietām – ikvienam augstākajam dzīvniekam ir dažādi uzvedības modeļi, ikviens no tiem kaut ko dara, lai pārvietotos, lai izvairītos no nepatīkamām sajūtām un tā tālāk, bet, sasniedzot cilvēku un varbūt arī dažu primātu līmeni, mēs attīstām arī to, ko Freids dēvē par ideāliem un centienu mērķiem, un ētiku, un ierobežojumiem. Piemēram, ja maza meitene vēlas sava mazā brālīša rotaļlietu, labākais ceļš ir to vienkārši paķert un... No saviem vecākiem viņa iemācās, ka tā darīt nevajag. Freida priekšstats par attīstību ir tāds, ka pastāv šie zemākā līmeņa instinkti, kas mūs ne sevišķi atšķir no citiem dzīvniekiem, un tad ir šīs augstākā līmeņa vērtības un ierobežojumi, un fobijas, un tā tālāk, kas attīstās sociālās situācijās. Un tad prāts lielākoties nodarbojas ar konfliktu risināšanu. Līdz ar to tur neparādās nekas tāds kā persona: ir tikai virkne ideālu un procesu, un augstākā līmeņa mērķu, un tiem līdzās – zemākā līmeņa procesi. Un smadzenes lielākoties nodarbojas ar saskaņošanu un izšķiršanu. Ir tāda populāra ideja: izveidot “bēbīšmašīnu” – tā to varētu nosaukt –, vienkārša tipa mācošos mašīnu, kas savieno idejas, atceras secības, veido korelācijas, un, ja tai visu laiku uzdotu jaunus uzdevumus, tā taptu arvien gudrāka un gudrāka. Tā ir diezgan populāra iecere... Pēdējos 20 gados ir ticis uzsākts kāds ducis bēbīšmašīnu projektu, un visas to radītās bēbīšprogrammas ir spējušas iemācīties šādas tādas prasmes. Bet, kad tās mēģina trenēt tālāk, tās sevišķi labākas vairs nekļūst. Un mana pieeja atšķiras ar to, ka... Man šķiet, visas šīs dažādās tehnikas, ko cilvēki izstrādājuši, ir pielietojamas, mums tās vienkārši jāiekārto plašākā arhitektūrā, kura ietvertu arī lielu daudzumu pašsaprotamu zināšanu par to, kā noteikt, kad kāds no šiem procesiem nestrādā, un kuri citi procesi būtu iedarbināmi pirmo neveiksmju simptomu gadījumā... Īsi sakot, augstu veiktspēju mēs iegūstam no tā, ka mums ir daudz resursu, nevis viens ļoti gudrs.

Kērzvails: Un ar laiku mēs par smadzenēm būsim sapratuši pietiekami daudz, lai spētu tajās iesūtīt sīkus skenerus un piefiksēt visas svarīgās detaļas, lai kādas tās arī izrādītos; būtībā – mēs varēsim augšuplādēt pietiekoši daudz datu par savu prātu, lai kādā citā mašīnā radītu precīzu tā kopiju...

Minskis: Jā – skaista nākotne, kurā mums ir rezerves kopijas un var nodarboties ar izpletņlēkšanu, daudz mazāk baidoties nosisties, jo pēdējā rezerves kopija varbūt tikusi pagatavota tikai pirms nedēļas. Es zinu cilvēkus, kuri visas savas vērtīgās zināšanas glabā datorā un sešus mēnešus nav nodrošinājuši datu rezerves kopiju. Vai vari iedomāties?

Kērzvails: Un cilvēki teiks: vai spējat iedomāties, pirms simt gadiem cilvēki savām smadzenēm netaisīja rezerves kopijas! Bet vai kādu no šīm kopijām tu uzskatītu par sevi vai vienkārši kādu citu, kurš izrādījies tev ļoti līdzīgs?

Minskis: Es... Es domāju, ka tas ir viens un tas pats. Es neesmu gluži tāds, kāds biju pirms piecām minūtēm, – jo sevišķi pēc tam, kad esmu pusstundu runājies ar Reju Kērzvailu... Es esmu acīmredzami cita persona.

Kērzvails: Tātad, ja mēs noskenētu tavas smadzenes ar ļoti augstas izšķirtspējas skeneri un spētu tevi radīt no jauna, tu par lēcienu ar izpleti uztrauktos krietni mazāk? Vai par jebkādu negadījumu, kas varētu notikt Mārvinam Minskim numur viens?

Minskis: Absolūti, lai gan ar izpletni es nelēktu tik un tā, jo mans laiks ir pārāk vērtīgs. Bet, ja visiem būtu rezerves kopijas, vai slepkavība joprojām skaitītos tikpat smags noziegums vai ne?

Kērzvails: Esejā, ko uzrakstīji manai pirmajai grāmatai, tu izvirzīji jautājumu, kāpēc tik daudzus kaitina doma, ka cilvēka smadzenes nav nekas cits kā bioloģiska mašīna.

Minskis: Cilvēki saka: skaidrs taču, ka es esmu persona, es esmu viena, atsevišķa lieta, veselums, un mašīnā, kurai vienkārši ir daudz daļu, nevar būt šādas centrālās ierīces. Manuprāt, tā ir ilūzija; mēs tā īsti nemaz neredzam paši sevi, drīzāk – mēs par sevi veidojam modeli. Kāda smadzeņu daļa vaicā: kas es esmu? Es esmu ķermenis un prāts. Un tad cita smadzeņu daļa to redz un saka: nu re, skaidrs! Es neesmu tikai mašīna! Vairākums uzskata, ka ar ķermeni un prātu nepietiek, tāpēc jābūt vēl kaut kam. Un tā ir taisnība – proti, ir vajadzīga arhitektoniska teorija par to, kā tas viss kopā strādā, bet, tā kā viņi nepārvalda datorzinātni vai vairumā gadījumu – nekādu zinātni, allaž tiek radīta kāda trešā kastīte, un to var nosaukt par garu vai dvēseli, vai dzīvības spēku... Šī kastīte ir tukša, bet cilvēki jūtas daudz labāk. Un vispār šādas kastītes ieviešana varētu būt veselīga gadījumam, ja mēs atklātu ko jaunu, jo tad būtu kur to jaunumu ievietot. Līdz ar to sajūta, ka tu nevari būt tikai mašīna, ir... savā ziņā tā ir izpratne, ka atsevišķu daļu aplūkošana nepavēsta, kā kaut kas strādā. Bet tā nav nekāda dziļā atziņa.

Minskis: Manuprāt, kad mēs sakām, ka daži prāta stāvokļi ir emocionāli, bet citi – intelektuāli, mēs esam atpakaļ Aristoteļa laikā, kuram tas ļoti labi sanāca. Man nešķiet, ka šis nošķīrums palīdz, tā drīzāk ir izvairīšanās domāt par prāta stāvokļiem. Proti, mēdz teikt, ka emocijas un domāšana atšķiras, līdzīgi kā melnbalta skice atšķiras no krāsaina gleznojuma. Manuprāt, tā ir nejēdzība. Emocionālajiem stāvokļiem parasti ir vienkāršāka struktūra nekā citiem domāšanas veidiem. Iemīlējies cilvēks ir izslēdzis savus iekšējos kritiķus, otrā tas nesaredz nekādus defektus, otrs tam šķiet tik ļoti vērtīgs, gudrs, skaists... Man vārds “skaists” nozīmē atrasties stāvoklī, kurā neesmu spējīgs šajā “skaistajā” saskatīt nekādus trūkumus. Man emocijas ir kaut kas zemāks par domāšanu, nevis otrādi.

Kērzvails: Pirms dažiem gadiem tu teici, ja vien mēs zinātu pareizās metodes, cilvēka līmeņa mākslīgo intelektu varētu radīt ar Pentium čipu, un ir bijis diezgan daudz diskusiju, vai pastāv kas tāds kā apstrādāšanas (processing) spēju līmenis, kas būtu nepieciešams, bet nepietiekams nosacījums, lai sasniegtu mākslīgo intelektu. Kā šķiet tev?

Minskis: Bija kāds pētījums, kas apgalvoja, ka šaha meistars spēj atpazīt 20 tūkstošus dažādu kombināciju modeļu. Tā bija de Grota tēze. Ja mēs radītu šaha programmu, kas darbojas ar šādu stratēģiju palīdzību, ļoti mazs dators – piemēram, tāds, kurš iebūvēts šajā videokamerā, – varētu būt pasaules čempions šahā. Bet ir noticis tā, ka pēdējos 50 gadus cilvēki ir būvējuši šaha programmas, tajās neiestrādājot stratēģisko domāšanu, līdz ar to tās ir ļoti zemā līmenī...

Kērzvails: Vispār jau tur ir bijis zināms progress. Proti, pēdējā laikā šaha programmas personālajos datoros, kuru skaitļošanas apjoms pielīdzināms vienam procesam no Deep Blue veikuma, ir spēlējušas labāk par pasaules šaha čempionu un regulāri to uzveikušas – tādēļ, ka tās spēj labāk atpazīt kombināciju modeļus.

Minskis: Tas ir ļoti interesanti. Neviens īsti nevar pateikt, cik lielu vai ātru datoru vajag, lai atdarinātu cilvēka augstāko domāšanas līmeni. Un man ir aizdomas, ka neko daudz nevajag, ka katra mazākā darbība, ko veicis dators, cilvēkā prasītu tūkstošiem neironu, jo smadzenes ir... Jo neironi ir diezgan neuzticami un svārstīgi. Mums tie vajadzīgi lielā skaitā, bet tie nav pārāk labi skaitļotāji.

Kērzvails: Kāds kopumā ir tavs viedoklis par mākslīgā intelekta potenciālu nākotnē – jo sevišķi cilvēka līmenī?

Minskis: Tas ir ļoti svarīgs jautājums, jo, manuprāt, mākslīgais intelekts mums pavisam drīz būs vajadzīgs – tā iemesla dēļ, kuru esi apsvēris tu, bet lielākā daļa cilvēku nav. Un iemesls ir tāds, ka cilvēku mūža ilgums strauji pieaugs. Pēdējo 60 gadu laikā cilvēku dzīves ilgums attīstības valstīs katrus četrus gadus ir pieaudzis par gadu. Tas nozīmē, ka tagad cilvēki dzīvo par 15 gadiem ilgāk nekā 1940. gadā. Un es paredzu, ka tas turpinās pieaugt, jo neviens īsti nezina novecošanas cēloņus, bet... Viens iemesls šajā ziņā būt optimistam ir tāds, ka mēs dzīvojam divreiz ilgāk par šimpanzēm – tās dzīvo apmēram 40, bet mēs 80 gadus – un mūsu evolūcijā ir pagājuši tikai kādi četri vai pieci miljoni gadu, tā ka pārāk daudz gēnu nav mainījies. Līdz ar to varētu būt tā, ka mēs varētu dubultot savu dzīves ilgumu, tikai izmainot dažus gēnus, un es paredzu, mēs visai drīz atklāsim, kuri ir tie maināmie... Un tad mēs sastapsimies ar interesantu situāciju, kurā cilvēki dzīvo, teiksim, 200 gadus, un viņiem, protams, būs tikai viens bērns uz vienu vecāku, jo planēta nevar panest pārāk daudz cilvēku. Līdz ar to būs viens sešdesmitgadīgs bērns uz katru 160 gadus veco it kā pensionāru – pieņemot, ka vēl būs kas tāds kā iešana pensijā. Īsi sakot, nebūs vairs neviena, kurš strādātu. Tāpēc mums vajadzēs ļoti gudras mašīnas, lai klātu gultas un pienaglotu saules enerģijas paneļus telefonu stabu galos, un visas citas lietas, kas būs jāpaveic. Tāpēc es ceru, ka mēs pēc iespējas drīzāk sāksim strādāt pie jaudīgu mašīnu izveides. Bet, tiklīdz cilvēki sāks pie tām strādāt, es nevaru iedomāties nekādus īpašus šķēršļus tām kļūt arvien gudrākām.

Protams, mums nāksies satraukties par to, ka daži pirmie simti versiju būs bīstami, neuzticami un pilni ar mistiskām kļūdām, un tad būs jāuzmanās, lai kādu laiku nepiešķirtu tām nekādu atbildību, bet tas attiecas uz jebkuru mašīnu. Kad parādījās automobiļi, cilvēki tika mācīti ar to trokšņiem nesabiedēt zirgus... (Smīn.)

Kērzvails: Un nav nekā, kas traucētu tām sasniegt cilvēka līmeni un to pārspēt, ne tā?

Minskis: Tā nevajadzētu būt. Nekas neatturēja šimpanzes sasniegt cilvēku līmeni, un nebūs arī nekā, kas atturētu mašīnas sasniegt cilvēku līmeni un vēl vairāk – ja vien mēs tās neapturēsim. Un, ja reiz par to runājam, mums vajadzētu būt ļoti uzmanīgiem šajos pārejas posmos, jo... Jo nav skaidrs, kā interesēs tās darbosies.

Kērzvails: Kas notiks, ja parādīsies mašīnas, kuras spēj vairāk par cilvēkiem?

Minskis: Nu, nevienam nebūs jāstrādā. Un cilvēkiem būs jāatrod kaut kas cits, ar ko nodarboties. Bet es par to pārāk neuztraucos, jo redzu, ka var uz vairākām stundām futbola stadionā ievietot 50 tūkstošus cilvēku skatīties, kā turp un atpakaļ tiek sperta bumba. Tāpēc man nešķiet, ka cilvēkus varētu satraukt situācija, kurā viņiem nekas nav jādara. Tomēr būs daži, kuri jutīsies neērti, jo patiešām vēlēsies ko sasniegt, un es viņiem ļoti jūtu līdzi.

Kērzvails: Nu, manā skatījumā mēs ar mašīnām savienosimies, mēs tās iekļausim savos ķermeņos un smadzenēs; mēs kļūsim daļēji nebioloģiski, tad galu galā mūsu nebioloģiskā daļa kļūs pārāka, un mēs kļūsim par mašīnām.

Minskis: Nu, jā. Pāreja varētu notikt visdažādākajos veidos.

Kērzvails: Cilvēki bieži satraucas par nedraudzīgu mākslīgo intelektu – ja kaut kas ir gudrāks par mums un ja tam ir iemesls vērsties pret mums, mēs esam ķezā. Kā pret to attiekties?

Minskis: Neviens to nezina. Kā pret to attiecās šimpanzes? Viņu populācija ir sarukusi līdz stāvoklim, kurā tās tiek izrādītas muzejos un zoodārzos, un savvaļas šimpanžu vairs nepietiek. Un ir vairāki iemesli, kāpēc tas ir ļoti slikti.

Kērzvails: Un mēs esam daļēji šimpanzes, tāpat kā šīs nākotnes mašīnas būs daļēji cilvēki – jo tās būs cēlušās no mums.

Minskis: Tās būs cēlušās, bet tās... Tās varbūt spēs pārkārtoties un teikt: nu ko, mums ir visas šīs lietas, ko esam mantojušas no cilvēkiem, un tās mūs velk pie zemes, tāpēc mēs varētu pārrakstīt kodu un izņemt ārā visas vecās paliekas. (Smīn.) Es nezinu, vai mēs maz vēlamies par to domāt. Bieži saka – zinātniekiem jābūt atbildīgākiem par savu rīcību. Bet patiesībā, ja runājam par spēju novērtēt savas rīcības labumu vai ļaunumu, zinātnieki nekādā mērā nav labāki – un varbūt pat ir sliktāki – par vidējo cilvēku. Un, ja parunā ar zinātniekiem, kuri pavadījuši daudz laika, mēģinot izlemt, vai kaut ko izgudrot vai ne, tas ļoti bieži beidzas ar lēmumu neļaut dzimt kaut kam brīnišķīgam. Līdz ar to vajag kādu, kurš pieņemtu šo lēmumu, bet es nezinu... Es nezinu, kā to vislabāk darīt, bet noteikti neuzskatu, ka apjautāšanās zinātniekiem par viņu ētiskajiem uzskatiem varētu palīdzēt.