EN | RU
AAA

UNESCO
Latvijas Nacionālā komisija
Reģ. Nr. 90000089305
Pils laukums 4 – 206,
Rīga, LV 1050
Tālrunis: +371 67 325 109
Fakss: +371 67 222 762
E-pasts: office@unesco.lv
latvijas dargumi
07.04.20.

Signe Mežinska: Kā nepazaudēt ētiskās vērtības, ikdienā ienākot robotiem?

Foto no S.Mežinskas personīgā arhīva.

Iespējams, ka fiziskās distancēšanās un sociālo izaicinājumu laiks ir īstais brīdis, lai runātu par robotikas ētiku. Skatoties nākotnē, robotikas attīstība varētu būt viens no risinājumiem daudzām problēmām, kuru aktualitāti īpaši asi saredzam krīzes situācijā, piemēram, darbaspēka trūkums noteiktās jomās, darbs bīstamās situācijās, nepieciešamība samazināt pārvietošanos starp valstīm utt. Ir visai liela iespēja, ka vecumdienās vismaz daļēji rūpes par mums uzņemsies aprūpes roboti, mūs izklaidēs sociālās saskarsmes roboti, slimības diagnosticēs un daļu ķirurģisko operāciju veiks medicīnas roboti, un gudri roboti izglītos mūsu mazbērnus. Jautājums ir, kā sagatavoties šai nākotnes situācijai, kā nepazaudēt ētiskās vērtības un ievērot ētikas principus, robotiem arvien plašāk ienākot ikdienas dzīvē?

Marta beigās UNESCO Latvijas Nacionālā komisija ir publiskojusi UNESCO Zinātnisko zināšanu un tehnoloģiju ētikas starptautiskās komisijas (COMEST - World Commission on the Ethics of Scientific Knowledge and Technology) 2017. gadā publiskotā ziņojuma par robotikas ētiku tulkojumu latviešu valodā. Apjomīgā COMEST ziņojuma par robotikas ētiku uzmanības centrā ir ētiskās problēmas, kas saistītas ar robotu arvien plašāku ienākšanu dažādās dzīves jomās. No ražošanas un militārās jomas roboti nu jau labu laiku ir ieceļojuši arī tādos ikdienišķos darbības laukos kā izglītība, veselības aprūpe, sociālā aprūpe, transports un lauksaimniecība. Zīmīgi, ka tieši 2017. gada nogalē medijos skaļi izskanēja vēsts par cilvēkveidīgā robota Sofijas viesošanos ANO, kur Sofija iesaistījās sarunā par ilgtspējīgu attīstību. Iespējams, ka video, kurā ANO ģenerālsekretāra vietniece Amina Mohameda pilnā nopietnībā sarunājas ar Sofiju, kļūs par zīmīgu 21. gadsimta pasaules robotizācijas liecību.

Lai sāktu diskusiju par robotikas ētiku, ir svarīgi vienoties, ko saprotam ar vārdu “robots”. Šim jautājumam COMEST ziņojumā ir pievērsta liela uzmanība, galvenokārt, nodalot divus dažādus robotu veidus – roboti, kurus vada determinēti algoritmi, un kognitīvie roboti, kuri pieņem lēmumus, izmantojot mākslīgo intelektu. Determinētu robotu darbība ir iepriekš paredzama, tādēļ galvenie ētiskie jautājumi saistībā ar tiem ir par to programmētāju atbildību un lietošanas mērķi. Kognitīvo robotu darbības (vai uzvedības?) neparedzamība rada pilnīgi citus, atšķirīgus jautājumus par to morālo statusu, atbildību un iesaistes pakāpi dažādās norisēs. Ja līdz 20. gadsimta beigām bija iespējams novilkt visai skaidru robežšķirtni starp robotiem, kas ir mašīnas, un cilvēkiem, kas ir atbildīgi un rīcībspējīgi subjekti, tad kognitīvo robotu saprātīgā uzvedība šo nošķīrumu liek pārvērtēt. COMEST ziņojums ir vērsts uz to ētisko problēmu analīzi, kas saistītas  tieši ar kognitīvo robotu izstrādi un lietošanu.

Jautājums par to, kas ir kognitīvie roboti, ir mulsinošs ne tikai domājot par tehniskām definīcijām, bet arī mēģinot par tiem runāt. Vai robots Sofija ir “viņa”, “viņš”, “tas” vai “tā”? Vai roboti domā, lemj un rīkojas? Dažkārt, it īpaši domājot un runājot par cilvēkveidīgiem kognitīvajiem robotiem saskarsmes situācijās, ir ļoti grūti izvairīties no antropomorfisku apzīmējumu lietošanas - grūti nerunāt par robotiem tā, kā mēs runājam par cilvēkiem. Galu galā arī daudzas Holivudas filmas un zinātniskās fantastikas literatūra plaši apspēlē robotu līdzību ar cilvēkiem un emocionāli iesaista mūs robotu cilvēciskošanas procesā (lai gan ārēja līdzība ar cilvēku nebūt nav nepieciešams kognitīvā robota raksturojums).

Šie jautājumi par valodas lietojumu tika aktīvi diskutēti arī COMEST ziņojuma apspriešanas procesā UNESCO, jo nenoliedzami veids, kā mēs par kaut ko runājam būtiski ietekmē to, kā mēs šo lietu vai parādību uztveram. Aprakstot robotu darbības tādos pašos vārdos, kādus lietojam aprakstot cilvēka darbības, biežāk rodas arī vēlme apsvērt robotu morālo statusu – jautājumus, kas saistīti ar robotu iespējamajām tiesībām, pienākumiem un atbildību. Pārdomu vērts šajā kontekstā ir fakts, ka Eiropas Parlamenta Juridiskā komiteja 2016. gada Ziņojumā par Civiltiesību noteikumiem par robotiku 59.(f) punktā ieteica apsvērt iespēju “piešķirt īpašu tiesisku statusu robotiem”, lai vismaz paši sarežģītākie kognitīvie roboti iegūtu elektronisku personu statusu, ar noteiktu atbildību, tiesībām un pienākumiem, tostarp, labot kaitējumu, ko tie būtu izraisījuši, un piemērot “elektroniskas personas statusu” gadījumos, kad roboti pieņem sarežģītus autonomus lēmumus”.  Ir visai skaidrs, ka tuvākajā nākotnē pie jautājuma par dažāda veida robotu morālo statusu zinātnieku, filozofu un juristu diskusijās nāksies atgriezties ne vienu reizi vien.

Kāpēc ir vērts izlasīt COMEST ziņojumu par robotikas ētiku? Pirmkārt, tādēļ, ka tas šobrīd ir plašākais pieejamais teksts par šo tēmu latviešu valodā, kurā ir daudzas atsauces uz dokumentiem un literatūru turpmākai lasīšanai. Tajā ir atsevišķi aplūkotas ētiskās problēmas, ko rada robotu iesaiste medicīnā, militārajā jomā un civilajā uzraudzībā, sociālajā aprūpē, izglītībā, lauksaimniecībā un citās jomās. Īpaši studentiem un skolēniem tas varētu būt vērtīgs sākotnējais avots, ar ko sākt šīs jomas apgūšanu, tomēr arī dažādu jomu profesionāļiem varētu būt interesanti iedziļināties ētiskajos jautājumos gan saistībā ar savu darbības jomu, gan citu robotikas pielietojumu kontekstā. Otrkārt, ziņojumā ir detalizēti analizēti ētikas principi un vērtības, kas ir  nozīmīgs ietvars ētisko problēmu analīzei robotikā – autonomija, privātums, cilvēka cieņa, nekaitēšanas princips un taisnīgums ir tikai daži no jēdzieniem, par kuriem ir runa šajā ziņojumā. Treškārt, ziņojumā ir visai plaša ieteikumu sadaļa, kurā apkopotas rekomendācijas dažādām iesaistītajām pusēm – inženieriem, zinātniekiem, politikas veidotājiem, lēmumu pieņēmējiem u.c.

Zinātnes un tehnoloģiju jomas ētiskās problēmas mūsdienās attīstās un mainās ļoti strauji, un šādā kontekstā vislielāko ļaunumu rada nevis tas, ka uzreiz nezinām atbildes uz kādu no ētiskajiem jautājumiem, bet gan situācija, kad ētiski jautājumi vispār nerodas, lai gan to uzdošanai ir nopietns pamats. Līdz ar to izglītība ētikas jomā lielā mērā nozīmē “ētiskā jutīguma” veidošanu – spēju ieraudzīt ētiskās problēmas. Cerams, ka COMEST ziņojums palīdzēs paplašināt redzesloku un veicināt mūsu jutīgumu un atbildību jautājumos par robotikas ētiku.

Ziņojums latviešu valodā lasāms te: http://www.unesco.lv/files/COMEST_zinojums_robotikas_etika_FINAL_13022020_d4a6318c.pdf.

* Signe Mežinska ir Latvijas Universitātes Medicīnas fakultātes asociētā profesore un UNESCO Starptautiskās bioētikas komitejas priekšsēdētāja vietniece.