Atsirandant naujoms ir nuo žmogaus vis mažiau priklausomoms technologijoms visuomenė vis dažniau kelia klausimus apie tai, kaip reikėtų prižiūrėti ir reguliuoti dirbtinį intelektą. Apie tai diskutuoja atskirų valstybių politikai, kurdami nacionalines dirbtinio intelekto strategijas. Kalbama ir apie tarptautinį šių technologijų reguliavimą. Vienas geriausių to pavyzdžių – Europos Sąjungos valstybių narių pastangos sukurti vieningą dirbtinio intelekto technologijų teisinį reguliavimą.
Dirbtinio intelekto klausimas turi ir ryškų politinį ir saugumo dėmenį. Štai Rusijos agresijos prieš Ukrainą metu matome, kaip JAV technologijų magnato Elono Musko valdomos kompanijos „SpaceX“ vystoma „Starlink“ technologija padėjo užtikrinti interneto ryšį net ir nuolatinius bombardavimus ir apgultį išgyvenusioje Mariupolio „Azovstal“ gamykloje. Šaltąjį karą primenantys terminai neretai naudojami kalbant apie konkurenciją tarp dirbtinio intelekto technologijas vystančių Vakarų ir Kinijos kompanijų.
Apie tai, kaip vystosi dirbtinio intelekto technologijos, kaip jas siūloma reguliuoti ir kokią svarbą šios technologijos užima tarptautinių santykių arenoje kalbamės su VU TSPMI doktorantu J. Lingevičiumi.
– Kokį išsivystymo lygį jau yra pasiekusios naujausios viešai pristatytos dirbtinio intelekto technologijos? Kiek jos yra integruotos mūsų kasdieniame gyvenime?
– Kai kalbame apie dirbtinį intelektą realiu laiku, svarbu turėti mintyje ne savarankiškus robotus, bet tai, kad dirbtinis intelektas iš esmės yra procesų, didelio duomenų kiekio apdorojimo, generavimo ir t. t. įveiklintojas. Jis gali būti plačiau pritaikomas, skirtingose srityje – nuo vėžio diagnostikos medicinoje, kai algoritmai išmokomi atpažinti vėžines ląsteles, iki, pavyzdžiui, ką dabar matome Ukrainoje, autonominių dronų panaudojimo karo lauke. Dėl šios priežasties pažangos lygis skirtingose srityse gali būti labai įvairus.
Dabartinės tendencijos susijusios su bandymu artėti link to, ką vadiname žmogaus mąstymo gebėjimais. Sunku pasakyti, ar ir kada tą pavyks pasiekti, todėl, kad dirbtinis intelektas vis dar negali reflektuoti, interpretuoti, savarankiškai mokytis, jausti. Kitaip tariant, šiandien dirbtinis intelektas neturi svarbią žmogaus mąstymo ir veiklos dalį užimančių kognityvinių ir emocinių gebėjimų, nors aktyviai dirbama prie emocijų atpažinimo tobulinimo.
Kalbant apie kasdienį gyvenimą – turbūt pats akivaizdžiausias pavyzdys būtų algoritmais paremti socialiniai tinklai, kuriais nuolat naudojamės. Jei internete ieškote kelionės bilietų ar naujų drabužių, o vėliau gaunate tiesiogiai su paieškomis susijusias reklamas ar pasiūlymus – jie paremti algoritmų apie jus surinkta informacija: kuo domitės, kuo užsiimate, netgi kurių draugų nuotraukas ar turinį mėgstate. Dviejų žmonių socialiniuose tinkluose matoma informacija gali būti labai skirtinga būtent todėl, kad algoritmų, dirbtinio intelekto pagalba turinys pritaikomas prie konkrečių vartotojų.
– Dažnai kalbama, kad naujosios technologijos – ypatingai dirbtinis intelektas – leis automatizuoti nemažą dalį darbų gamybos, apdirbimo ir kituose sektoriuose. Kokių profesijų atstovai turėtų sunerimti dėl to, jog jų darbo vietą gali užimti patys save valdantys mechanizmai?
– Kaip jau minėjau, nors labai sunku nuspėti ateities galimybes, šiandien dirbtinis intelektas ar jo įgalintos technologijos turi pakankamai aiškias galimybių ribas, ypatingai susijusias su kūrybišku mąstymu, dinamišku sprendimų priėmimu. Tos profesijos, kurios reikalauja kūrybiškumo, interpretavimo, daugiasluoksnių sprendimų – šiandien neturi technologinės alternatyvos. Jeigu programa ir sugeba, apdorojusi, sakykime, 1000 skirtingų nuotraukų per trumpą laiką pateikti atsakymą į užduotą klausimą, žmogaus įsitraukimas interpretuoti tą rezultatą neeliminuojamas. Žinoma, iš tiesų daug svarstoma, kad labai standartizuotas darbas ar viešųjų paslaugų teikimas ateityje bus pakeičiami automatizuotais procesais, visgi, man rodos, išlieka klausimas, ar artimiausiu metu bus visiškai atsisakyta žmogaus priežiūros.
Pastarųjų metų skandalai Vakarų valstybėse, kuomet algoritmams, atrodytų, pagal objektyvius duomenis ir kriterijus patikėta priimti su socialinėmis išmokomis ar studentų rezultatais susijusius sprendimus, sulaukė rimtų politinių pasekmių. Bent jau šiandien atrodo, kad svarbiau kalbėti, kaip mes turėtume išmokti dirbti ir gyventi kartu su technologijomis ir kaip mūsų tarpusavio santykis turėtų atrodyti. Sociologiniai ar tarptautinių santykių tyrimai apie dirbtinio intelekto suvokimą valstybėse rodo, kad dažnu atveju formuluojamos nekritiškos pažangos ir proveržio nuostatos, prisidedančios prie automatizavimo spartėjimo. Visgi klausimai apie sprendimų priėmimą ir bendrai žmogaus ir technologijos tarpusavio santykį, kokio jo norime, ne mažiau aktualūs.
– Futuristiniuose veiksmo filmuose dažnai matome, kaip dirbtinio intelekto valdomos technologijos užima pasaulį ir sunaikina žmoniją. Žvelgiant iš mokslinio taško, ar tokios spekuliacijos gali vieną dieną tapti realybe?
– Iš tarptautinių santykių perspektyvos, kurią atstovauju, svarbūs klausimai apie tai, kaip dirbtinis intelektas tampa tarptautinės politikos darbotvarkės dalimi, kaip jis veika ar veiks valstybių tarpusavio santykius, tarptautinių organizacijų veiklą, kokia dinamika šiuo metu formuojasi.
Pavyzdžiui, pastaruosius 5 metus daug valstybių ir tarptautinių organizacijų paskelbė savo strategijas ar gaires – nuo Kinijos ambicijų tapti dirbtinio intelekto lydere iki 2030 m., iki praėjusių metų pabaigoje NATO paskelbtos naujos, dirbtiniam intelektui skirtos, strategijos. Taip pat kalbama, kad dirbtinis intelektas veda prie naujų galios varžybų, kuriose susidurs skirtingų politinių sistemų interesai, noras dominuoti, ir pan. Tačiau bent kol kas, man atrodo, kad už šių šiek tiek Šaltąjį karą primenančių apibrėžimų iš tiesų vyksta dabarčiai aktualaus žodyno paieška. Ji vyksta tiek politinėse, tiek ir akademinėse ar analitinėse diskusijose. Šalia vyriausybių dėl vystomų technologinių pajėgumų, infrastruktūros, inovacijų ir duomenų svarbiais ar net svarbesniais žaidėjais tampa didžiosios technologijų kompanijos, kurios, skirtingai nei vyriausybės demokratinėse valstybėse, neturi tiesioginės atskaitomybės už savo sprendimus ir pasirinkimus.
Pavyzdžiui, Rusijos agresijos prieš Ukrainą atveju matome, kaip kai kurios technologinės įmonės savarankiškai nusprendė suteikti ukrainiečiams prieigą prie savo platformų ar infrastruktūros, taip suteikdamos galimybę susikurti pranašumą karo lauke. Tokie atvejai parodo augančią galios šaltinių ir jos formuotojų įvairovę. Todėl dirbtinis intelektas daro ir vis labiau darys įtaką ne tik diskusijoms, bet ir konkretiems su saugumu susijusiems sprendimams ir praktikoms, įtampų ar bendradarbiavimo formavimuisi.
Šiek tiek pajuokaujant, žmonijos išnykimo klausimas nėra tik filmų fantastikos produktas. Galima surasti įvairių išnykimo šalininkų (angl. extinctionalists) publikacijų, kuriose teigiama, kad žmogaus galimybes pralenkiantis dirbtinis intelektas ir dabartinės žmogaus rasės išnykimas yra tolesnės evoliucijos dalis. Turbūt nuo kiekvieno iš mūsų požiūrio taip pat priklauso, ką labiau akcentuojame – galimybes ar rizikas.
– Kodėl dirbtinio intelekto teisinis reguliavimas yra toks svarbus? Kokių veiksmų siekiant geriau reguliuoti šių technologijų naudojimą Europoje imasi Europos Komisija (toliau – Komisija) ir kitos ES institucijos?
– Mano požiūriu, siūlomas teisinis reguliavimas yra pirmasis bandymas apibrėžti patį dirbtinio intelekto reiškinį, kas yra naudos ir rizikos, priimtina ir nepriimtina, galiausiai – pasiūlyti standartą kaip atskaitos tašką. Ir taip – šiuo atveju svarbiausia kol kas atrodo ES.
Trumpai pristatant kontekstą, Komisija 2021 m. pavasarį pristatė pasaulyje pirmą teisinį reglamento pasiūlymą, skirtą dirbtiniam intelektui – Dirbtinio intelekto aktą. Šiuo metu dėl jo vyksta derybos ir sunku nuspėti, kada jos gali pasibaigti. Komisijos pasiūlymas yra daugiausiai orientuotas į ekonomikos, verslo sritis, kažkiek socialinio saugumo elementus, dirbtinio intelekto pritaikymą ir panaudojimą suskirstant į keturias rizikų grupes: nepriimtinas, dideles, mažas ir minimalias rizikas. Pavyzdžiui, nepriimtinos – žalingas manipuliavimas, išnaudojimas prieš pažeidžiamus asmenis ar vertinimo sistema, kuri, beje, taikoma Kinijoje – draudžiamos. Didelės rizikos – biometrinis tapatybės nustatymas, kritinės infrastruktūros valdymas ir kt. – turės atitikti tam tikrus reikalavimus ir patekti į specialių priežiūros institucijų akiratį.
Žinoma, šis pasiūlymas susilaukė įvairios kritikos iš skirtingų interesų grupių ar nevyriausybinių organizacijų dėl skirtingų veiksnių, bet jo priėmimą gali labiausiai stabdyti Europos Parlamento (EP) pozicija. Skirtingai nei Komisijos pasiūlyme, EP pasiūlymo apimtyje nori gerokai daugiau dėmesio tiek gynybos klausimams, pavyzdžiui, kodėl nėra įtraukiama autonominiai ginklai ar dirbtinio intelekto panaudojimas kare, tiek įvairūs kiti politiniai klausimai – galimas dirbtinio intelekto panaudojimas dezinformacijai, rinkimų manipuliacijoms ir pan. Todėl neaišku, kaip pavyks šias tarpinstitucines pozicijas suderinti ir rasti bendrą sutarimą. Jeigu dėl kompromiso būtų bandoma įtraukti su saugumo politika susijusias nuostatas, tuomet pamatytume ir valstybių narių galimą pasipriešinimą ar nesutarimus. Kol kas savo nacionalinėse dirbtinio intelekto strategijose apie saugumo ar gynybos klausimus užsiminė vos pora valstybių, tarp jų Lietuvos nėra. Tai iš tiesų įdomi situacija. Visgi verta atkreipti dėmesį į du dalykus.
Komisijos teisinis pasiūlymas tarsi rodo ES norą dalyvauti globaliuose procesuose ir turėti vaidmenį galbūt ne tik pasiūlant, bet ir darant įtaką tam, kaip bus susitariama dėl sąvokų, taisyklių, draudimų ar pan. Paprastai tariant, suprantant savo ribotumus varžytis su JAV ar Kinija inovaciniais pajėgumais, reguliavimas tampa galios išraiška – tam, kad su dirbtiniu intelektu susijusios technologijos būtų perkamos ir naudojamos ES, jos turės atitikti bent jau viduje sutartus standartus. Minėta Kinijoje diegiama socialinio vertinimo praktika jau būtų draudžiama.
Antras svarbus momentas – aiškumo ir pasitikėjimo didinimas. Nors, kaip ir minėjau, šis konkretus pasiūlymas yra gan siauras sričių apimtimi, bet jis gali būti matomas ir kaip atspirties taškas, nuo kurio atsispiriame, ieškome, kas yra draudžiama, leidžiama, kelia ar nekelia rizikas. Galbūt tai ir visuomenei įneš tam tikro suvokimo, ką reiškia biometrinių duomenų rinkimas ir panaudojimas, ar suteikti juos norint gauti viešąsias paslaugas, kaip su jais turi būti elgiamasi ir pan.
– Komisija nuolat siūlo naujas taisykles, kuriomis siekiama užtikrinti, kad ES naudojamos dirbtinio intelekto sistemos būtų saugios, skaidrios, etiškos, nešališkos ir valdomos žmogaus. O kaip yra su trečiųjų šalių gaminamomis dirbtinio intelekto technologijomis? Ar jos gali patekti į ES rinką ir ar yra matoma neigiamų tendencijų, kai dirbtinio intelekto technologijos naudojamos blogiems tikslams?
– Šiuo metu civilinės paskirties dirbtinis intelektas nėra niekaip reguliuojamas, tad iš esmės kažkokių ribojimų ar draudimų nėra. Įdomus ir turbūt atskiro dėmesio vertas stebėjimo (angl. surveillance) technologijų atvejis. Kiek teko matyti statistikos apžvalgų, skirtingose valstybėse, ypatingai Vakarų Europoje, gausu kiniškų viešajam saugumui užtikrinti diegiamų kamerų ar panašios infrastruktūros. Neseniai girdėjome, kad panašios kameros instaliuotos ir Kaune. Jau kurį laiką girdime keliamą susirūpinimą dėl to, kur tokių sistemų surinkti duomenys keliauja, kam jie panaudojami ir ar įmanoma užtikrinti jų saugojimo skaidrumą.
Kita pilkoji zona – jau minėti socialiniai tinklai – kaip algoritmai prisideda ar panaudojami prie dezinformacijos sklaidai ar manipuliacijoms. ES imasi iniciatyvų – neseniai priimtas į bendrą skaitmeninimo paketą pakliūvantis Skaitmeninių paslaugų aktas, įvedantis papildomus reikalavimus turiniui ir jo skaidrumui. Bet tuomet vėl iškyla skirtingų reguliavimų suderinamumo ir įgyvendinimo klausimai.
