Žinia, kad gausi „Amazon“ darbuotojų komanda klausosi pokalbių, įrašytų kompanijos skaitmeninio asistento „Alexa“, atskleidė kontrastą tarp dirbtinio intelekto furoro ir realybės – menkai apmokamų žmonių būrių, leidžiančių technologijai veikti realiame gyvenime. Būtent šie žmogiškųjų resursų batalionai žygiuoja milžiniškos Silicio slėnio privatumo invazijos priešaky.
Priimta manyti, kad dirbtinis intelektas sugeba sėkmingai atpažinti modelius ir apdoroti natūralią kalbą. Tačiau iš tikrųjų praktiškai neįmanoma išmokyti neuroninį tinklą neklystamai atpažinti kalbą ar veidus. Algoritmus, numatytus sklandžiam bendravimui su žmonėmis, tenka nuolat perprogramuoti, kad jie prisitaikytų prie slengo pokyčių, populiacijos judėjimo, įnešančio naujų akcentų, kultūrinių reiškinių ir mados tendencijų.
Tai neįvyksta savaime; algoritmai negali patys susižinoti apie karščiausias popkultūros naujienas ar televizijos serialus. Praėjusių metų pasaulio futbolo čempionate Rusijoje valdžios institucijos naudojo sudėtingą veidų atpažinimo sistemą, kad būtų galima į stadionus neįleisti pagarsėjusių chuliganų. Viskas veikė – iki finalinio žaidimo, kai į futbolo aikštelę išbėgo pankroko grupės „Pussy Riot“ nariai, apsirengę policininkų uniformomis. Duomenų bazėje jų nebuvo.
Kad dirbtinis intelektas veiktų, jam reikia nuolatinio žmogaus indėlio. Tačiau kompanijos, parduodančios DI produktus, nenori klientams atskleisti, kokį vaidmenį atlieka tai, ką „Wired“ autorė Lily Hay Newman pavadino „slaptomis žmogiškosiomis pajėgomis“, ir tam yra dvi priežastys.
Viena iš jų ta, kad tūkstančių žmonių triūsas anotuojant iš klientų surinktus duomenis neskamba taip magiškai, kaip „gilus mokymasis“, „neuroniniai tinklai“ ir „žmogaus lygmens vaizdas ir kalbos atpažinimas“. Antroji – ta, kad žmonės yra linkę patikėti savo paslaptis bekūniam algoritmui, panašiai kaip karaliaus Mido kirpėjas šnabždėdavo nendrėms apie asiliškas karaliaus ausis. Tačiau visai kas kita, jeigu kyla rizika, kad tas paslaptis nugirs žmonės, juo labiau turintys prieigą prie informacijos, kuri galėtų padėti identifikuoti klientą.
Karaliaus Mido mite kirpėjo šnabždesius pasigavo ir sustiprino aidas – kaip tyčia, taip pat vadinasi ir „Amazon“ įrenginys, kuriuo iškviečiama „Alexa“. Darbuotojai, kurie anotuoja garso įrašus ir padeda mokyti virtualų asistentą, kad šis atpažintų, jog „Taylor Swift“ nereiškia skubaus užsakymo siuvėjui (angl. „tailor“ – siuvėjas, „swift“ – skubus), nemato klientų pilnų vardų ir adresų, tačiau, matyt, turi prieigą prie paskyrų ir įrenginių serijos numerių. O tai jau ne juokas – ypač kai kalbama apie privačius pokalbius, susijusius su finansiniais sandoriais ar jautriais šeimos klausimais. Žinoma, visa tai „Alexa“ nugirsta tada, kai atsitiktinai paleidžiamas skaitmeninis asistentas.
Nėra didelio skirtumo tarp šio prieigos lygio ir to, kuriuo naudojasi „Amazon“ valdomos saugumo kamerų įmonės „Ring“ Kijevo biuro darbuotojai. Šiais metais „Intercept“ pranešė, kad „Ring“ darbuotojai, kuriems pavesta anotuoti vaizdo medžiagą, slapta peržiūrinėja kameros įrašus, darytus tiek žmonių namuose, tiek už namų ribų.
„Amazon“ reakcija į „Intercept“ istoriją buvo žodis žodin panaši į tą, kurią ji pateikė „Bloomberg“. Kompanija pareiškė „absoliučiai netoleruojanti piktnaudžiavimo savo sistemomis“. Toks klišinis atsakymas nesukelia didelio pasitikėjimo.
„Amazon“, žinoma, nėra vienintelė kompanija, užsiimanti tokiais dalykais. 2017 m. „Expensify“, kuri padeda įmonėms valdyti darbuotojų išlaidų sąskaitas, pasamdė žmonių iš „Mechanical Turk“, „Amazon“ priklausančios darbo biržos, kad šie analizuotų kvitus. Praėjusiais metais „Guardian“ parašė apžvalgą apie tai, ką pavadino „pseudo-DI“, ir identifikavo keletą atvejų, kai technologijų kompanijos samdė prastai apmokamus žmones, kad šie kurtų duomenis dirbtinio intelekto mokymui.
Riba tarp mokymo ir imitacijos yra plona: norint sukurti būtiną duomenų rinkinį, kartais reikalingi žmonės, galintys atkartoti algoritmo darbą, ir tai gali tęstis ilgą laiką. Abejoju, ar „Facebook“ ir „Google“ kada nors atsikratys dešimčių tūkstančių samdinių, kurie peržiūrinėja įrašus, ieškodami įžeidžiančio, jautraus ar nusikalstamo turinio, nes jų algoritmai niekada nebus tokie gudrūs, kad be žmogaus pagalbos sugebėtų išvengti skandalingų klaidų.
Iš principo, nėra nieko blogo, kad žmonės dalyvauja DI veikloje. Tiesą sakant, taip viskas ir turėtų veikti, jei norime išvengti kataklizmo darbo rinkoje. Kaip neseniai paskelbė Daronas Acemoglu iš Masačusetso technologijos instituto ir Pascualis Restrepo iš Bostono universiteto, „automatizavimo poveikį kompensuoja naujų užduočių kūrimas, kur žmogaus darbas turi lyginamąjį pranašumą“. Šios „slaptos žmogiškosios pajėgos“ atlieka užduotis, kurios nebūtų atsiradusios, jei ne DI.
Problema slypi kitur. Kompanijos, dirbančios su DI projektais, turėtų elgtis sąžiningai ir neslėpti žmonių dalyvavimo procese. „Facebook“ ir „Google“ jau bando tą daryti: jų moderatoriai ir kokybės vertintojai atlieka panašų darbą, kaip ir „Amazon“ sukurtos „Alexos“ mokymo komanda.
Be abejo, atvirumas demistifikuos DI ir galbūt sumažins tokių invazinių produktų kaip „Echo“ pardavimus. Tačiau šiais laikais daugelis žmonių yra linkę aukoti privatumą patogumo vardan, taigi šie įrenginiai dar atneš pelno.
Šioje vietoje naudingą vaidmenį galėtų atlikti reguliatoriai. Jie turėtų užtikrinti, kad kompanijos iš tikrųjų anonimizuoja duomenų rinkinius DI mokymui ir neleidžia susieti jautrių duomenų su realiais žmonėmis – kitaip tariant, kad mums neteks priklausyti nuo kompanijų geranoriškumo ar sąžiningo reikalavimų vykdymo.
Be to, valdžios institucijos turėtų išnagrinėti darbuotojų gaunamus atlyginimus ir darbo sąlygas šiose naujose, į duomenis orientuotose profesijose. Šiuos žmones technologijų pramonė dažnai traktuoja kaip nesvarbius, nekvalifikuotus ir lengvai pakeičiamus – nors iš tiesų jie dirba emociškai ir psichologiškai įtemptą darbą, kas šiuo metu dar nėra iki galo suprantama.
Priežastis, kodėl šie darbuotojai kalbasi su žurnalistais, nepaisydami konfidencialumo sutarčių, yra ta, kad jie jaučiasi nepakankamai vertinami, nes dirba technologijų pramonės šlovės šešėlyje. O iš tiesų jų svarbus vaidmuo neturėtų būti laikomas purvina paslaptimi.
