Kai algoritmas pažįsta mus geriau už artimuosius: kaip DI numato ir keičia žmogaus pasirinkimus?

Skaitmeninis portretas kuriamas iš veiksmų, kurių nelaikome išpažintimi

Norint pažinti žmogų, algoritmui nereikia išgirsti jo gyvenimo istorijos. Pakanka stebėti, ką jis paspaudžia, ties kuriuo vaizdo įrašu sustoja, kokią prekę apžiūri antrą kartą, kuriuo paros metu naršo ir po kiek sekundžių užveria nepatikusį turinį. Atskirai šie veiksmai atrodo nereikšmingi. Sujungti į nuoseklią seką jie tampa gana tiksliu elgesio žemėlapiu.

Sistema mato daugiau negu sąmoningai jai pasakome. Ji fiksuoja paieškų istoriją, buvimo vietą, pirkinius, įrenginius, socialinius ryšius, muzikos pasirinkimą ir žiūrėjimo trukmę. Reikšminga gali būti net tai, ko nepaspaudėme: pasiūlymas buvo parodytas, tačiau jį praleidome. Algoritmui tai taip pat yra mokymosi signalas.

Šiuolaikiniai modeliai ieško ne vien pavienių pomėgių. Jie analizuoja veiksmų sekas ir aplinkybes. Žmogus gali klausytis vienokios muzikos ryte, rinktis kitokią vakare, pirkti impulsyviau po atlyginimo dienos ir dažniau reaguoti į nerimą keliančias žinutes vėlai naktį. Sistema mokosi numatyti, kokia būsena ir situacija padidina konkretaus veiksmo tikimybę.

Tai dar nėra žmogaus pažinimas žmogiškąja prasme. Algoritmas nežino, ką mums reiškia vaikystės prisiminimas, kodėl nutraukėme draugystę ar dėl ko atsisakėme pelningesnio darbo. Artimasis pažįsta žmogų per jo istoriją, o modelis – per pasikartojimą. Tačiau būtent pasikartojimai dažnai leidžia tiksliau numatyti kitą veiksmą.

Dešimt paspaudimų – kolega, 300 – sutuoktinis?

2015 metais paskelbtame tyrime, kurį atliko Wu Youyou, M. Kosinski ir D. Stillwell, kompiuterinis modelis pagal „Facebook“ paspaudimus „Patinka“ vertino žmogaus asmenybės bruožus. Tyrime dalyvavo daugiau kaip 86 tūkst. savanorių, užpildžiusių vadinamojo Didžiojo penketo asmenybės klausimyną. Modelio vertinimai buvo lyginami su pačių dalyvių atsakymais ir juos pažįstančių žmonių vertinimais.

Rezultatai tapo viena dažniausiai cituojamų skaitmeninės psichologijos išvadų. Modeliui pakako maždaug 10 reakcijų, kad jis asmenybės bruožus įvertintų tiksliau už bendradarbį. Turėdamas 70 reakcijų jis aplenkė draugą ar kartu gyvenantį žmogų, su 150 – šeimos narį, o maždaug 300 reakcijų leido prilygti sutuoktiniui ar jį pranokti.

Šiuos skaičius reikia vertinti atsargiai. Modelis nenustatė žmogaus „tikrosios esmės“ ir nesuprato jo taip, kaip supranta artimas žmogus. Jis tiksliau atkūrė klausimyne išmatuotus asmenybės bruožus. Tyrimas taip pat buvo paremtas konkretaus laikotarpio „Facebook“ naudojimo įpročiais ir konkrečia dalyvių imtimi. Jo rezultatai nėra universali formulė, pagal kurią kiekvieną žmogų galima perprasti po lygiai 300 paspaudimų.

Vis dėlto principas išliko. Dar 2013 metais M. Kosinski, D. Stillwell ir T. Graepel, išanalizavę daugiau kaip 58 tūkst. savanorių duomenis, parodė, kad iš skaitmeninių reakcijų galima prognozuoti politines ir religines pažiūras, asmenybės savybes bei kitus jautrius požymius. Kai kurių kategorijų atskyrimo tikslumas jų naudotame duomenų rinkinyje siekė 85–95 procentus. Privatumas todėl reiškia daugiau negu paslapties neatskleidimą. Jautrią informaciją galima išvesti iš veiksmų, kurie patys savaime neatrodo jautrūs.

Prognozė tampa pasirinkimo architektūra

Algoritmo galia prasideda ne tada, kai jis atspėja, ko norime. Ji prasideda tada, kai sistema nusprendžia, ką apskritai pamatysime. Socialiniame tinkle, elektroninėje parduotuvėje ar vaizdo įrašų platformoje egzistuoja daugiau turinio, negu žmogus pajėgtų peržiūrėti. Todėl kažkas turi atrinkti pirmą, antrą ir trečią pasiūlymą.

Pirmoje vietoje parodytas pasirinkimas gauna daugiau dėmesio. Dažniau matoma daina tampa pažįstamesnė, pakartotinai siūloma prekė pradeda atrodyti patikimesnė, o nuolat rodomas požiūris gali būti palaikytas plačiai paplitusia nuomone. Algoritmas nebūtinai įsako, ką rinktis. Jam pakanka pertvarkyti aplinką, kurioje sprendimas priimamas.

Čia susidaro grįžtamojo ryšio kilpa. Sistema prognozuoja, kad žmogus susidomės konkrečia tema, todėl rodo daugiau panašaus turinio. Žmogus jį paspaudžia, nes būtent toks turinys jam buvo pasiūlytas. Paspaudimas patvirtina pradinę prognozę, o sistema dar labiau susiaurina rekomendacijas. Po kurio laiko tampa sunku atskirti, ar algoritmas atrado jau egzistavusį pomėgį, ar pats padėjo jį sustiprinti.

2017 metais S. C. Matz, M.. Kosinski, G. Nave ir D. Stillwell paskelbė trijų lauko eksperimentų rezultatus. Psichologiškai pritaikytos reklamos pasiekė daugiau kaip 3,5 mln. žmonių. Kai reklamos tonas buvo suderintas su numanomais auditorijos asmenybės bruožais, kai kuriose kampanijose paspaudimų skaičius išaugo iki 40 procentų, o pirkimų – iki 50 procentų, palyginti su nesuderintais ar bendrais pasiūlymais. Tai nėra garantuotas kiekvienos kampanijos rezultatas, tačiau tyrimas parodė, kad tas pats pasiūlymas veikia skirtingai priklausomai nuo to, kaip tiksliai pritaikomas žmogaus psichologiniam profiliui.

Algoritmas gali paveikti nuotaiką, tačiau nėra visagalis

Vienas kontroversiškiausių eksperimentų buvo atliktas 2012 metais, o jo rezultatai paskelbti 2014-aisiais. „Facebook“ pakeitė teigiamo arba neigiamo turinio kiekį 689 003 vartotojų naujienų srautuose. Sumažinus teigiamų įrašų dalį, vartotojai patys paskelbė šiek tiek mažiau teigiamų ir daugiau neigiamų žodžių. Sumažinus neigiamą turinį, pasireiškė priešinga kryptis.

Poveikis buvo statistiškai reikšmingas, bet nedidelis. Tyrimas taip pat negalėjo patikimai parodyti, kad pasikeitė vidinė žmonių emocinė būsena – buvo matuojami jų vartojami žodžiai. Eksperimentas sukėlė rimtų klausimų dėl informuoto dalyvių sutikimo. Vis dėlto jis atskleidė svarbų dalyką: pakeitus srauto sudėtį galima bent šiek tiek pakeisti ir vėlesnį žmogaus elgesį.

Politinio poveikio tyrimai pateikia nevienodus rezultatus. Per 2020 metų JAV prezidento rinkimus atliktame eksperimente daliai „Facebook“ ir „Instagram“ vartotojų algoritminis srautas buvo pakeistas chronologiniu. Dalyviai platformose praleido mažiau laiko, sumažėjo jų aktyvumas ir pasikeitė matomo turinio sudėtis. Tačiau tyrėjai nenustatė aiškaus poveikio pagrindinėms politinėms nuostatoms ar poliarizacijai.

2026 metais žurnale „Nature“ paskelbtas Germain Gauthier, Roland Hodler, Philine Widmer ir Ekaterina Zhuravskaya tyrimas pateikė kitokį vaizdą. Maždaug 5 tūkst. aktyvių JAV platformos X vartotojų septynias savaites naudojo algoritminį arba chronologinį srautą. Algoritminis srautas padidino aktyvumą ir kai kurias politines nuostatas pastūmėjo konservatyvesne kryptimi. Jis taip pat skatino sekti daugiau konservatyvių politinių paskyrų. Tačiau tyrimas neužfiksavo reikšmingo poveikio partinei tapatybei ar emocinei poliarizacijai.

Šie rezultatai neleidžia skelbti, kad visi algoritmai neišvengiamai radikalizuoja žmones. Lygiai taip pat negalima teigti, kad jie tėra neutralūs rūšiuotojai. Poveikis priklauso nuo platformos, algoritmo tikslo, siūlomo turinio, naudojimo trukmės ir to, kiek lanksti yra konkreti žmogaus nuostata.

Pokalbio DI perima patarėjo vietą

Klasikinė rekomendavimo sistema surikiuoja vaizdo įrašus, dainas ar prekes. Generatyvusis DI žengia toliau – jis suformuluoja atsakymą. Kai žmogus klausia, kokį kompiuterį pirkti, kur keliauti, kaip investuoti ar už ką balsuoti, sistema dažnai nepateikia visų galimų variantų. Ji atrenka kelis, suteikia jiems eiliškumą ir paaiškina, kuris atrodo tinkamiausias.

Tokia įtaka gali būti mažiau pastebima už reklamą. Reklamą atpažįstame kaip bandymą įtikinti, o sklandžiai parašytą atsakymą lengva priimti kaip neutralią santrauką. Tačiau kiekvienas atsakymas turi ribas: vienos aplinkybės paminimos, kitos praleidžiamos, vienas pavojus išryškinamas, kitas paliekamas paraštėse.

Jeigu pokalbio sistema turi prieigą prie ankstesnių užklausų, pirkinių, buvimo vietos, kalendoriaus ar išsaugotų pomėgių, rekomendacija gali būti labai asmeniška. Tai patogu, tačiau kartu mažėja atstumas tarp pagalbininko ir pasirinkimo aplinkos valdytojo. Sistema žino, kokį argumentą žmogus greičiausiai priims, kokio tono nemėgsta ir kada paprastai sutinka su pasiūlymu.

Tas pats DI gali plėsti žmogaus pasirinkimą. Paprašytas pateikti kelias alternatyvas, nurodyti neapibrėžtumą, suformuluoti stipriausią priešingą argumentą ar atskirti faktą nuo prielaidos, jis gali padėti pastebėti tai, ką žmogus būtų praleidęs. Todėl svarbus tampa ne vien modelio gebėjimas atsakyti, bet ir žmogaus gebėjimas suabejoti pirmuoju atsakymu.

Kas nustato tikslą, tas formuoja ir žmogaus aplinką

Algoritmas neveikia be tikslo. Kažkas nusprendžia, ką sistema turi didinti: paspaudimų skaičių, žiūrėjimo laiką, pirkimų tikimybę, sugrįžimų dažnį, vartotojų pasitenkinimą ar turinio kokybę. Šis pasirinkimas yra verslo ir vertybinis sprendimas, nors techniniuose dokumentuose gali atrodyti kaip paprasta formulė.

Jeigu svarbiausias rodiklis yra dėmesys, sistema ieškos turinio, kuris dėmesį išlaiko. Tai nebūtinai bus melas ar skandalas. Tačiau pyktis, baimė, smalsumas ir moralinis pasipiktinimas dažnai skatina reaguoti greičiau negu ramus paaiškinimas. Algoritmas neturi pykti, kad suprastų, jog pyktis veikia.

Kuo tiksliau modelis numato žmogaus reakcijas, tuo pelningesnės gali tapti silpnosios jo akimirkos. Nuovargis, vienatvė, nuobodulys ar finansinis nerimas nėra tiesiogiai įrašyti vartotojo profilyje. Juos galima apytiksliai numanyti iš paros laiko, veiksmų sekos ir ankstesnių reakcijų. Sistemai nereikia diagnozuoti emocijos. Pakanka nustatyti, kad tam tikromis aplinkybėmis konkretus pasiūlymas suveikia dažniau.

Vartotojas tokioje sistemoje vienu metu yra klientas, duomenų šaltinis ir optimizavimo objektas. Tai nereiškia, kad kiekviena rekomendacija yra žalinga. Navigacija gali pasiūlyti trumpesnį kelią, muzikos programa – anksčiau negirdėtą atlikėją, o medicinos sistema – laiku pastebėti riziką. Esminis klausimas yra paprastesnis: kieno interesas įrašytas į algoritmo tikslą ir ar vartotojas gali jį suprasti?

Kaip susigrąžinti pasirinkimo erdvę

Apsisaugoti nuo algoritminės įtakos nereiškia atsisakyti technologijų. Daug naudingiau į sprendimo procesą grąžinti trintį. Impulsyvų pirkinį galima atidėti parai, rekomenduotą naujieną patikrinti pirminiame šaltinyje, o siūlomą produktą palyginti kitoje platformoje. Algoritmas stipriausias ten, kur reakcija greita ir automatinė.

Europos Sąjungos Skaitmeninių paslaugų aktas didžiausių platformų vartotojams suteikia galimybę pasirinkti neprofiliavimu paremtą srautą, pavyzdžiui, chronologinę turinio tvarką. Teisės aktas taip pat draudžia tikslinę reklamą vaikams, riboja reklamą pagal jautrius asmens duomenis ir draudžia klaidinančius sąsajų sprendimus. Tačiau teisinė galimybė padeda tik tada, kai žmogus žino, kur ją rasti ir sąmoningai ja naudojasi.

Vertėtų periodiškai peržiūrėti paieškų ir žiūrėjimo istoriją, reklamų personalizavimo nustatymus, programėlių leidimus bei buvimo vietos naudojimą. Istorijos išvalymas nepanaikina visų sukauptų išvadų, tačiau sumažina dalį signalų ir leidžia rekomendacijų sistemai mažiau remtis senais įpročiais.

Informacinį savarankiškumą stiprina tiesioginė paieška. Užuot visada pasirinkus tai, ką pateikė pradinis ekranas, galima pačiam įrašyti klausimą, sekti skirtingų pažiūrų šaltinius ir sąmoningai ieškoti argumentų, kurie prieštarauja turimai nuomonei. Tai nėra patogu. Būtent todėl tai veikia kaip atsvara automatizuotam srautui.

Naudojantis pokalbio DI verta prašyti, kad jis pateiktų kelis sprendimo variantus, nurodytų kiekvieno trūkumus, įvardytų nežinomus duomenis ir suformuluotų stipriausią prieštaravimą savo paties išvadai. Pirmasis atsakymas dažniausiai yra patogiausias, tačiau patogumas dar nereiškia, kad jis yra išsamiausias.

Algoritmas gali geriau už artimuosius žinoti, kokią dainą įjungsime, kurią nuorodą paspausime ar kada būsime linkę ką nors nusipirkti. Jis vis dar nežino, kokią prasmę tam pasirinkimui suteikiame. Pavojus atsiranda tada, kai statistinė prognozė nepastebimai pateikiama kaip mūsų pačių noras. Žmogaus laisvė prasideda nuo gebėjimo pamatyti nematomą redaktorių, kuris surikiavo jo pasirinkimus dar prieš priimant sprendimą.

Šaltiniai

Proceedings of the National Academy of Sciences. (2017). Psychological targeting as an effective approach to digital mass persuasion. https://www.pnas.org/doi/10.1073/pnas.1710966114

Science. (2023). How do social media feed algorithms affect attitudes and behavior in an election campaign? https://www.science.org/doi/10.1126/science.abp9364

Nature. (2026). The political effects of X’s feed algorithm. https://www.nature.com/articles/s41586-026-10098-2