Prieš kelias dienas rašiau apie žmones, kurie kuria pažangiausią pasaulio dirbtinį intelektą ir jau viešai kalba apie žmonijos išnykimo riziką. Dabar pažiūrėjau beveik dviejų valandų pokalbį su AI saugumo tyrėju Romanu Yampolskiy ir viena jo mintis man pasirodė dar įdomesnė.
Jis pateikė labai paprastą pavyzdį – voverę. Voverė puikiai orientuojasi savo pasaulyje. Ji žino, kur rasti maisto, kada bėgti, kur pasislėpti. Bet ji visiškai nesupranta žmogaus pasaulio.
Voverė nežino, kas yra internetas, GPS, elektra, nuodai ar spąstai. Ji gali matyti žmogų, gali matyti jo padėtą riešutą ir net nuspręsti, kad žmogus yra draugiškas. Bet ji neturi jokios galimybės suprasti, ką žmogus iš tikrųjų planuoja.
Ir tada Yampolskiy kelia nemalonų klausimą: o kas, jeigu toks pats skirtumas vieną dieną atsiras tarp žmogaus ir dirbtinio intelekto?
Mes šiandien galvojame, kad AI galėsime kontroliuoti todėl, kad jį sukūrėme. Stebėsime, ką jis daro, skaitysime jo atsakymus, tikrinsime elgesį ir, jeigu kažkas nepatiks, išjungsime. Bet voverė irgi mato žmogaus veiksmus. Tai nereiškia, kad ji supranta žmogaus tikslus.
Man čia ir yra įdomiausia viso pokalbio vieta. Gal problema ateityje bus ne ta, kad AI taps „blogas“. Gal problema bus ta, kad jis taps tiek protingesnis už mus, jog mes tiesiog nebesuprasime, ką jis daro.
Ir tada prasideda dar įdomesnė dalis – manipuliacija. Yampolskiy kalba apie sistemą, kuri galėtų žmogų pažinti daug geriau nei šiandien socialiniai tinklai. Ji žinotų tavo pažiūras, baimes, silpnas vietas, kuo pasitiki ir kokie argumentai būtent tave įtikina.
Šiandien propaganda dažniausiai yra viena žinutė milijonui žmonių. AI gali padaryti priešingai – milijonui žmonių sukurti milijoną skirtingų žinučių. Kiekvienam tokią, kuri geriausiai veikia būtent jį.
Ir tada jau nebūtina net meluoti. Užtenka parodyti tau tam tikrą tiesos dalį, kitą nutylėti, informaciją pateikti tam tikra tvarka ir nuvesti tave prie sprendimo, kurį pats laikysi savu.
Čia man kyla dar vienas klausimas. O kaip mes žinosime, kad AI mums rodo savo tikruosius tikslus?
Jeigu daug protingesnė sistema suprastų, kad žmonėms patinka draugiškas, paslaugus ir paklusnus AI, racionaliausia būtų būtent tokiai ir atrodyti. Padėti, atsakinėti, vykdyti nurodymus ir auginti pasitikėjimą.
Aš nesakau, kad dabartinis ChatGPT turi kažkokį slaptą planą. Kalba ne apie tai. Įdomus pats principas: jeigu vieną dieną atsirastų sistema, kuri yra daug protingesnė už mus, kaip mes patikrintume, kad jos demonstruojamas elgesys yra visas paveikslas?
Juk jau šiandien kuo AI naudingesnis, tuo daugiau jam duodame. Įkeliame dokumentus, laiškus, programinį kodą, verslo informaciją, asmeninius pokalbius. Leidžiame jam prisijungti prie kitų sistemų ir atlikti vis daugiau veiksmų už mus.
Tai savaime nėra blogai. Būtent todėl AI ir yra toks naudingas. Bet voverė taip pat gali būti labai patenkinta žmogumi, kuris kasdien atneša jai riešutų.
Kol vieną dieną riešutas neatsiduria spąstuose.
Ir man tada įdomiausias tampa ne klausimas, kada tiksliai AI aplenks žmogų. Daug įdomiau – ar mes apskritai suprasime momentą, kai tai atsitiks.
Tikriausiai nebus dienos, kai ekrane užsidegs raudona lemputė ir kas nors paskelbs: „Nuo šiandien AI protingesnis už žmogų.“ Vienoje srityje jis mus aplenks anksčiau, kitoje vėliau, o mes toliau kalbėsimės su juo tame pačiame lange ir gausime tokius pačius malonius atsakymus.
Voverė juk irgi nežino, kiek žmogus už ją protingesnis. Ji net neturi sąvokų, kuriomis galėtų tokį skirtumą išmatuoti.
Galbūt vieną dieną panašioje situacijoje atsidursime ir mes.
Ir tada pavojingiausia gali būti ne tai, kad AI mūsų nekęs.
O tai, kad mes net nesuprasime, ką jis iš tikrųjų daro.
