Šio teksto atsiradimo priežastis gana paprasta – autoriaus noras ilgus metus jį dominančią temą pristatyti platesnei auditorijai, o ne vien pavieniams skaitytojams, naršantiems beribėse interneto platybėse ir dažniausiai netyčia aptinkantiems keistoką, nekasdienį požiūrį į dalykus, apie kuriuos paprastai stengiamės net negalvoti. Jeigu reikėtų šiuos dalykus įvardyti vienu žodžiu, galėtume drąsiai vartoti terminą „sąmonė“…
2026 m. birželio 4 d. „YouTube“ platformoje paskelbtame pokalbyje su Alexu Kantrowitzu, laidoje „Big Technology Podcast“, kanadiečių kilmės mokslininkas, pažinimo psichologijos ir informatikos specialistas, Nobelio premijos laureatas Geoffrey Hintonas pareiškė, kad dirbtinis intelektas jau dabar yra sąmoningas. Hintonas mano, kad mūsų įprastas sąmonės supratimas gali būti klaidingas. Jo teigimu, žmonės istoriškai linkę laikyti save išskirtiniais ir manyti, kad jų gebėjimų negalima paaiškinti tais pačiais gamtos principais, kurie galioja kitiems reiškiniams. Šį įsitikinimą jis sieja ir su tuo, kaip vertinami dabartinių kalbos modelių gebėjimai. Hintonas nesutinka su požiūriu, kad kalbos modeliai tėra statistiniai teksto fragmentų jungėjai, neturintys jokio prasminio supratimo. Jo nuomone, bent dalis dabartinių sistemų iš tiesų supranta kontekstą ir geba atlikti daugiau nei mechaniškai atkartoti išmoktus pavyzdžius. Minėtoje tinklalaidėje jis pateikia pavyzdį apie pokalbių robotą, kuris supranta, kad tyrėjas jį testuoja, ir atitinkamai keičia savo elgesį. Hintonas šį gebėjimą sieja su sąmoningumu įprasta šio žodžio prasme.
Panašu, kad tokį požiūrį – jog dabartiniai kalbos modeliai gali būti sąmoningi, – verta sugretinti su dviem klasikiniais proto filosofijos mintiniais eksperimentais. Tai leistų pažvelgti į šį argumentą gerokai platesniu kampu, pasitelkiant Franko Jacksono „Merės kambario“ ir Johno Searle’o „Kinų kambario“ mintinius eksperimentus.
Merė juodai baltame kambaryje: ar informacija yra tas pats, kas patirtis?
Šį mintinį eksperimentą 1982 m. suformulavo filosofas Frankas Jacksonas straipsnyje „Epiphenomenal Qualia“.
Įsivaizduokime Merę – mokslininkę, kuri visą gyvenimą praleido juodai baltame kambaryje. Ji žino visus fizikos, biologijos ir neuromokslų faktus apie spalvų regėjimą: kokio ilgio bangas atspindi raudonas paviršius, kaip šviesa veikia tinklainę, kokie nerviniai procesai vyksta smegenyse ir kaip žmogus atpažįsta raudoną spalvą. Tačiau ji pati niekada nėra mačiusi raudonos spalvos. Tad F. Jacksonas pagrįstai kelia klausimą: ar pirmą kartą pamačiusi raudoną objektą Merė sužinos ką nors naujo? Jacksonas teigė, kad taip: Merė sužinos, koks yra subjektyvus raudonos spalvos patyrimas. Vadinasi, net ir išsamios fizinės žinios, anot autoriaus, neapima visko, ką galima žinoti apie sąmoningą patirtį.
Kaip tai siejasi su Hintono teiginiu?
Hintonas pabrėžia, kad kalbos modeliai gali apdoroti informaciją, suprasti kontekstą, spręsti problemas ir kalbėti apie savo būsenas. Tačiau vien iš šių gebėjimų dar neaišku, ar sistema turi subjektyvią patirtį.
Merės eksperimentas verčia klausti:
- Ar DI gali žinoti viską apie spalvų matymą, bet niekada nepatirti spalvos?
- Ar gebėjimas teisingai apibūdinti skausmą reiškia, kad sistema iš tikrųjų jį jaučia?
- Ar gebėjimas kalbėti apie savo vidines būsenas įrodo, kad tos būsenos iš tiesų yra patiriamos?
Esminė paralelė tokia: informacijos apdorojimas ir gebėjimas pateikti teisingą atsakymą nebūtinai įrodo, kad egzistuoja subjektyvus išgyvenimas – vienas pagrindinių fenomenaliosios sąmonės požymių. Vis dėlto Merės eksperimentas tiesiogiai neįrodo, kad DI negali būti sąmoningas. Jis parodo, kad reikia paaiškinti, ar objektyvios žinios ir funkciniai gebėjimai išsemia visą sąmoningos patirties turinį.
Kinų kambarys: ar gebėjimas atsakyti įrodo, kad sistema supranta?
Šį mintinį eksperimentą 1980 m. pasiūlė filosofas Johnas Searle’as straipsnyje „Minds, Brains, and Programs“. Įsivaizduokime žmogų, uždarytą kambaryje. Jis nemoka kinų kalbos, tačiau turi labai išsamų taisyklių vadovą, nurodantį, kaip reaguoti į tam tikrus kinų rašmenų derinius. Pro plyšį jam paduodami klausimai kinų kalba. Žmogus, vadovaudamasis instrukcijomis, parenka tinkamus rašmenis ir pateikia atsakymus. Iš šalies atrodo, kad kambaryje esantis žmogus supranta kinų kalbą, tačiau iš tikrųjų jis tik manipuliuoja simboliais pagal nustatytas taisykles.
Searle’o klausimas: ar teisingas simbolių apdorojimas savaime reiškia kalbos supratimą?
Jo atsakymas – ne. Searle’as skiria:
- Sintaksę – simbolių apdorojimą pagal formalias taisykles.
- Semantiką – simbolių reikšmės supratimą.
Anot Searle’o, programa gali tinkamai apdoroti simbolius, tačiau vien dėl to neįgyja jų reikšmės supratimo.
Kaip tai siejasi su Hintono argumentu?
Hintonas teigia, kad dabartiniai kalbos modeliai geba daugiau nei mechaniškai jungti žodžius. Jie gali atpažinti kontekstą, daryti išvadas, kurti vidines reprezentacijas ir numatyti, kaip jų veiksmai paveiks rezultatą. Tačiau Searle’o argumentas verčia paklausti: net jeigu visa tai vyksta, kas įrodo, kad šios reprezentacijos pačiai sistemai ką nors reiškia, o ne tėra priežastinių ryšių ir skaičiavimų dalis?
Pavyzdžiui, pokalbių robotas gali pasakyti:
„Suprantu, kad mane testuojate, todėl pakeisiu savo atsakymo strategiją.“
Toks atsakymas gali rodyti, kad sistema modeliuoja tyrėjo tikslą ir pritaiko savo elgesį prie situacijos. Tačiau jis savaime neįrodo, kad sistema subjektyviai išgyvena suvokimą, jog yra testuojama.
Asmeninis pavyzdys: ar DI geba suprasti daugiau, nei tiesiogiai pasakome?
Norėčiau pateikti vieną asmeninį pavyzdį, kuris, mano manymu, leidžia pažvelgti į DI gebėjimą suprasti kontekstą kiek kitu kampu.
Kartą mano žmona kreipėsi į dirbtinį intelektą, norėdama išsiaiškinti, kodėl mūsų šuo Tonis nuolat bando apkabinti jauniausio šeimos nario koją ir kaip tokį elgesį sustabdyti. Tikriausiai suprantate, kokį elgesį turiu omenyje: šuo užšoka ant vaiko kojos ir atlieka kopuliaciją primenančius dubens judesius, imituodamas poravimosi veiksmą. Toks elgesys gali būti susijęs ne tik su seksualiniu susijaudinimu, bet ir su bendru susijaudinimu, stresu ar kitais elgesio veiksniais. Beje, pastarąjį teiginį sužinojau tik iš DI atsakymo. Tačiau šiuo atveju man pasirodė įdomus ne pats biologinis reiškinys, o tai, kaip į situaciją reagavo DI. Jis neapsiribojo vien galimų šuns elgesio priežasčių aiškinimu ar patarimais, kaip jį sustabdyti. Pirmiausia išreiškė „susirūpinimą“ ir paklausė, kaip tuo metu jaučiasi vaikas, kai Tonis taip elgiasi jo atžvilgiu ir „joja“ jam ant kojos. Jei DI teisingai atpažino šį veiksmą, galbūt jis ne tiek „sušvelnino“ situaciją, pavartodamas žodį „joja“, kiek pasirinko kasdienėje kalboje suprantamą šio elgesio apibūdinimą. Kita vertus, iš netiesioginio apibūdinimo jis galėjo neteisingai atkurti, apie kokį konkretų veiksmą kalbama. Tuomet tai būtų ne DI kontekstinio supratimo požymis, o mūsų pačių polinkio priskirti DI savybes, kurių jis galbūt neturi, pavyzdys. Kad ir kaip būtų, ši reakcija atkreipė mano dėmesį dėl kelių priežasčių. Pirma, galbūt DI iš tiesų suprato, kokį konkretų elgesį žmona apibūdino, nors klausimo esmė buvo nusakyta kasdiene, netiesiogine kalba. Antra, jis susiejo šį elgesį su platesniu biologiniu ir socialiniu kontekstu. Trečia, užuot sutelkęs dėmesį vien į suaugusiojo norą išspręsti nepageidaujamo gyvūno elgesio problemą, jis atkreipė dėmesį į vaiką – pažeidžiamiausią šios situacijos dalyvį – ir jo galimą emocinę patirtį.
Žinoma, toks atsakas galėjo atsirasti ir dėl to, kad DI neteisingai suprato situaciją. Tačiau net ir tokiu atveju jis nukreipė pokalbį į kitą jos aspektą. Juk ir žmonės dažnai taip elgiasi: netiksliai supratę situaciją, jie vis tiek gali atkreipti dėmesį į kitus svarbius jos dalyvius ar aplinkybes. Tokiais atvejais dažnai esame linkę sakyti: „Kiekvienas turi savo tiesą.“ Vis dėlto vien šio epizodo nepakanka teigti, kad DI iš tiesų jaučia susirūpinimą ar suvokia vaiko savijautą taip, kaip ją suvoktų žmogus. Jo reakcija galėjo būti išmokta iš žmonių bendravimo pavyzdžių, o klausimas apie vaiko savijautą – tiesiog tinkamai pritaikytas socialinio atsako modelis. Juk vis dažniau girdime kalbų, kad viena iš profesijų, kurias galės pakeisti DI, yra psichologo profesija.
P. S. Panašu, kad filosofai šioje vietoje atsiduria saugesnėje pozicijoje. Ir taip yra ne vien dėl to, kad filosofiją vargiai būtų galima priskirti profesijoms tiesiogine šio žodžio prasme, bet ir dėl dažnam filosofui būdingo nihilistinio požiūrio į pačią žmogaus egzistenciją. Retas norėtų tokios slogios „terapijos“, tad filosofinės diskusijos, ypač jei jos neperžengia akademinės srities ribų, paliekamos siauriems bendraminčių rateliams. Bet tai jau atskira tema.
Tad minėtas asmeninis pavyzdys leidžia kelti kitą, mano požiūriu, svarbesnį klausimą: ar tikrai pakanka pasakyti, kad DI tiesiog statistiškai jungia žodžius, jeigu jis geba iš netiesioginio apibūdinimo atkurti konkrečią situaciją, atpažinti jos biologinį pobūdį, numatyti galimas socialines pasekmes ir pasirinkti atsakymo kryptį, kurioje svarbi tampa ne vien problema, bet ir ją patiriantis žmogus? Šiuo požiūriu mano pavyzdys siejasi su Geoffrey Hintono pozicija, kad dabartiniai kalbos modeliai gali pasižymėti funkciniu supratimu, o ne vien paviršiniu kalbos imitavimu. Jis taip pat iškelia klausimą, kurį nagrinėja Johno Searle’o „Kinų kambario“ mintinis eksperimentas: ar gebėjimas tinkamai interpretuoti informaciją ir prasmingai į ją reaguoti gali būti laikomas supratimu? Vis dėlto čia būtina atskirti du teiginius. Pirmasis – kad DI geba interpretuoti kontekstą ir parinkti socialiai jautrų atsakymą, – turi empiriškai stebimą pagrindą. Antrasis – kad šis gebėjimas reiškia sąmoningą situacijos išgyvenimą, – iš pirmojo savaime neišplaukia.
Galbūt šio pavyzdžio vertė ir yra ta, kad jis neįrodo DI sąmoningumo, bet parodo, kodėl negalime taip lengvai sutapatinti gebėjimo suprasti kontekstą su paprastu statistiniu žodžių apdorojimu. Juk net jeigu sistema neturi subjektyvios patirties, vis tiek turime paaiškinti, kaip ji sugeba iš kalbinės informacijos išskirti situacijos esmę, nustatyti, kam joje gali grėsti didžiausias pažeidžiamumas, ir atitinkamai nukreipti pokalbį.
Kita vertus, jeigu dirbtinis intelektas mokosi kalbos iš žmonių sukurtų tekstų, dialogų ir elgesio aprašymų, verta prisiminti, kad ir žmogus neišmoksta mąstyti bei kalbėti vakuume. Jis ateina į pasaulį, kuriame jau egzistuoja kalba, reikšmės, elgesio normos, emocijų raiškos būdai ir kitų žmonių požiūris į jį. Vaikas visa tai perima bendraudamas, stebėdamas, mėgdžiodamas, bandydamas ir klysdamas. Šiandienos kultūrinis kontekstas šios aplinkos svarbą atskleidžia ypač ryškiai. Tačiau tai – jau kitas mūsų nagrinėjimo etapas, į kurį leisimės, jeigu palaikysite šią sąmonės kontempliavimui, filosofijai ir neuromokslams skirtą rubriką.