Etike v strojih ni moč pričakovati, le pri ljudeh
Citat: Računalniki so bistveno hitrejši, zmogljivejši in imajo več pomnilnika, razviti so bili novi algoritmi, a temeljni principi so ostali enaki. Tako, kot so bili takrat, da rečem, računalniki neumni, so tudi danes. Karikirano rečeno imamo z njimi precej preglavic, namesto da bi nam pomagali, nam komplicirajo življenje.
Katja Petrovec
Bilo je leta 1982, ko je Igor Kononenko diplomiral in na povabilo profesorja Ivana Bratka ostal na Fakulteti za računalništvo in informatiko, da bi raziskoval področje umetne inteligence. To povabilo je takoj zagrabil, pove, bil je navdušen nad algoritmi, nad možnostjo, ki se mu je odpirala, saj je kot študent dejansko verjel, da lahko računalnik nadomesti človeka. Danes je seveda drugačnega mnenja. Kakšno je to, lahko spoznamo, še preden potrkamo na vrata njegovega kabineta. »Končni cilj strojnega učenja je znanje. Končni cilj človeškega učenja je modrost,« piše tam v angleščini.
Kakšen odnos gojite danes do umetne inteligence, tako poklicno kot zasebno?
Umetna inteligenca je orodje in gotovo koristno, a vsako orodje se lahko koristno uporabi ali zlorabi. Danes je precejšnji del računalniške znanosti podrejen finančnemu sistemu, kar pomeni, da tisto, kar raziskujemo, v veliki meri služi povečevanju dobičkov, kar meni osebno nikakor ni všeč.
Kako to, da je postala umetna inteligenca srž vašega raziskovanja?
Že zaradi same želje po razumevanju, kdo sem jaz in kaj zmore moj razum. To, da se računalniki lahko učijo, da lahko izpopolnjujejo svoje znanje, me je res pritegnilo. Moje področje je od vsega začetka predvsem strojno učenje, razvoj algoritmov, ki se učijo na osnovi preteklih podatkov, znanj, na osnovi izkušenj izpopolnjujejo svoje delovanje.
Se je pa najbrž umetna inteligenca v teh več kot 30 letih precej spremenila.
Bistvena sprememba je v napredku tehnologije, kar pomeni, da so računalniki bistveno hitrejši, zmogljivejši in imajo več pomnilnika. Seveda so bili razviti novi algoritmi, a temeljni principi so ostali enaki. Tako, kot so bili takrat, da rečem, računalniki neumni, so tudi danes. Karikirano rečeno imamo z njimi precej preglavic, namesto da bi nam pomagali, nam komplicirajo življenje.
Torej niste eden tistih, ki so prepričani, da so lahko računalniki velika nevarnost za človeštvo?
Nevarnost za človeštvo je vedno človek, tisti, ki lahko zlorabi. Računalnik je orodje, zelo močno orodje, in močnejše, kot je to, večja je človekova odgovornost. Vemo pa, da ljudje niso ravno odgovorni. Skrbi jih le zase in za svoje osebne koristi.
So na področju umetne inteligence, računalništva, organi, ki bi nadzorovali to področje, do kod torej sme človeška želja po ustvarjanju nečesa podobnega sebi? Kje so tudi etične meje?
Ločevati je treba med organi in pravnimi zadevami ter etiko. Etika in pravni sistem sta na žalost precej ločena. Jasno, da se poskuša z zakoni ter takšnimi in drugačnimi regulacijami nadzirati, a življenja se zares nadzirati ne da. Bolj kot je pravni sistem zapleten, manj služi dejanskemu namenu in se izkorišča za zlorabe. Etika pa izvira iz človeka, njegove zavesti, ozaveščenosti in edino etika lahko reši človeštvo ter postavi prave meje. Današnji sistem, ki bazira na dobičku, se ne ozira na etiko. Takoj ko je v igri denar, etika odpade.
Koliko je etike na področju umetne inteligence? Morda si le utopično predstavljamo, da je bila na začetku le gola želja po raziskovanju, medtem ko danes v Silicijevi dolini poteka prava dirka po boljših orodjih.
Ta dirka je pogojena z denarjem in etika je tipično postavljena na stranski tir. Seveda je prisotna v akademskih krogih pri resnih raziskovalcih, ki se ne ozirajo na dobičke in denar. Velika večina vrhunskih raziskovalcev so globoko zavestni in etični ljudje, ampak saj veste, denar človeka pokvari, sistem ga prisili v boj za preživetje in tekmovanje in zmagujejo tisti, ki si pridobijo več denarja.
Vrniva se nazaj in razloživa, kaj pravzaprav pomeni umetna inteligenca. Kako jo razlagate na fakulteti?
Računalnikom pravijo danes informacijski sistemi, kar je narobe. Računalniki so stroji, ki slepo sledijo ničlam in enicam, nič drugega. Računalniki procesirajo podatke in ne informacije, so pa pri tem izredno hitri. Algoritmi so danes že tako zapleteni, da dajejo celo vtis zavestnega in čustvenega obnašanja. Toda računalniki so slepi, so avtomati, ne procesirajo informacij, kajti te nastanejo takrat, ko nekdo interpretira, razume te podatke, to pa lahko naredi le človek. Šele takrat lahko govorimo o procesiranju informacij. A ker je veliko lažje, govorimo, da se računalnik uči, procesira informacije, generira novo znanje, kar pravzaprav ni res, računalnik procesira podatke, ki jih potem interpretira človek.
Zanimiv je primer računalnika Deep Blueja, ki je na neki točki premagal svetovnega prvaka v šahu Garryja Kasparova. Ali je torej računalnik dosegel človeško inteligenco?
Tu so mnenja deljena, moje stališče je, da je računalnik avtomat, ki bo postajal bolj in bolj sposoben. Ko govoriva o inteligenci, morava tudi definirati, kaj to je. Mnogi mešajo človekovo inteligenco s strojno, ker človekovi inteligenci pridružujejo tudi zavest, torej vse, kar je povezano s človekovo svobodno voljo, ustvarjalnostjo, etiko, tistim, kar nas naredi ljudi. Če inteligenci dodamo zavest, dobimo človeka. Sama inteligenca po sebi pa je sposobnost, ki jo lahko izmerite, s tem, da obstaja vrsta različnih tipov inteligenc in inteligenčnih testov, ki merijo posamezne vidike sposobnosti. Ko govorimo torej o inteligenci, tipično mislimo človeško in se nam zdi, da je sposobnost plus zavest tisto, kar tvori inteligentno bitje. Če se vrneva k umetni inteligenci, pri njej lahko govorite le o sposobnosti in ne o zavesti. Moje stališče je, da stroji nikakor ne bodo postali zavestni, lahko bodo imitirali človeka, in to zelo dobro, lahko bodo dajali vtis zavestnega bitja, dejansko pa bodo le avtomati, ki bodo slepo sledili ničlam in enicam, kar pomeni, da etike v njih ne moremo pričakovati. Pričakujemo lahko le etiko in odgovornost na človeški strani.
To tudi pomeni, da bi lahko bili stroji, računalniki na neki točki zmogljivejši od ljudi?
Saj so že. Pri določenih vrstah inteligence so bili že na začetku bolj sposobni. Na primer pri računanju aritmetičnih operacij so že od vsega začetka hitrejši od ljudi, v sposobnosti pomnjenja so nas tudi že prehiteli in tako naprej. Lahko rečemo, da so stroji bolj inteligentni, kot lahko tudi rečemo, da so opice na določenih področjih bolj inteligentne, saj nekatere naloge in inteligenčne teste bolj učinkovito rešujejo kot mi. Zakaj, ker imajo boljšo strojno opremo , ki jo potrebujejo za preživetje.
V vašem življenjepisu lahko preberemo, da se ukvarjate z nevronskimi mrežami in kognitivnim modeliranjem. Kaj to pomeni?
Tisti višji kognitivni procesi, ki naredijo človeka sposobnejšega od živali, so sposobnosti učenja, logičnega sklepanja, povezovanja, abstrahiranja in tako dalje. Modeliranje teh procesov in uporaba teh modelov v računalniških algoritmih pa nam omogoča, da rešujejo bolj kompleksne naloge tudi računalniki. Ti znajo danes reševati probleme, ki si jih včasih nismo niti predstavljali. Omenili ste Deep Blue, ki je premagal, da tako rečem, človeka v šahu. Zanimivo je, da Deep Blue ni imel veliko kognitivnih inteligentnih sposobnosti, imel pa je velike hitrosti in veliko spomina, tako da je bil brute force (surova sila, op.a.) bolj odločilen kot sama umetna inteligenca. Pri igrah, ki so bistveno težje od šaha in kjer ta brute force ne pomaga, pa so bili algoritmi strojnega učenja odločilni.
Nevronske mreže si lahko najbrž predstavljamo enako kot možgane?
Možgani so sestavljeni iz približno 10 na 11. potenco nevronov, vsak od teh pa je superračunalnik. Vsaka človeška celica je superračunalnik, ki jo do neke mere že razumemo, večino stvari, ki se v celici dogajajo, pa še vedno ne. Umetne nevronske mreže, ki se jih modelira na področju umetne inteligence, so zelo huda poenostavitev. Nevrone, ki so sami po sebi tako kompleksni, da jih ne znamo modelirati, poenostavimo na zelo preproste procesne enote, ki znajo seštevati in še nekaj drugih podrobnosti, ter pošiljati tisto, kar seštejejo, naprej drugim nevronom. Umetna nevronska mreža nastane, ko povežete zadostno število teh nevronov med seboj po določenih pravilih učenja in potem se lahko taka mreža nauči reševanja precej težkih problemov.
Glede na to, kako malo so naši možgani in nevroni raziskani, smo pač ničkolikokrat inteligentnejši od strojev.
S tem se popolnoma strinjam, le da naše sposobnosti precej omejujemo sami s svojim načinom logičnega razmišljanja, načinom vzgoje, ker smo postali v tej civilizaciji zelo razumski. Tudi celotno šolstvo je usmerjeno v logično sklepanje, v razum, medtem ko smo tisti intuitivni del precej zanemarili. Intuitivni del pa je osnova ustvarjalnega dela, osnova umetnosti in tudi znanosti, zato da greste naprej. Tukaj je prava ustvarjalna moč človeka.
Tudi s tem se ukvarjate, z duhovnostjo. Kako se prepletata dve tako različni področji, kot sta računalništvo in duhovnost?
Takoj, ko rečete duhovnost in zavest, ste že na področju, ki ga naša današnja logična znanost ne more obravnavati. Zavest je nekaj subjektivnega, inteligenca pa objektivnega. Z inteligenco, s sposobnostjo, se znanost lahko ukvarja, z zavedanjem, etiko in subjektivnim svetom človeka pa ne. Vendar je subjektivni svet najpomembnejši za vsakega človeka, kajti celotni svet vedno doživljamo preko sebe in subjektivnih občutkov. Seveda je vmes razum in šolstvo in vsa logika, a v končni fazi je vse, kar doživljamo, subjektivno. Danes znanost takšna, kot je, zahteva, da je vse objektivno preverljivo, dokazljivo, ponovljivo, opisljivo. Subjektivni svet pa ostaja neznanka za znanost.
Ste imeli kdaj težave ločevati med znanostjo in subjektivnim svetom oziroma kako se prepletata pri vas?
Subjektivnega doživljanja ne morete nikoli popolnoma odrezati, kajti pri vsem, kar počnete v življenju, je prisotna vaša subjektivnost, zavest. Obstaja pa meja in ta me je dolgo begala, dokler si nisem razjasnil, da obstaja. Pri tem mi je pomagala matematika, ker ta zelo natančno postavi to mejo, torej mejo logiki, algoritmom, razumu. Dokazana je bila že pred 70 leti in govori o tem, da vse ostalo, kar je čez to mejo, logiki in razumu ni dosegljivo. To je matematično dokazano.
Je problem naše družbe, da si ne prizna, da vsega vendarle ni mogoče dokazati?
Danes se nekako kuje v nebo ratio – razum kot tisto, kar nas bo odrešilo. Če nas lahko kaj reši kot civilizacijo, je to etika, človekova zavest. Brez tega, le z razumskim pristopom, je ta civilizacija obsojena na propad. Zavest in etika hkrati pomenita vrednote in človeške vrednote so nekje v ozadju glede na prioritete, ki jih postavlja današnja civilizacija. Brez vrednot pa ne more preživeti na dolgi rok nobena civilizacija.
Rekli ste, da ste na neki točki ugotovili, da računalnik ni vsemogočen. Kako je prišlo do tega spoznanja?
Skozi osebno izkušnjo. Razum pri tem ne pomaga, ta je kvečjemu ovira, osebna izkušnja pa te lahko prepriča v bistvo življenja. Kot sem rekel o meji med znanostjo in duhovnostjo ali če hočete razumom in zavestjo, dokler si v razumu, si na tej strani in ono stran ignoriraš. Ko pa imaš osebno izkušnjo – in zavest to je, to ni več verjetje, ampak vedenje. Takrat veš. Dokler si v razumu, gre za verjeti in to je zanimiv paradoks, ker mnogi mislijo, da to, kar je v znanosti, je vem. Ni res, kajti v znanosti je med tabo in realnostjo nek posrednik, in to je učitelj, neka avtoriteta, knjiga, znanje pač. Ko gre za posredno izkušnjo, gre za verjamem, ker verjameš v tisto izkušnjo, ko pa imaš ti neposredno svojo osebno izkušnjo, takrat veš. Študentom zelo rad povem zgodbo o pomaranči.
Povejte jo še nam.
Pride nekdo, ki še nikoli ni poskusil pomaranče, in vpraša: »Kakšnega okusa je pomaranča?« Začneš razlagati: »Malce je kisla, malce sladka, podobna limoni, a limona je bolj kisla. Mogoče je podobna mandarini, a je vseeno drugačna.« On vse to razume, a pravi: »Imam neko sliko, predstavo, verjetje v to, a še vedno ne vem, kakšnega okusa je.« Ker je kemik, pokličemo profesorja s kemije in ta mu razloži, kaj je v soku pomaranče, kakšni elementi. On vse to razume, ker sta oba kemika, a pravi: »Imam neko predstavo, verjamem, da je vse to res, a še vedno ne vem, kakšnega okusa je pomaranča.« Nato pokličemo nevrofiziologa, ki mu razloži, kaj se zgodi v ustih in možganih, ko ugriznemo v pomarančno in on vse to razume, a na koncu reče, »jaz ne vem, kakšnega okusa je pomaranča«. Potem pa gre k branjevki in jo vpraša, kakšnega okusa je pomaranča. Ona reče: »Jaz ti tega ne morem povedati, izvoli, poskusi.« On ugrizne v pomarančno in reče: »Aha, zdaj pa vem.«
Se večina znanstvenikov zaveda tega ali še vedno verjamejo?
Na žalost se jih precej ne zaveda tega. Kot je dogma v religiji, ker verjameš v nekaj, kar je zapisano, je veliko dogme v znanosti in tudi medicini. Osebna izkušnja je močno zapostavljena, ker smo v razumu, vse, kar je subjektivnega, pa pometemo pod preprogo. Vendar, kot je rekel Albert Einstein: »Vera brez znanosti je slepa, a znanost brez duhovnosti je hroma.«
vir Dnevnik
