"Bati se moramo, da ne bomo pravočasno razvili superinteligence, ker študije kažejo, da bomo drugače v 1000 do 10.000 letih tehnološko propadli, najverjetneje zaradi človeške aktivnosti, pa naj bo to jedrska vojna ali nov virus," nam je v intervjuju zaupal Matjaž Gams iz Inštituta Jožef Štefan, ki je že štiri desetletja predan raziskavam in razvoju na področju umetne inteligence.
Matjaž Gams je bil eden prvih študentov v Sloveniji tako na temo računalništva kot umetne inteligence v Sloveniji. To pomeni skoraj 40 let raziskav in razvoja na tem področju. Je tudi vodja odseka za inteligentne sisteme na Institutu "Jožef Stefan", predstojnik raziskovalnega razreda Inženirske akademije Slovenije, (so)ustanovitelj slovenskega društva za umetno inteligenco, za kognitivno znanost, računalniško društvo, Inženirsko akademijo Slovenije.
Kaj v povezavi z umetno inteligenco (UI) raziskujete na Inštitutu "Jožef Stefan"? Je med projekti tudi kakšen tak, ki bi bil zanimiv za avtomobilsko industrijo?
Raziskujemo ogromno zanimivih stvari, smo med najbolj inventivnimi na svetu. Sodelujemo recimo pri najboljših evropskih in svetovnih projektih, tudi pri nekaj avtomobilskih projektih. Med trenutnimi partnerji omenimo Gorenje in Unior, kjer se ukvarjamo s kakovostjo izdelkov in optimizacijo industrijskih procesov, seveda vse na osnovi umetne inteligence. Imamo širok spekter raziskav od čisto aplikativnih, inženirskih, do čisto bazičnih, recimo študije, koliko časa bo trajala človeška tehnološka civilizacija – za zdaj kaže, da tja do kakšnih 10.000 let, za naprej pa so možnosti brez napredne umetne inteligence zelo slabe. Običajno ljudje rečejo, da tega ni mogoče izračunati, ampak marsikaj, kar počnemo, je za povprečnega državljana znanstvena fantastika.
Lahko laiku razložite, kaj sploh je umetna inteligenca? Kaj je njen namen?
Umetna inteligenca je znanstvena veda, ki vpeljuje inteligenco v naprave, recimo računalnike, robote, avtomobile. Je izrazito interdisciplinarna veda in doprinese čisto na aplikativnem nivoju - kako narediti napravo boljšo s tem, da jo naredimo bolj inteligentno. Ali pa na bazičnem nivoju - kako razviti nove algoritme, nove načine razmišljanja. Osnovni motiv je narediti bolj prijazne, bolj učinkovite naprave, s tem pa narediti življenje ljudi boljše, zmanjšati onesnaževanje ozračja in podobno. Primer je avtonomni avto, ki je zaradi hitrejših refleksov bolj varen, manj onesnažuje okolje in sam odpelje človeka, ki omedli, v bolnišnico.
Na začetku januarja je tradicionalno na sporedu Sejem CES v Las Vegasu, kjer so v zadnjih letih močno zastopani proizvajalci avtomobilov in dobaviteljev avtomobilski industriji, umetna inteligenca pa je bila letos glavna tema na razstavnih prostorih avtomobilskih proizvajalcev. Kje vi vidite mesto umetne inteligence v vozilih in mobilnosti nasploh?
Umetna inteligenca je skupaj z računalništvom, znanostjo in tehnologijo, tisto osnovno področje, ki najbolj pomaga pri razvoju človeštva. Številni problemi so negativni in zavirajo razvoj, umetna inteligenca pa je tisto najbolj prodorno in koristno področje, ki že sedaj (z omenjeno širino) najbolj koristi ljudem.
Pri Boschu, enemu največjih dobaviteljev sistemov avtomobilski industriji so prepričani, da bodo z avtomatizirano vožnjo ceste varnejše. Ključ do tega je po njihovem mnenju umetna inteligenca. Kakšno je vaše mnenje?
Seveda, brez zamere, ampak to ni nič novega. Raziskovalci umetne inteligence so pred desetletji predavali na kongresih, kako bi samo z uvedbo avtomatskega zaviranja na avtomobilih rešili ogromno življenj in prihranili pri materialnih stroških. Bili so tudi pripravljeni razviti te sisteme na svoje stroške, če bi jim proizvajalci ali država povrnili vložena sredstva, ko bi se pokazalo, da so učinkoviti. Pred kakšnimi dvajsetimi leti so bila avtonomna vozila v takšnem stanju, da se recimo na tekmovanju skozi puščavo niti eno ni uspelo pripeljati do cilja. Nesreče v smislu trka v parkirano vozilo so bile bolj pravilo kot izjema. Danes imajo praktično vsi avtomobili vrsto avtonomnih funkcij. Kako bo čez 20 let, lahko samo ugibamo, ampak s takim tempom so pred nami fantastični časi. Ne samo v avtomobilizmu!
Pri Boschu tudi pravijo, da lahko računalnik s pomočjo umetne inteligence (UI) uporablja metode strojnega učenja. Samovozeče avtomobile bi vodil skozi vse zapletenejše cestne razmere oziroma v situacijah, ki so avtomobilu povsem nove. Ali lahko vozilo bolje kot človek prepozna in oceni zapletene cestne razmere, ko na primer nasproti vozeče vozilo zavije, in jih upošteva pri svoji lastni vožnji?
Statistika prevožene milijarde kilometrov pri Tesli kaže, da je avto v avtonomnem načinu devetkrat varnejši, kot če človek vozi sam. V ZDA se vsakih 13 minut zgodi ena avtomobilska nesreča in pri vsaki drugi obdukciji se izkaže, da je bila oseba pod vplivom raznih snovi. Pogosto tudi slišimo, da so ženske boljši vozniki kot moški. Avtonomna vozila tako kot ženske povzročijo manj nesreč že zato, ker manj divjajo, manj izsiljujejo, manjkrat so pijani ali drogirani. To ne pomeni, da znajo avtonomna vozila sama hitreje voziti v zapletenem prometu, tam so dobri zbrani vozniki trenutno še vedno precej boljši. Je pa splet poln posnetkov, ko je avto avtonomno preprečil nesrečo, ali ob trku z nečloveško hitro in uspešno reakcijo omilil posledice nesreče in zmanjšal poškodbe. Primer je, ko ob odprti zeleni luči človek spelje v križišče, avtonomni avto pa sunkovito zavre, ker neki divjak pridrvi skozi rdečo luč.
Tema zadnjega desetletja v avtomobilski industriji in mobilnosti je, kdo bo prevzel krivdo v primeru nesreče avtonomnega vozila, ko se bo moralo vozilo odločiti, ali npr. zavije levo in trči v človeka, ali zapelje desno v reko, oziroma se zaleti v stoječe vozilo, ker trka ne more preprečiti? Kakšen je vaš pogled na to zakonsko zanko?
To so bolj ali manj fiktivni miselni triki. Načeloma se avtonomni avto praktično nikoli ne zaleti, če pa se že, še toliko redkeje pride do situacije, ko bi lahko izbiral iz več praktičnih razlogov. Eden je ta, da enostavno ni časa za izbiro v tovrstnih trenutkih, drugi, da skuša zmanjšati poškodbo in zato maksimalno zavira in izbere bolj oddaljeno tarčo. Obstaja velika razlika med teoretiziranjem in inženirskim, stvarnim pogledom na svet.
Kako daleč smo še od avtonomne vožnje v praksi? Nekateri, na primer velik dobavitelj avtomobilski industriji ZF, še ne verjame v popolnoma avtonomno vožnjo, pač pa verjamejo v asistenčne sisteme, ki pomagajo voznikom v vožnji, voznik pa ima še vedno nadzor nad vozilom.
Ko govorim o avtonomni vožnji, imam vedno v mislih, da avto vozi, človek pa vedno nadzira. Ta kombinacija strojne in človeške inteligence je in bo dolgo časa bolj učinkovita kot človek ali računalnik sam. To je podobno primerjavi kakovosti enega zdravnika ali dveh, ko je praktično vedno za okoli 5 % boljše delovanje, če sodelujeta dva.
Kateri so glavni zaviralci prihoda UI v prakso?
UI danes vsakodnevno opravi nekaj trilijonov sklepov z namenom izboljševanja življenja ljudi. Najpogosteje in večinoma se ljudje ne zavedajo, da je skrita praktično v vsakem modernem avtomobilu, je v Googlu, je v programih za borzno poslovanje, je praktično povsod. Seveda vsakodnevno napreduje in ima še ogromno možnosti za napredek. Največji naslednji korak je super inteligenca, za dosego tega pa moramo najprej razrešiti problem generalne inteligence. To je zahtevno. Največji optimisti govorijo o najmanj 10 letih raziskav, da bomo lahko naredili naslednji korak.
Kako vi gledate na znamko Tesla, ki velja za revolucionarno na področju avtonomne vožnje, očitno pa avtonomni vožnji zaupajo tudi uporabniki njihovih vozil. Je znamka Tesla tista, ki je zaradi rešitev pospešila razvoj avtonomne vožnje?
Tesla ima že vrsto let povsem avtonomni način vožnje. Elon Musk je Teslin ustanovitelj in eden največjih tehnoloških vizionarjev sveta in eden mojih največjih idolov. Ima vrsto inovativnih rešitev v avtomobilski industriji. Recimo, pri Tesli imamo prvo masovno uspešno proizvodnjo električnih vozil, prvo masovno proizvodnjo baterij, največjo avtomatizacijo v avtomobilski industriji, nov poslovni model in najbolj sodoben avtonomni sistem brez Lidarja - radarskega sistema. Musk je prepričan, da lahko strojna inteligenca samo z vidom (kamerami) obvladuje dogajanje in razume, kje je pešec in kje hidrant. Konkurenca najpogosteje posega po radarjih in nasploh lahko rečemo, da sledijo Tesli z večletno razliko. Evropska avtomobilska industrija je tu zaspala in sedaj hiti, da nadoknadi zamujeno tako pri električnih vozilih kot pri avtonomni vožnji, kjer pa je razlika manjša.
Umetna inteligenca se v vozilu odraža na več področjih. Na primer, avto se je že danes sposoben učiti navad voznika in ga posnemati. Tehnologija zbira voznikove vozne vzorce in ustvari uporabniku prilagojeno vozniško izkušnjo. Je to za vas prava smer pojavljanja UI v avtomobilih?
V sodobnem avtomobilu je na desetine procesorjev, tj. čipov, umetna inteligenca pa je v vrsti storitev. Sodobni avtomobili imajo svojo omrežno povezavo, črno skrinjico in zaznajo vse večje pojemke, tj. nesreče. Iz praktičnih razlogov tega ne sporočajo naprej denimo policiji, kadar pa policija zahteva, lahko za vsak konkreten avto dobi podatke. V tem smislu je sodoben avto malo podoben letalu, razlog pa je v tem, da je elektronika postala tako učinkovita in poceni, da je našla mesto v normalnem avtu.
Med vrstami funkcij za sledenje ljudem bi opozoril na praktično izkušnjo - v mojem skoraj pet let starem avtu srednjega razreda se oglasi opozorilo in volan se želi zavrteti nazaj, kadar prekoračim vozni pas brez utripalke. Če sem utrujen ali zaspan, zazna, da neobičajno premikam volan in me na to opozori itd. Danes imajo podobne funkcije praktično vsi avtomobili. Recimo Tesla ima v osnovni funkciji modul za avtonomno vožnjo vedno vgrajen, vendar je pri osnovnem modelu izključen - je pač toliko cenejše, če jo vgradijo v vse modele in zaračunajo samo pri tistih, ki jo dokupijo. To je bistveno bolje kot pri trgovcih, ki neprodano obleko sežgejo.
Kje vse v vozilih še vidite priložnost za uveljavitev UI v prihodnjih letih? Na CES smo na primer pri Audiju videli tehnologijo, ki meri stres voznika, srčni utrip in na podlagi izmerjenih parametrov prilagodi glasbo, osvetlitev, celo masažo sedežev ...?
Dolgo časa so že razviti raziskovalni sistemi, ki počnejo vse to, pa merijo in prepoznajo voznika, recimo po teži, vizualno itd. in omogočajo varno zaklepanje itd. Bolj gre za vprašanje, katere izmed teh funkcij bodo našle pot v prakso. Recimo sam bi takoj dokupil identifikacijo lastnika in s tem varno zaklepanje, masažo sedežev sem že imel in ni bila najboljša, pripravljali smo in imamo še vedno odprt patent za aktivno blaženje tresljajev v sedežu itd.
Katere veščine bodo z razvojem in napredkom AI tehnologije vse bolj cenjene v avtomobilskih podjetjih? Kje vi vidite priložnost za slovenska podjetja, ki so bila do zdaj močno odvisna od avtomobilske industrije?
Slovenska podjetja se morajo predvsem usmeriti na nove tipe vozil. Bencinski motorji so v zadnjih letih zelo napredovali in se po učinkovitosti približujejo dizelskim. Novi dizelski motorji se po izpustih približujejo bencinskim. Električna vozila so revolucionarna, saj nimajo notranjega izgorevanja, imajo bistveno večji izkoristek energije, nimajo recimo motornega olja v motorju itd. Na splošno ni znano, ampak glede okolja je tekmec motor na plin, ki je približno tako čist kot električni motor. Kdo bo zmagal v tekmi? Sedaj zmaguje električni avto, predvsem zaradi Elona Muska. Kaj bo jutri, se ne da zanesljivo napovedati, lahko pa mirno rečemo, da mora izredno uspešna slovenska avtomobilska industrija predvsem hitro slediti spremembam in prilagoditi proizvodnjo. Da se napovedati, da bo v avtomobilih čedalje več umetne inteligence in da bo avtonomna vožnja čedalje bolj kakovostna.
Kje vi vidite UI leta 2030? Na katerih področjih nam bo najbolj pomagala?
Nekaj področij bo predvidoma kmalu najbolj spremenjeno zaradi uvedbe UI. Na primer, v zdravstvu bo prišlo do tega, da bomo imeli domače pripomočke, recimo zapestno pametno uro, ki nam bo povedala, ali se nam obeta viroza, ali se nam v potu pojavljajo biomarkerji za tako in tako vrsto raka, starejše bo opozarjala, da bodo padli v roku nekaj dni. To se sliši kot znanstvena fantastika, ampak take prototipe danes razvijamo na Institutu "Jožef Stefan". Recimo sistem, ki opazuje, kako ravno hodi človek oz. koliko se opoteka. Tak preizkus naredijo policisti, da ugotovijo, ali je oseba trezna. Pri starejših pa je znano, da pred padcem začnejo opletati in nato v kakšnem tednu padejo. Načrtujemo, da bomo tak modul naredili v približno pol leta in ga dodali naši uri za starostnike. Omenil sem le eno področje, kjer lahko pomagamo ljudem, saj bi lahko o tem pisali na dolgo in široko. Praktično na vseh ravneh so pred nami svetli časi uvajanja UI.
Veliko ljudi se boji pojma umetna inteligenca. Se je moramo bati?
Hecno je, da se ljudje bojijo brezposelnosti, da bo umetna inteligenca uničila človeštvo ipd. Zakaj pa ne vprašajo nas strokovnjakov? Nekaj hitrih odgovorov: vsaka nova tehnologija je prinesla strah in brezposelnost v stari tehnologiji, recimo vlak je prinesel zmanjšanje konjev in kočijažev, a je hkrati odprl več novih delovnih mest. Podobno se je pokazalo, da je v ZDA in Angliji po masovni uvedbi informacijskih rešitev zgodovinsko gledano ena najnižjih brezposelnosti vseh časov, črnogledi pa so napovedovali ravno obratno.
Se moram bati umetne inteligence? Ravno nasprotno - bati se moramo ljudi. Bati se moramo, da ne bomo pravočasno razvili superinteligence, ker študije kažejo, da bomo drugače v 1000 do 10.000 letih tehnološko propadli, najverjetneje zaradi človeške aktivnosti, pa naj bo to jedrska vojna ali nov virus. Za daljša obdobja bo izredno težko najti optimalne rešitve in sami ljudje tega ne bomo sposobni narediti. Šele skupaj z umetno inteligenco nam lahko uspe. Umetna inteligenca je torej potencialno naš edini rešitelj in tega bi se morali ljudje zavedati. Brez nje bomo relativno kmalu propadli!
poglej te si Terminatorja
Japajade. Če nam uspe narediti robote, ki bodo razmišljali bodo hitro ugotovili, da smo ljudje ranljivi in da bo veliko lažje, če nas uničijo. Če bodo znali razmišljati bodo lahko sami sebe izdelovali, pa smo v riti... filmi serije terminator… ...prikaži več niso čisto za lase privlečeni in znanstvena fantastika, je kar nekaj potencialne resnice v njih. Razmišljati, kaj bo čez 10000 let je pa čista bedarija. Pojdite 50 let nazaj in fante takrat vprašajte o mobilne telefonu čez 50 let pa vas zažgejo na grmadi.
Enostavna in preprosta predstavitev UI. Le veliki strokovnjaki lahko podajo preprostemu človeku sprejemljivo razlago visoke tehnologije, Hvala prof. Gams.