V zadnjih mesecih ne mine dan, da ne bi s te novice ali onega pogovora slišali o umetni inteligenci, kar je tudi posledica ChatGPT, prek katerega so mnogi prvič spoznali zmogljivost stroja. Mnogi znanstveniki se navdušujejo nad zmožnostmi, ki jih to področje ponuja pri razvoju novih zdravil, spojin, pripomočkov ... Pred nekaj dnevi so potrdili, da je umetna inteligenca odločilno pomagala pri razvoju nove generacije antibiotikov, ki bo delovala proti zelo nevarnim in na dosedanje antibiotike že odporne organizme. Zelo odmeven je bil v medicinskih krogih tudi nedavni primer 40-letnega Američana, ki je deset let po nesreči, v kateri je postal paraplegik, s pomočjo možganskih implantov in umetne inteligence znova shodil. To sta le dva od množice koristi umetne inteligence.
Nekateri, tudi vrhunski strokovnjaki, pa opozarjajo na temno plat, še posebej če si bo umetno inteligenco prisvojil ozek oligarhični krog ljudi. V medijih so tako še bolj kot odkritja v zadnjem času odmevale izjave in okrogle mize o tem, da je umetna inteligenca lahko tudi ena od eksistencialnih groženj človeštva. Mnogo ljudi ob omembi umetne inteligence namreč še vedno najprej pomisli na zlobnega robota iz filma Terminator, ki seje pogubo, ali pa na nekaj, kar bo prevzelo naše službe.
Kaj je upravičen strah glede umetne inteligence in kaj ni, kakšen je sploh njen namen in doprinos za razvoj človeka, smo se pogovarjali z enim največjih strokovnjakov s tega področja v Sloveniji, doktorjem Matjažem Gamsem iz Instituta Jožefa Stefana, ki se področju umetne inteligence posveča že skoraj pol stoletja. Predvsem opozarja, kako napačen je pristop, da se umetna inteligenca demonizira, namesto da bi izpostavljali njene koristi. Glede neuravnoteženosti debate daje profesor primer, da velika večina Evropejcev še nikoli ni bila bližje jedrski katastrofi kot je v tem hipu, pa o tej veliko hujši nevarnosti skoraj nihče ne govori.
Kako bi nekomu, ki nima globljega znanja o umetni inteligenci (UI), na kratko razložili to področje in kakšne potenciale ima?
Umetna inteligenca, s tujko artificial intelligence (AI) je inteligenca neživih bitij, torej strojev. To so recimo roboti ali računalniki. Tudi moderen avto je v resnici vrsta robota z umetno inteligenco, saj ima v sebi ogromno procesorjev, le da ima kolesa namesto rok in nog, ima inteligentne sisteme, se uči preko strežnikov tako kot na primer Teslin avto ... Bodo pa avti postali še bistveno bolj uporabni, ko bodo dodali bolj napredne sisteme UI, kot je ChatGPT.
UI je torej karkoli inteligentnega nebiološkega. Poznamo več vrst umetne inteligence, razvoj pa poteka nelinearno, velikim skokom sledi stagnacija, temu pa nov velik skok. Če pa krivuljo razvoja gledate na daljše obdobje, boste videli, da gre precej konstantno navzgor. Trenutno buri zadnji preskok, ki se je zgodil pred nekaj meseci in je marsikoga presenetil.
Kaj pa se je zgodilo?
Lani jeseni se je pojavil ChatGPT v verziji 3.5. Prejšnje različice so bile omejene na ožji krog uporabnikov in so bile precej šibkejše. Različico 3.5 teh sistemov GPT so prvič dali v širšo javno uporabo zastonj in je fascinirala. Prišel je že ChatGPT 4.0, ki je še boljši, napoveduje se že peta generacija.
Pri umetni inteligenci pa dolgoročno napovedujemo superinteligenco v več korakih in sedaj se je pomemben del napovedi izpolnil. Temu delu pravimo splošna inteligenca - ChatGPT odgovori na katerokoli vprašanje s kateregakoli področja.
Zakaj je tako sposoben?
Na enem mestu ima zbranega toliko znanja, kot ga nima nobena druga informacijska storitev in nobeno živo bitje, v bistvu neprimerljivo več. Združuje znanje s celotnega spleta, ki pa je hkrati znanje vsega človeštva. Predstavljajte si, da bi cel splet prebrali, si ga bolj ali manj zapomnili in to znanje imeli ves čas v svojih možganih. To je najbližja primerjava, kaj je ChatGPT. Še enkrat: nesporno ima torej bistveno več znanja kot katerikoli človek. Manjka pa mu sposobnost sklepanja, zavest in nekatere najbolj napredne človeške lastnosti.
Morda kdo misli, da ima tudi Googlov iskalnik toliko ali še več znanja, a ChatGPT zna to znanje uporabiti, povezati, medtem ko iskalnik le najde strani, sorodne vprašanju. Pri tem sicer že uporablja UI, ampak na nižjem nivoju.
Ampak ali znajo programi ločevati, kaj je prav in kaj ni, kaj je empirično res in kaj dokazana neresnica? Ali pa samo sledijo nekim vzorcem, kaj naj bi bilo spraševalcu všeč?
Na tako vprašanje bom odgovoril s svojim vprašanjem: ali se vam zdi, da ljudje znamo ločevati, kaj je res in kaj ni? Tudi če bi mene spraševali, pa se imam za kvalitetnega in objektivnega strokovnjaka, ki ni podvržen nobeni ideologiji, politiki ali teologiji, temveč strogo priznavam samo tisto, kar je znanstveno ugotovljeno ... bom slej ko prej izustil ali naredil kakšno neumnost.
Zastonj pričakujete, da bo katerikoli človek deloval popolnoma pošteno, korektno in objektivno, trend gre žal celo v drugo smer. Poglejmo na primer, kako so se ljudske množice opredeljevale do Trumpa ali Clintonove, ali pa do Janše ali kogarkoli drugega pri nas. Vidite lahko, da ljudje v veliki meri neobjektivno in ideološko gledamo na svet. Poleg tega svet ni sestavljen samo iz objektivnih stvari in znanstvenih dejstev, temveč tudi iz politike, sanj, želja in podobno. Zato ne velja biti strog do napak ChatGPTja.
UI moramo torej ocenjevati na drug način. Še najlažje se je pogovarjati s programi tipa ChatGPT, če si ga zamislimo kot otroka z lastnostmi genija, ki ga je včasih težko razumeti in ki ima včasih 'otročje hibe'. Naučil se je cel splet, zna odgovoriti na katerokoli vprašanje, a je milo rečeno šibak v določenih kategorijah. Šibak je v ugotavljanju, kaj je res in kaj ne. Če ga sprašujete, sicer kar dobro odgovarja, a občasno govori tudi stvari, ki nimajo nobene veze z realnostjo, za katere ljudje po zdravi pameti vemo, da niso resnične oziroma pravilne. Na primer kot da bi otrok želel poljubiti muho, ker ima poškodovano nožico, ne zaveda pa se, da se muh ne sme dotikati. Takrat strokovnjaki rečemo, da program halucinira.
Kdo je Matjaž Gams?
69-letni Gams je eden od pionirjev računalništva in umetne inteligence v Sloveniji. Leta 1978 je na Univerzi v Ljubljani diplomiral z nalogo generiranja šahovskih končnic, devet let kasneje pa doktoriral iz uporabe mnogoterih modelov v strojnem učenju. Od leta 2004 je na Institutu Jožefa Stefana vodja odseka za inteligentne sisteme.
Ukvarja se s širokim področjem informacijske družbe, računalništva in informatike, predstavitve in uporabe znanja in še posebej strojnega učenja. Interdisciplinarno pa se ukvarja z demografijo, razvojem civilizacij, varovanjem okolja, poslovno inteligenco in kognitivnimi znanostmi. Je univerzitetni profesor in avtor številnih publikacij s področja umetne inteligence ter član številnih tujih in domačih strokovnih združenj.
Zelo je odmeval primer Geoffreya Hintona kot enega od treh t. i. očetov umetne inteligence, ki je s svojimi odkritji glede nevronskih mrež in globokega učenja omogočil njen silovit razvoj. Pri Googlu je bil zadnja leta na čelu razvoja UI, a je pred kratkim odstopil in začel opozarjati na nevarnosti trenutnega razvoja. Trdi, da se je Google v tem razvoju 'pohudobil' in da lastne interese postavlja pred interese človeštva. Zato zdaj on in še številni drugi strokovnjaki ter celo Elon Musk kot zagrizen libertarec pozivajo politike k čim hitrejši regulaciji. Kaj nam vse to sporoča, pred čim svarijo ti ljudje, ki sodijo v samo špico svetovnega tehnološkega razvoja?
Tu sta dva zorna kota. Nekatera opozorila so utemeljena, nekatera pa po mojem niso. Moj zorni kot je zorni kot tistega, ki je 20 let sanjal, da se bo to zgodilo in je zdaj presrečen. Vprašajte se samo, kaj zares pomika človeštvo naprej. To so računalništvo, informatika, znanost, tehnologije … in z vsakim napredkom je človeška civilizacija na boljšem.
Nekatere tehnologije seveda povzročajo tudi probleme. Na primer avtomobili pobijejo skoraj milijon in pol ljudi letno. Ampak če boste rekli, da je avto hudoben ali da bo človeštvo zaradi avtov propadlo, je to milo rečeno čudno. So pa tako govorili ob pojavu avtomobilov, avionov, elektrike, računalnikov, robotov itd.
"Bi si vi želeli poceni in kvalitetno motorno lopato za urejanje vrta?"
UI marsikoga straši predvsem zaradi svojih sposobnosti. Od tu primerjave, da gre za jedrske bombe nove dobe. UI ima res izjemno moč in res bi jo lahko zlorabili za grozne stvari, recimo avtonomna orožja kot terminatorje. Ampak tudi z lopato lahko prelopatate gredico ali ubijete soseda. Vprašanje je torej predvsem, za kakšen namen uporabljaš orodje. Primerjava z UI je, da imamo namesto sekire v rokah veliko bolj učinkovito motorno žago. Bi si vi želeli poceni in kvalitetno motorno lopato za urejanje vrta? Vsi ti napredki pomagajo ljudem živeti bolje in to je ključno.
Odgovor ChatGPT na naše vprašanje, kaj je umetna inteliganca.
Današnje primerjave, da je UI nevarnejša od jedrskega orožja, so po svoje absurdne. Ne razumem medijev, ki potencirajo takšna opozorila, praktično nič pa ne govorijo o dejanski veliki nevarnosti jedrske vojne zaradi aktualnega dogajanja v Ukrajini, čeprav v svojem življenju še noben Evropejec ni bil v tako veliki nevarnosti jedrskega spopada, kot je prav danes. In vsak mesec se nevarnost jedrske vojne le stopnjuje. Razumem, da je to tudi propagandna vojna, da se o tem ne sme pisati in strašiti ljudi. Ampak če poslušate jedrske strokovnjake, potem veste, da je nevarnost zares velika, medtem ko je nevarnost UI v primerjavi s tem praktično nična.
Vsakič ob pomembnih novostih se je v javnosti razvila velika debata, kako je to nevarno in škodljivo. Da bodo zaradi letenja vsi umrli, ali pa zaradi pametnih telefonov postali neumni. Vedno je v medijih ogromno negativnih prispevkov na novo tehnologijo, izredno malo pa takšnih, ki pojasnjujejo pozitivne lastnosti in se tega veselijo. Verjetno pa se danes vsi strinjamo, da so avti veliko bolj uporabni kot konji, letala pa na primer od balonov. Še več, če damo število smrti oziroma rešenih življenj na graf, opazimo, da z razvojem čedalje boljše UI v seštevku rešimo čedalje več življenj in čedalje več ljudi bolje živi. Avto je na kilometer poti bolj varen kot konj in avion bolj kot avto.
UI je treba izkoristiti za pozitivne stvari. Recimo pri vpeljavi strojev se je pojavil ludizem – delavci so razbijali stroje, da ne bi izgubili dela. A ravno nasprotno je bilo res – države, ki so prej uvedle stroje ali druge novosti, so imele višji standard, več zaposlenih in bolj kvalitetno življenje. Sedaj z UI je podobno - tisti, ki jo bodo prej začeli izkoriščati, bodo hitreje napredovali, zato bi bilo nujno, da bi ves šolski sistem v predavanja takoj vključil spoznanja o UI, da bi vsi ljudje danes in tu začeli uporabljati recimo ChatGPT.
Primer paraplegika, ki je s pomočjo možganskih implantov in umetne inteligence znova shodil.
Zakaj mislite, da bo UI tako pozitivno vplivala na našo družbo, kaj so njene glavne zmožnosti?
V skrajnem primeru si predstavljajte, kot da gre za nekakšen orakelj, torej sistem, ki lahko daje odgovor ali nasvet na še tako težko in nepredvidljivo vprašanje. Na primer da se morate odločati o dveh smereh razvoja - ali naj se odločimo za jedrsko ali sončno energijo? Tudi pri takšnih zares zahtevnih vprašanjih bi znala UI kmalu koristno odgovarjati, kaj šele na konkretna, recimo, kaj storiti, če vas boli glava ali – voda pušča v stranišču. Tako kot imajo danes odločevalci v parlamentu na voljo pravno službo, da jim pove, kako smotrno in v skladu z ustavo je kakšen predlog, lahko UI že sedaj strokovno utemelji koristnost enega ali drugega predloga. Sam imam izkušnjo z delom svetnika v državnem svetu, kjer sem opazil, da ljudje na takšnih položajih zares rabijo pomoč pri sprejemanju odločitev. Pri določenih temah sem osebno prebrskal po spletu in člankih za strokovnim ozadjem in analizami, da sem lahko podal argumentirano mnenje, ki pa je bilo praviloma dobro sprejeto.
Včasih na predavanju vprašam, naj mi povedo eno področje, kjer ChatGPT oziroma UI ne bi mogla pomagati. Pa ga ne najdejo. Tudi ko govorimo o fizičnem delu, je mogoče rezultat z UI vedno izboljšati. Na primer, da ga vprašamo, katero vrsto solate posaditi na vrtu poleg korenja, da bo pridelek kar najboljši. Govorimo torej o rabi tako pri vsakdanjih kot tudi pri zelo zahtevnih vprašanjih. Če ga boste poslušali, boste imeli bistveno boljše rezultate.
Glavno korist teh programov lahko pojasnimo tudi takole: za naloge z besedili omogočajo dvakratno porast produktivnosti, ali drugače – v eni uri naredimo dvakrat več. Zakaj ne bi za isto delo torej dobili dvakrat večje plačilo ali imeli več prostega časa zaradi uporabe na primer ChatGPT?
Odgovor ChatGPT na naše vprašanje, katero solato posaditi poleg korenja:
So pa tudi družbena polja, ki so glede uporabe UI lahko mejna, na primer na področju sociale, kjer program ne more nadomestiti živega človeka, in njegove empatije pri sprejemanju nekih odločitev, ki vplivajo na usodo drugih … Prisoten je tudi strah pred izgubo služb.
Vzemite frizerko. Ta vas ostriže in vmes še klepeta z vami. Ne predstavljam si, kdaj bo robot sposoben obojega, zato se mi zdi pretiran strah pred tem, da bodo stroji prevzeli človeško delo. Govorili so, da ko bodo prišli roboti, bodo ljudje izgubljali, a tiste države, ki so najhitreje uvajale robote, imajo danes najnižjo brezposelnost. Tudi širše gledano so danes po kvaliteti življenja najboljše tiste države, ki so najobširneje in najhitreje uvedle razne nove tehnologije. Tako bo tudi z UI. Dodatna prednost UI pa je v tem, da jo lahko uporabi katerakoli država, katerikoli državljan.
"Kakorkoli obrnete, ta program nima prave človeške inteligence in nima zavesti."
Zakaj je potem ljudi strah pred UI? Vseeno prinaša tudi nekatere nove izzive glede nacionalne varnosti, možnosti izdelave strašnega orožja in podobno. Zakaj je torej Elon Musk dejal, da nas bodo stroji lahko razumsko nadvladali, kar bo lahko zelo nevarno?
Poglejmo primer šaha. Najprej so ti programi začeli premagovati amaterje, kasneje polprofesionalce, na koncu pa tudi najboljše šahiste sveta. Ljudje so se takrat zbali, da je s šahom konec. V resnici je šah danes bolj popularen kot kadarkoli prej. Ljudje se predvsem bojijo nemoči, da je nekdo v nečem boljši od njih, v resnici pa je to neizbežno in v resnici je koristno. Da bo UI postala skoraj povsod močnejša kot ljudje, je samo vprašanje časa. Res je, lahko se zlorabi, saj tudi zaradi avta umre veliko ljudi in se je ob pojavi avta govorilo, kako strašno nevarno bo, kako bodo kočijaži izgubili delo in tako naprej. Ampak – ali ste zadovoljni ali ne, ko vas avto premakne na drugo lokacijo desetkrat hitreje in močneje kot bi se sami? Najboljše pa še prihaja – to je preskok v novo dobo, tako imenovano dobo superinteligence oziroma tehnološke singularnosti.
Kaj pa, če pride UI izpod nadzora?
Kakorkoli pogledate, to je še vedno program, ki deluje na računalniku. Lahko ga ugasnete. Seveda inteligence ne morete krotiti kot en stroj, recimo en avto, zato se strinjam, da je Pandorina škatlica odprta, a če ne bodo naši politiki naredili vrste neumnih napak, bodo vse nevarnosti pod kontrolo. Še enkrat – to so zaenkrat pametni programi, a še vedno le informacijska orodja.
Ga res lahko ugasnete?
Seveda. Lahko ga ustavite, lahko izbrišete, zamenjate s katerem koli drugim, ugasnete strežnik … Kakorkoli obrnete, ta program nima prave človeške inteligence in nima zavesti. Obstajajo zapletene metode, s katerimi ugotavljate, ali ima te lastnosti. Programi se izboljšujejo, a so še daleč od tega, da bi ga primerjali z vrhunskimi lastnostmi, ki so značilne za človeško bitje. Primer je Turingov test, s katerim program pet minut sprašujete in poskušate ugotoviti, ali je na drugi strani človek ali računalnik. Če ste pozorni na vsebino, boste videli, da programu manjka semantike, zavesti in drugih ključnih človeških lastnosti. Zaradi tega ga lahko obravnavate kot program in ugasnete.
Dr. Matjaž Gams
Obstaja tudi nekaj pomembnih ovir na poti do superinteligence. Eden je princip mnogoterega znanja, katerega avtor sem, in v skladu s katerim bo treba narediti nov način preračunavanja – spremeniti osnovno računalniško arhitekturo - da bi lahko govorili o zavesti na računalnikih. Torej - splošna inteligenca, ki smo jo dosegli sedaj, je eden ključnih korakov do superinteligence, a moramo razrešiti še nekaj ugank, med njimi tudi mnogotero procesiranje. Nekaj malega za silo ti programi že delajo mnogotero, a v resnici ne uspejo priti do te minimalne zahtevane stopnje. Program na primer lahko halucinira, le da programi halucinirajo drugače kot ljudje. S spremljanjem njihovih odgovorov vidite, da so v resnici generirani, sestavljeni s pomočjo celotnega spleta, ne pa z vsebinskim poglobljenim zavestnim razumevanjem.
Imate primerjavo z Googlovim Bardom in drugimi programi, kako se obnesejo v primerjavi s ChatGPT?
Pri nas na odseku za inteligentne sisteme Instituta Jožefa Stefana uporabljamo licence za ChatGPT. Verzija štiri je dvakrat pametnejša od 3.5 in zna bolje sklepati, je pa tudi precej počasnejša. ChatGPT ne pozna nobene informacije, ki je zgodila po septembru 2021. Obstajajo in nastajajo sorodni programi iz drugih programskih hiš, ki delujejo do aktualnega časa, a so ta hip glede sklepanja šibkejši od ChatGPT4. Sam jih namreč testiram z omenjenim Turingovim testom, ker me zanima, do kod seže njihov intelektualni nivo. Torej kot da bi imeli pred seboj študenta ali učenca, in želite vedeti, do kje je prišel. Po mojem mnenju je ChatGPT4 ta hip prišel najdlje.
"Ne verjemite ničemur, če tega niste na nek način preverili. Kot bi stalno živeli 1. aprila."
Danes obstaja veliko informacij, številne med njimi označujemo kot lažne. Potem je tu tudi problematika tako imenovanim deepfake fotografij, posnetkov oziroma prizorov, ki lahko odločajo o usodah ljudi. Kakšne vzvode in mehanizme moramo vzpostaviti, da bi se znali boriti proti tem nevarnostim, za katerimi stoji tudi tehnologija umetne inteligence?
Moje osebno mnenje je, da je danes že tako veliko lažnih novic okoli nas, da moramo že zelo dobro paziti, kako iz vseh teh plev izluščiti resnico. Pa lahko govorimo ne samo o 'normalnih medijih', ampak celo o različnih enciklopedičnih zbirkah ali pa tudi znanosti. Tako je tudi v primeru produktov, ki se ustvarjajo s pomočjo UI. Vsebinsko torej ne vidim kakšne večje nevarnosti, kvečjemu se bodo pojavljali v nekoliko večji količini in bolj prepričljivo. Ob spretni obrambi pa ni veliko nevarnosti. Tako kot smo na primer prešli na sistem dvojne avtentikacije na telefonu zaradi nevarnosti, da bi nam z bančne kartice ukradli denar. Vi ste na koncu tisti, ki transakcijo potrdite prek telefona, ker jo prepoznate kot ustrezno. Del populacije pa tem poskusom zlorab naseda in bo vedno nasedal. Skratka, ne verjemite ničemur, če tega niste na nek način preverili. Kot bi stalno živeli 1. aprila.
Kampanja, v kateri slavni igralec Keanu Reeves v videu opozarja na nevarnost deepfakea na spletu.
Omenili ste že, da UI prinaša velike priložnosti. Kako naj jih Slovenija izkoristi?
Predvsem bi morali ljudi pripraviti, da začnejo uporabljati UI programe, kakršen je ChatGPT. Kdorkoli ga je že uporabljal, je hitro spoznal njegovo moč. Recimo, da morate nekaj prevesti. Na roke, z Googlom ali s ChatGPT. Slednji je najhitrejši in najbolj produktiven. V istem času naredite petkrat več, kot če bi prevajali na roke, in nekje 30 do 50 odstotkov več, kot da bi prevajali z Googlom.
Ključno je, da se Slovenija zbudi. Recimo pri vnosu novosti v šolske programe potrebujemo leta, da se karkoli spremeni. Namesto, da bi vlada dala navodilo, da vse šole vse učence v roku enega meseca poučijo o uporabi ChatGPT in sorodnih programov UI, se ukvarjamo z imaginarnimi vprašanji imaginarne nevarnosti, ali pa celo prepovemo ChatGPT, kot ga je italijanska informacijska pooblaščenka. Do kje sega človeška norost in neodzivnost?
Kaj so torej glavni ukrepi, ki jih je treba narediti glede UI, da bi človeštvu koristila ne pa škodovala?
Če pogledate Elona Muska, je dolgo svaril, da je UI eksistencialna grožnja. A po mojem je to govoril predvsem, ker se je bal Googla, da bodo tam naredili nekaj, kar bo koristilo predvsem njim in škodilo človeštvu. Zato je tudi bil Musk med ustanovitelji OpenAI, ki danes - sicer zdaj kot zasebna družba in ne več odprtokodni projekt - stoji za ChatGPT. Prav OpenAI je bil tisti, ki je naredil največji preskok naprej, precej dlje od Googla. Musk danes sicer ne govori več o nekih strašnih nevarnostih, razmišlja celo o lastni različici UI. Ali dejansko obstaja nevarnost, da nas bo UI uničila, je po mojem v tem hipu iracionalno razmišljanje.
"Glavni faktor pri temnih scenarijih je neumnost ljudi, ki so na položajih za odločanje."
Pa spet k avtu: ko pridete v garažo, imate tam moč stotih konjev. Če bi bili dejanski konji, bi vas poteptali. Avto pa posluša vaše ukaze in počne, kar želite. Zakaj bi bil avto blazna nevarnost? Podobno je z UI – ljudje vidijo moč, katere prej niso pričakovali, in se bojijo. Mi, ki smo jo pričakovali in napovedovali, ki so nas imeli za nerealne optimiste, pa temu ploskamo. Nevarnosti sicer obstajajo, je pa znanih precej napotkov, čemu se moramo izogniti, da do nevarnosti sploh ne bo prišlo. In glavni faktor pri temnih scenarijih je neumnost ljudi, ki so na položajih za odločanje.
Recimo v Sloveniji si že dolgo prizadevamo za prepoved avtonomnih orožij. Osebno 20 let hodim naokoli k raznim odločevalcem in jih poskušam prepričati, da naša država prepove takšna orožja, popularno rečeno terminatorje. Veliko držav je to pred nami že naredilo, celo parlament EU na deklarativnem nivoju, pri nas pa še nobena politična struja za to ni imela posluha. Res je, da v tem hipu to morda še ni resna nevarnost za človeštvo, a treba je pravočasno preprečiti, da sploh ne more priti do razvoja.
Kje tiči prava nevarnost oziroma izzivi v razvoju UI?
Korak dlje se bo zgodil, ko se bo zares pojavila prava umetna inteligenca s človeškimi lastnostmi zavesti in semantike, torej superinteligenca. Najprej bo pomembno, da z njo ne bomo v konfliktu. Z njo bo treba biti prijazen, kot ste na primer prijazni s svojim mladoletnim otrokom, ki ga razganja in ima svoje težave. A vseeno morate imeti z njim nek odnos, ki ne sme biti sovražen, da ne pride do neukrotljivih konfliktov.
Druga ključna točka bo, da bo moralo biti takšnih programov več. Nikakor ne bi bilo dobro, da bi samo en program dosegel super človeške lastnosti, ampak je bolje, da jih bo več in da bomo vsaj z nekaterimi zavezniki. V primeru večjega števila bo zelo verjetno, da se bomo z nekaterimi bolje razumeli, z drugimi manj.
Ena od najbolj trivialnih stvari, ki jo moramo narediti že danes, pa je prav prepoved avtonomnih orožij. Tega ne naredimo, na drugi strani pa bi radi regulirali in ustavili razvoj UI, kar je nesmiselno. Najprej zato, ker je to nemogoče, drugič, ker bo vmes konkurenca, v prvi vrsti Kitajska, s tem razvojem gotovo nadaljevala in prevzela pobudo.
Naj ponovim opozorilo, da če do UI v javnosti vzpostavite negativen in sovražen odnos, potem je to zelo slaba popotnica za njeno nadaljnjo pot in našo. Ključno je, da razvoj nadaljujemo in ga pripeljemo do pozitivne superinteligence.
Zakaj?
Po naši teoriji in izračunih, ki so bili že večkrat objavljeni, bo naša tehnološka človeška civilizacija trajala še nekje med tisoč do največ 10 tisoč let. Lahko sklepamo, da bo razlog za naš propad to, da bomo sami sebe uničili, saj so vesoljske katastrofe redke. Pri civilizaciji pa ni absolutne zgornje meje, če bomo izredno pametni. Zato moramo čim prej priti do superinteligence. Ko verjetnost preživetja pade, moraš biti zelo zvit oziroma inteligenten pri iskanju rešitev, da ostaneš živ. In sami smo po mojem mnenju premalo pametni za kaj takšnega.
Glede UI je pomembna nevarnost, da ne bomo imeli pozitivnega odnosa do UI in se ne bomo znali izogibati negativnim platem. Je pa ta nevarnost neprimerno manjša, kot pa je na primer nevarnost jedrske vojne. Vsi vemo, da se nevarnost jedrske vojne stopnjuje zaradi Ukrajine, a se nočemo pogajati. Rusija ne sme zmagati, a še pomembneje je, da preprečimo eskalacijo do nivoja jedrske vojne.
Ampak tako kot ste predstavili, dobimo občutek, da človek z razvojem UI ustvarja neka nova bitja, ki se lahko v določeni točki inteligentno vprašajo, zakaj jim človek sploh še koristi in ali se ga ne bi bilo dobro znebiti …
Ko študiramo in navajamo eksistencialne nevarnosti za človeštvo, jih pogosto naštejemo med pet in deset. Mimogrede, tudi kovid bi bil lahko eden od njih, če bi bil bistveno bolj smrten, pa k sreči ni bil. Bill Gates na primer veliko govori o bioloških nevarnostih.
Druga nevarnost je na primer sociološka, to je ideja, da bi iz vsega sveta naredili eno samo večjo vas. Takšen model iz nam neznanega razloga ne deluje tako dobro kot svet iz več držav in polov. Ne zato, da bi se med seboj vojskovali, temveč verjetno zato, da takšne pod-civilizacije, ki imajo sicer lahko neke skupne cilje, napredujejo na podlagi tekmovalnosti.
Demografski problem je lahko še en razlog za propad človeka. Ena skrajnost bi bila, da bi nas bilo na Zemlji preveč, a enako nevarna je druga skrajnost, da bo rojstev premalo. To bi povzročilo starikavost družbe, ki kot taka ne bi imela interesa k razvoju in selitvi na druge planete, do česar bo nekoč za preživetje človeštva neizbežno moralo priti.
Obstajajo tudi druge resne nevarnosti za obstoj človeštva, pri čemer jih javnost večinoma ne pozna ali celo misli, da so dobrodošle in jih propagira. UI v nasprotju z javnim strahom prinaša ogromno plusov in skoraj nič minusov.
Da strnem, brez superinteligence ne bomo uspeli rešiti naše civilizacije. Naj uporabim primerjavo z velikansko puščavo, ki jo moramo prečkati. Samo s tistim, kar lahko nosite v rokah, vam ne bo nikoli uspelo. Če pa imate primeren avto ali pa vsaj kamelo, boste lahko prišli čez. Prihajajočih problemov sami nismo sposobni razrešiti, tako pravijo naše analize. Zato čim prej potrebujemo superinteligenco, saj si s tem povečamo možnosti, da bomo uspeli.
Naša vrla vlada še za gospodično Siri ni slišala, kaj šele za CHAT GPT... mogoče pa ne bi bilo napačno, da bi dr. dvoživka mr. Taubiju vgradil kakšen čip novega apija...
na oblastne položaje globo banksterski židje namenoma postavijo najbolj neumne posameznike in možnost neumnih potez je tako zagotovljena in tudi zaželjena....
Problem je, da si izmišljuje dejstva. Vse kar pove je treba preveriti! Pogojno uporabno!