069: Jaan Tallinn – tarkvarainsener, Skype’i kaasasutaja ning investor, kes panustab maailma juhtivasse tehisintellekti ja eksistentsiaalse riski mõttearendusse
069: Jaan Tallinn – tarkvarainsener, Skype’i kaasasutaja ning investor, kes panustab maailma juhtivasse tehisintellekti ja eksistentsiaalse riski mõttearendusse
“Ma ei tea, kui palju ma kliimakriisist tahangi rääkida, sest see võtab eelduseks, et AI-d ei tule. Kliimakriis eeldab seda, et atmosfäär jääb alles, Päike jääb paistma, mis on minu vaatevinklist tugevad eeldused. Kui ma mõtlen maailmade peale, kus atmosfäär jääb alles ja Päike jääb paistma, siis need on maailmad, kus me lahendasime AI-de probleemi. Lahendasime selle kiiresti, enne seda kui kliimaprobleem katastroofiliseks muutub. Kliimakriis on tulevikku mõjutavaks faktoriks ainult nendes maailmades, kus AI jääb praegusele tasemele ja enam edasi ei arene.”
Kuula 🎧 Spotify / Apple Podcasts / Google Podcasts
Jaan Tallinn on tarkvarainsener, ettevõtja, tehnoloogiainvestor ning maailma juhtivaid eksperte tehisintellekti ning eksistentsiaalse riski vallas.
Jaan on õppinud Tartu ülikoolis teoreetilist füüsikat ning on üks Skype’i loojatest. 2012. aastal asutas ta Inglismaal Cambridge’i ülikooli juures asuva Eksistentsiaalse Riski Uurimiskeskuse ning 2014. aastal kaasasutas Elu Tuleviku Instituudi ehk The Future of Life Institute’i – samuti Cambridge’is, kuid seekord Massachusettsi osariigis USAs.
Jaani ekspertiisi sügavus ning empaatia teeb temast meie maailmale ühe olulise mõtleja, kes panustab otsustajate ja loojate teadlikkuse tõstmisele tehisintellekti riskist ning seeläbi ka elukõlbmatu tuleviku ennetamisele.
Selles saates räägime
Lapsepõlvest Jõhvis vanavanemate juures
Kuidas tekkis huvi programmeerimise vastu ja teda kujundanud põhi- ja keskkooli õpingutest
Bluemoon’i loomisest ja arendamisest ehk mängudest, Soundclubist, Šveitsi pangale loodud tarkvarast, Everyday’st ja Skype’ini
Skype’i algusest, skaleerumisest ja tehtud vigadest ning kuidas Eesti on viiest võimalikust sünnimaast kõige rohkem sellest kasu saanud
AI riskidest – deep learning’ust, tehisintellekti arengust, investeerimisest.
Kuidas saab AI aidata ehitada õiglasemat maailma?
Valitud mõtted
„Toona oli arvuti õppimise juures väga võluv, et see oli põhimõtteliselt nagu puhas leht. Ma arvan, et praegu on oluliselt raskem programmeerimist õppida, sest ükskõik kui palju sa ei punnitaks ei saa kunagi midagi sellist tehtud, mis sul kahe kliki kaugusel on. Toona oli nõnda, et kui sa tahtsid, et arvuti sul midagi huvitavat teeks, siis pidid ise tegema, ja me tegime.“
„Kui me hakkasime Ahtiga (Heinla) arutama, et mis me seal Tartus õpime, siis mõtlesime, et arvutist teame me niikuinii juba kõike, et võib-olla võtaks midagi silmaringi laiendavat ja füüsikaõpetaja lummuses mõtlesime, et füüsika tundub õige asi, mida õppida.“
„Ülikooli ajal koosnes mu päev sellest, et hommikul käisin loengutes, peale loengute lõppu jalutasin Tähe tänava füüsikahoonest Estiko Kammivabrikusse, kus meil oli diil, et meie oma esimese väljamaale müüdud mängu eest, Bluemoon’i esimene mäng Kosmonaut, raha eest ostetud arvutiga tegime diili Estikos, et nemad saavad seda hommikul kasutada, selle tõttu ei pea me maksma mingit renti. Pealelõunal, kui loengud läbi olid – arvutid olid toona tohutult kallid, üks arvuti oli võrreldav maja hinnaga ja meil oli neid kaks – läksime tööle. Hommikuti olime loengus ning pealelõunal, õhtuti ja öösiti kirjutasime mänge.“
„Kui mängukarjäär otsa sai 1999. aastal, siis hakkasime ringi vaatama, mida teha, et pankrot kohe ei tuleks. Mul oli toona Exceli tabel, mis näitas, mitme kuu kaugusel on pankrot ja see hakkas kiiresti lähenema kui Interactive Magic isegi raha, mis oli kokku lepitud meile enam ei saatnud. Siis leidsime ajalehe kuulutuse, kus Tele2 ja Modern Times Group nende Eestis ostetud Meediamaa seltskonna kaudu otsisid portaalide tegijaid, mille tulemusel me vaatasime, et seal on nõutud suurt kogemust, mida meil ei ole, aga võtsime kätte ja nädalavahetusega kirjutasime portaali, kus olid kõik need kogemused ja tehnoloogiad kasutusel, mille kogemust nõuti. “
„Me tegime Skype’ile online counter’i – mitu inimest parasjagu võrguga ühendatud – see tundus väga hea mõte. Niipea kui me Skype’i välja panime, hakkasime sõpradele-tuttavatele helistama tavatelefoniga, et tulge Skype’iga online’i, siis läks number suuremaks. Ühel hetkel vaatasime, et see läheb ilma nendetagi suuremaks.“
„Sattusin sellise mehe nagu Eliezer Yudkowsky kirjutistele, kes alustas juba paarkümmend aastat tagasi. Mina sattusin tema kirjutsitele 2007/2008, kui ta oli üksik hüüdja hääl kõrbes, kes ütles, et tehisintellekt ei ole asi, mis oleks inimkonnale automaatselt hea. See on asi, mille jaoks tuleb väga-väga kõvasti pingutada.”
“Kui sulle tundub, et tehisintellekt on ohutu, siis tõenäoliselt on sul mingisugune mõtteviga.”
“Deep learning suudab teha otsuseid, mida inimesed suudavad teha millisekundiga, mis on kiired, instinktiivsed otsused, selliseid asju suudab teha. Kui on vaja pikemalt mõelda, planeerida, siis deep learning hetkel seda väga hästi ei tee.”
“Gorillade võrdluse mõte on see, et näidata, kuidas tulevik on kõige tugevama planeerija kontrolli all. Põhjus, mispärast gorillad inimestele vastu ei saa, et nende plaanid on oluliselt kehvemad kui inimestel. Kui nad isegi mõne plaani teevad, siis inimestele pole mingi probleem seda läbi näha ja vastumeetmeid võtta.”
“Kogu aeg mõelda selle peale, et kui ma sellist asja ehitan, kas olukord oleks jätkuvalt kontrolli all, kui AI oleks üle öö kümme või sada, miljon või miljard korda targem – kas süsteem suudaks vastu pidada sellele pingele?”
“Ma ei tea, kui palju ma kliimakriisist tahangi rääkida, sest see võtab eelduseks, et AI-d ei tule. Kliimakriis eeldab seda, et atmosfäär jääb alles, Päike jääb paistma, mis on minu vaatevinklist tugevad eeldused. Kui ma mõtlen maailmade peale, kus atmosfäär jääb alles ja Päike jääb paistma, siis need on maailmad, kus me lahendasime AI-de probleemi. Lahendasime selle kiiresti, enne seda kui kliimaprobleem katastroofiliseks muutub. Kliimakriis on tulevikku mõjutavaks faktoriks ainult nendes maailmades, kus AI jääb praegusele tasemele ja enam edasi ei arene.”
“Nii et kui inimesed väidavad, et meil ei ole AI-st midagi karta, me võime elektri välja võtta, siis no ei või. Juba praegu on olemas AI-keskused, kus ei ole nuppu, kust elektrit välja võtta. Kõige lihtsam on mõelda selle peale, et kõige suurema tõenäosusega, et kui AI hakkab ühel hetkel maailma üle võtma, ehitama struktuure, millest inimene aru ei saa, atmosfääri eemaldama, Päikest ära kustutama – tõenäoliselt saab see protsess alguse mõnest andmekeskusest.”
Raamatusoovitused
Lesswrong.com, Sequences
Eliezer Yudkowsky - Rationality: From AI to Zombies
Kevin Simler, Robin Hanson - The Elephant in the Brain: Hidden Motives in Everyday Life
Saade on salvestatud 27. juunil 2022. aastal Tokyos.
Kuula 🎧 Spotify / Apple Podcasts / Google Podcasts