Machine transcript

Ja ja see koolimajas, ma saan aru.

Ee see on jah mingi rahvaülikool või ma ei tea, mis asi see on. Mingi Pärnu nooruse maja, et siin kõrval on ee ee selle käsitööklassi riiulid on täis mingeid savist tehtud nõusid ja värke. Siin on igal on hinnasilt peal. Ma võin siin pakkuda, kui soovi on.

Teeme teeme müügi pärast

interneti. Teeme siin hoopis. Järgmine algoritmi podcast on pime

savist nõusida

just. [muusika]

Tere taas algoritmi kuulama. Oled jõudnud meie 347. episoodini, mille toovad sinuni LHV Nortn. Mina olen Priit Liivak ja minuga tänast episoodi vedamas nii Eerik Jõgi kui Martin Kapp. Ee tore teiega jälle siin üheskoos olla. Ee Eerik on meil Pärnus ee ma ei teagi, mis see mis see hea sõna selle kohta on, et kaugelt tööd tegemas.

Meil on selle nimi kontorist väljas töönädal. Iga aasta suvine üritus.

Ja endiselt valite Pärnu, mitte midagi muud.

Ei, iga aasta on ikka natuke erinevad, aga neid kuurorteid siin Eestis jääb ajaga väheks, et ei õnnestu nagu iga aasta uut uut kogemust saada. Mina peaks ütlema, et Pärnu ei ole minu lemmiklinn. Ma ei tea, mul on midagi nagu kuidagi silitab vastu Kärvase Pärnu, et parema meelega töötaks Viljandist ka aus. Aga noh, see on siis minu arvamus. Ee tänases episoodis me räägime ee sellest, kuidas jälle on pandud ee tehisaru ee lokaalselt jooksma. Aga see lugu on pisut teistsugune kui eelmine kord. Eelmine kord nimelt siis kui me sellest rääkisime ee oli meil külas Allan Bernard, kelle keldreis mühiseb

tere-terere tere Priit, tere Martin. Tereki, tere kuulajad. Jaa. Ee teised on, et sellise väikse masina peal, kes meid kuskilt YouTubeist või kuskilt mujalt vaatavad, ee selline mõned ee avatud kaaludega mudelid jooksevad.

Ee noh enne kui me selle masina juurde läheme, võib-olla räägi nagu enda taustast ka. Mul on kuidagi selline tunne, et me oleme me oleme mingitest laykoodidest millalgi algoritmis rääkinud, aga ma ei suutnud seda leida seda episoodi üles, et ee et ma saan aru ee räägi sellest, millega sa tegeled nagu muul ajal ja ja siis me jõuame selle AI ja Steam machineini ka.

Jaa. Ee võib-olla alustangi, et ma olen nüüd IT maailmas tegutsenud üle 15 aasta. Ee minu teekond see algus kunagi sellest IT kolledist. Ee peale seda olen figureerinud siin erinevatest ettevõtetest kogu aeg erinevates tootearendus või tarkuarendus rollides. Ee ee üks ettevõtetest, mida kuulajad kindlasti teavad on Katana, kus ma olin päris pikalt juhtisin seal erinevaid projekte ja ja kuna Katana oli üks nendest firmadest ettevõtetest, kes Eestis hakkas tegema seda nii-öelda AI first arendust, mm siis ee sealt alates olen ma ee väga palju sellele teemale pühendunud just just ee ka koduses mõttes, et proovinud seda võimalikult efektiivselt ära kasutada ee enda jaoks ka kui ka teiste jaoks ehitatud tööriistus sinna ümber ja nii edasi. asju, et aga jah, täna ma olen selles ettevõttes nagu Baltic Lay ee juhin ja

ee võib niimoodi nimetada küll. Jah. Okei. Ee nii, aga teeme siis teeme siis alustaks kiire intro selle Steam Machinii kohta ka, et

noh mis kastiga tegu on, et ee minul endal seda kodus ei ole. Ma tean rohkem Steam Tech kui Steam Machinei, aga noh suhteliselt uus konsool, aga mitte väga võimas masin, ma saan aru.

Ee vastab tõele. Jah. Et ee ka, kes ei tea, siis Team Machine on siis war poolt tehtud ee ee vist teine katsetus teha sellist tarkvara, sellist riistvara, et tegu on siis väga väikse ee arvutiga sisuliselt seal peal jookseb Linux Arch Linux ee ja ta tarbib väga vähe elektrit, aga noh ta ongi mõeldud pigem selle jaoks, et sa kasutad seda ikkagist mängukonsoolina, et mina ostsin ka tema tegelikult mängukonsooliga. Ma ei ostnud seda selle ideega, et ma panen sinna nüüd AI peale jooksma. Ee aga aga kuna ta temaga saab teha muid asju, siis miks mitte teha muid asju. Ee Riistvara poole pealt tal on 16 gig rammi ee mis ei ole väga palju tänapäevases maailmas. Veel vähem veammi

Kui me rääkisime Allaniga, siis ee noh tal on need Nvidia 3080 ja 3090 kaardid. Noh, 3090l on 24 gigam ja tal ei ole neid üks, vaid vist kolm või neli tükki nagu järjest jooksmas, selleks, et suuremad mudelid ära mahuks, onju. Nii et noh see kontrast on tegelikult üsna märgatav nagu, et sellepärast see mulle nagu huvi pakkuski, et et oot, mis siin toimub.

Jaah. Et ee eks nagu ikka on, et iga asja iga vajaduse jaoks on õige tööriist, eks. Et kui sul on vaja jookstuda neid kõige suuremaid mudeleid ee ja ilmselgelt sellisel väiksel kastil on omad piirangud, ee siis ongi sul vaja ka vastavat ristvära. Et aga minu vajaduste jaoks, mis on hetkel personaalsed, ee tundub, et selline väikekastikene, väga vaikne väike kastikene saab hakkama. Nii. Aga ee räägime siis Morfeusest, et mis asi see on ja noh, mis ma ei tea, millest see koosneb, et mis sul päriselt seal Steam Machini peal on, mis sul kuskil ee ee kaugemal, suuremas serveris võib-olla olemas on.

Mhm. Et ee see võib-olla siis alguslugu sellele ka, et miks ma üldse Steam Machini peale panin need avatud mudelid, et et ma hakkasin siin üks hetk oma üritasin oma elu rohkem automatiseerida ee et mingisugused asjad ee mida ma olen ise teinud, et et kas ma saaks nüüd lõpuks nüüd kuidagi AI-ile üle anda, et selline privaatassistendilaadne toode, aga ta on natukene väikeste nanssidega, et tal on natuke rohkem teadmisi, et ee ma kirjeldan teda väga tihti, et ta on lihtsalt märk märkmik, millel on natukene rohkem võimekust kui tavalisel märkmikul, et ee et ee ta loeb minu kalendrit, ta loeb minu e-maile ee ja tal on hulgi erinevaid MCP-sid, mis ma

Seda seda oleks mul vaja olnud. Ma just mõtlen, et see Eliis on siuke tüütu asi, et kuhu hommikul minna. Kas saad talle öelda ka midagi siis, et ee näed, et mul siin hästi kõvasti ütleme hei, mobi, et kas siis midagi aktiveerub, osta tualettpaberit 100 rulli, et siis

ee ta oma olemuselt töötab ee kui infokoguja. ee selle infoga tehakse midagi ainult minu sessioonide ajal, et ee et see, et mingisugune päris nagu ee asi toimiks näiteks jah läheks kuhugi poodi ja ostaks midagi, ee siis selle jaoks pean mina seda ikkagist juhtima, et ee tal on piir väga piiratud ja kindlad asjad, mis ta saab teha, et enamasti ta ongi ta kogub infot, paneb nüü kirja ja siis teeb mulle sellise mõnes mõttes nagu todo listi ja siis minu aktiivne sessioon, kus ma panen ta käima, ee käin neid todulis asju läbi ja siis tein neid otsuseid, et mida reaalselt teeme ja kuidas teeme ja nii edasi, et mõtlemisosa aidetame kõigist praegu veel inimestele. Ee see muu asi seal ümber, et seda võib juba päris julgelt anda teistele asjadele teha. Aga

Ee tead, ma kuulasin sul, sul on mingi helisample on kodulehel ka see koik.ai Ai ja see oli päris creepy, et ee kas ta päriselt sul kõlabki niimoodi, et see oli nagu ee noh tõesti selline koll metsast nagu hästi käheva ee käheva madala häälega nagu, et [naer]

sellega on hea lugu. Jah. Et siis ee kui ma see on esimene asi ka, mis ma selle Steini peale hästi panin, oli see muusika genereerimis, ma tahtsin talle hääle anda, et ee justkui nagu meeled, meeltekast on tema jaoks see. Ee siis ee ma ise ei dikteerinud talle seda häält. Ee ma loin talle küll persoona, aga ta ise otsustas, milline ta on. Ja kui ma ise seda häält esimest korda kuulsin, siis see lause, ma ei öelnud talle ka ette, mida ta ütlema mulle peab, eks. Et ta ise genereeris mulle vastuse. Ja siis esimene lause oli veel hullem. [naer] ee kus oli vahepeal kui töötad tehisaruga, siis tekivad need kohad, kus sul on selline ahaa või selline korraks, et oot oot oot oot, mis siin toimub, sest see oli jälle nendest olukordadest, kus ma olin, et ee kas [norsked] ma peaksin edasi tegema seda, [naer]

Mhm. Kas kogu see tööv nii nagu

see tööv, mis sul on, et see, et ta kogub infot ja ainult siis, kui sinu sessioon on, siis ee siis ta midagi teeb, et kas see on su enda üles ehitatud või seal on mingi sa kasutad, mis millega sa selle tegid või kuidas see nagu sul üles ehitatud on?

Jaah, ee töövõju mõttes on jah kõik üles ehitatud, et ma olen ee siin eelnevates rollides ehitanud igasuguseid pipeline, orkestreerimispipeline eelnevate mudelitega ja nii edasi, et arendust teha kõvasti, et ka see on praegu ise ehituses ehitatud. Ee ta koosneb sisuliselt hästi paljudest ee MD failidest, poste andmebaasist ja siis ee Petoni skriptidest ee ja ja kõik need kokku siis annavad selli noh tulemi, et ja loomulikult ka kronnidest, et mingid asjad, mis jooksevad mingi kellaaja peal ee mingisugused kontrollid ja asjad, need käivad kõik kronide pealt. Üks märkus siia, et ta tegelikult natukene teeb ise ka asju, et öösiti tal on oma sandbox ee kus ta siis teeb minu

ja ja seda kõike endiselt seal Steam Machinii peal. Ee siin on nüüd eris jah, et ajuosa, see suur mõtlemine hetkel on ee on antropicu mudelim ee puhtalt sellepärast, et konteksti limiit ei mahu sinna peale ära. Et kui me räägime Steam Machineist, siis selle Steam Machini peal ma kasutan hetkel Coin 2. mudelit 7000 seit biljardi parameetriga ee ja sinna mahub selline 25 ee PDF-i täis teksti. Et see ei ole nagu väga vähe, aga see ei ole ka väga palju, kui me räägime siin miljonisest ee kontekstist, mis on antropical, et see nii-öelda

25 25 PDF-is on nagu 25 lehekülge PDF teksti võ

Jaa, just jah 25 lehekülge PDF-i, et ee sellised lühikesed vestlused saab seal, lühemad vestlused saab seal ära pidada, aga te võite kujutate ette, kui palju on igasugust metainfot siis ühe inimese nagu elus üldiselt, siis see sinna ära rahu. Ja see tegelikult see ongi üks üks väga suur väljakutse ka mulle olnud, et kuidas seal teises ahjus hoida seda infokvaliteeti, sest et ee kui läheb halb info sisse tehisintellekti, siis tuleb ka halb tulem sealt üldjuhul 99% ajast. Et selline ee korrastamine ja väga teadlik otsustamine, mis on tähtis ja mis mitte, on väga oluline osa sellest protsessist. Aga selle jaoks on siis mingid täiendavad mudelid või või kuidas sa seda teed, et noh, et sa

Ootot, sa pead seda pipeline veel kirjeldama, sest minu jaoks on nagu segane. Ma olen suhteliselt suhteliselt nuob nagu selles vallas, et et ee noh võtame näiteks selle iga öise see protsessi, mis sulle mingeid andmeid ette valmistab, onju.

Mhm.

Noh, mis on ilmselgelt selline, kus osa nagu läheb sinna antroopicu mudelisse. Osa jookseb sul siin ee ee selle Morfeuse peal või selle Steamtechi peal. Nojah, näed, Steam Machinii peal. eks et ee ee et kuidas seal see ahel nagu käib, et et kes mida teeb, et võib-olla siis tekib nagu parem arusaamine, sest kui sa ütled, et et ee see antropic mudel suudab justkui nagu ee Steam Machinei peal mingeid asju käima panna, noh see tundub juba minu jaoks seda ma seda ma juba ei teaks, kuidas teha.

Jaah. Ee nii on, et ütleme võtame selle õise õise asja, mis käivitatakse siis Kroni pealt. See kron paneb peale siis ühe ühe käivitab ühe siis sessiooni, mis jookseb antropicu kontekstis. Ja see see sessioon siis ee üle MCP, mis on ehitatud siis Steep machinii peale ee, mis seal jookseb ee suudab siis vastavalt omale vajalikke tööriistusel küsida. Et kui tal on näiteks vaja genereerida mulle on minu järgmise LinkedIni postituse pilt ee mis kõik selle väikse masina peal tehtud ee võite vaatama minna ee siis ta ütlebki Steam Machinile, et kuule, mul on vaja nüü pilt genereerida, mille peale Steam Machini peal olev server ee paneb selle mudeli tööle ja teeb oma töö ära ja

Jah. Ei, et Steam siin on nagu MCP server, mis on siis Antropicle kättesaadav. Antropicu cloudis ta peab kuidagi sinu MCP-d siis saama kasutada, onju. Ja siis see cloudis on ta kasut noh ära konfitud, et

ee võid kasutada seda MTP-d, mis MTP juhtub, mis on sinu Steam Machine, onju ja siis seal selle kaudu ta saab siis kasutada mis iganes tööriistu sa annad talle, eks ole. Just täpselt nii. Mina kasutan küll cloud codei, mitte cloud AI.

Okei. Okei. Si nüüd hakkab juba jah mingi pilt olema, et

et väga kaval sa teed oma masin MCP, kuhu on võimalik väljast tagasi saada sisse. Et tavaliselt me nagu mõtleme, et MCP on see, mis on väljas, et sinu sinu tööriist saaks minna sinna, aga kui tööriist on clouis, siis sa teed enda arvutist MCP ja nagu muudad selle suuna teistpidiseks.

Mhm. et disain oligi mõeldud selle peale, et ma saaks üks hetk, kui ma võib-olla enam tropicut ei kasuta oma aju jaoks, et siis ma saan seda ükskõik kus kasutada põhimõttiselt. Aga see tähendab, et sinu see Steam machine on internetti avatud. See MCP server on sisuliselt reklaamitud kuskil välja.

Ee ei ole. Ee ta on mul läheb sellise tarkvara nagu Tails lokaalses võrgus oma ajuga ee ja muud ühendust. ee välja arvatud minu ajuosa on siis see tegelikult internetis, eks. Aga aga siin me siin ise just oma olemuselt ei ei saa ee kuhugi väljapoole minna.

Aga väljast nagu sisse, et kuidas see kuidas see Antropicu cloud code ühendub selle MCP külge?

Mhm. Ee selle jaoks ongi see tailsi tarkvara, mis teeb siis lokaalse võrgu, privaatse lokaalse võrgu, mis on ka krpteeritud. Et isegi kui ma olen näiteks oma arvutiga kohvikus ee kus peale jookseb ajusessioon ee on ta justkui ikkagist lokaalselt võist nagu VPN või siuke tunnel sest ja sellest ma saan aru. Ma mõtlen, et et siis sul see antroopika mudel noh ta on ta ei ole ikkagi nagu see jah ta ei ole see nii-öelda pilve cloud

ee vaid ta on ikkagi nagu clot code, mis jookseb sinu läpakas põhimõtteliselt, et sa oled kohvikus ee ee ja siis see saab kasutada MCP-d üle tail scalei, mis on sinu kodus, eks ole. Täpselt nii. Ja siis cloud codeil endal on ka see hea remote sessionite funktsionaalsus, et seda ma kasutama väga tihti, et kui mul on gear arvuti kodus näiteks ee ja ma tahan note teha, siis mul on notaking see kõnelemisäpp siin, kus ma saan temaga eesti keeles öelda, et kuule, pane see kirja ja siis see kõik maagiliselt jookseb õigesse kohta niimoodi, et mul on järgmine kord võtta kohe järgmine asi, mille tööd teha.

Vägev. See tundub väga nutikas lahendus ja aga kõige hullem on see, et see lahendus tegelt ei ole nagu noh nagu siin ei ole veel AI-ist väga palju nagu tegelikult midagi tegemist. See on lihtsalt hästi kaval võrgulahendus, et kuidas saada oma asja teha väljaspool kodu nagu vaata, et iseenesest väga väga kavale.

Transcription on nagu ee on üks põhilisi asju onju, et sama Eesti võiks olla seal taga mingisugune Pytoni skript, mis ee selle transcription sisendi võtab ja selle kuskile notesidesse salvestab ja touuks nagu tekitab, onju.

Just. [ohked] A tegelikult ee mul tekkis sellega küsimus, okei, et sul on siis nagu valve enda poolt siis kokku pandud see Steam machine, onju

just. Kas selle peal jookseb Steam OS juba või siis sa mis sa tegid sellega, et kuidas sa üldse sinna siis ligi said, et sest et ma ei ole nüüd ka tegel see masin ei ole üldse lukus, Martin, et nii nii palju ma võin öelda, et noh nagu Steam Dech

see ei ole üldse lukus, et see Steam OS võib seal peal olla, aga noh, kuna see on ee arsti Linux, et siis sa saad bootida sinna Linuxisse ka ja täitsa seda Linuxi desktopi kasutada ja terminali ja kõik noh suvalisi asju sinna paigaldada, mis Arsti Linuxi peal veel jookseb ee et lihtsalt see Steam OS on seal nii-öelda on top of it, mis teeb selle

Okei. Ma tegelt seda mõtlesin, kas see on nagu tualbuut või see on, et sa saad ikkagi selle sama Steam OS-i

Shelli ka veel kuidagi minna?

Ee jaa, ta on olemaselt selles suhtes, et kui sa alati ta tööle paned, siis tal läheb alati käima see Steamoessi visuaalne pool, mis seal peal on. Ee saad selle ümber vahetada niimoodi, et sa ei pea rebootima, et ei pea restarti tegema. Ee ja aga ainuke asi ongi, et kui sa oma asju sinna peale disainid, siis sa pead arvestama sellega, et ta on peamiselt ikkagist mängukonsool. Ehk siis kui Steam OS saab uuenduse ja sinu failid on kohtades, kus nad ei tohiks olla, siis nad lähevad rahulikult kõik minema. Et ee et sellised disainiotsuseid tuleb teha vastavalt sellele, mis ee mis on ikkagi selle peamine eesmärk. Aga jah, ma olen täitsa arvuti, tavaline arvuti, et olles Ninuxist nüü aastad eemal olnud, pean tõdema, et see arvuti kasutamise kogemus on ka väga väga hea, et Vääl on siia

Mhm. No minu lahendus on selles suhtes lihtne, et tegu on siis jah on seal on MCP server ja siis tal on olemas hunnik taaskord Poni scripte, mis kasutavad shelli, et erinevaid mudeleid siis üles panna, et ee ja ta mida ta teeb on mis kõige tähtsam ongi on ka see memo on see Rammi ja siis ee Rammi jälgimine põhimõtteliselt, et see otsa ei saaks, et tal on mingi kindel kogum mudeleid, mis ta saab üles panna ise omal tahtel ee ja kui ta on oma töö ära teinud, põhimõtteliselt ta ütleb nagu on demand ee kui ta oma töö ära teinud, siis ta toob selle mudeli alla ja vaatab ka, et ramm oleks puhtaks tehtud, sest väga tihti juhtub see, et millegipärast midagi jääb ramm ikkagist seisma, et siis seda puhastamist peab

Mhm. mis tähendab seda, et et ikkagi muul ajal, et kes iganes kellel soov on nagu selle Steam Machiniga mängida, siis siis saab seda ikkagi teha ja

Jaa, seal ei ole mingit probleeme. Et minu ee miks ma üldse Steam Mainii peale panin, et ma ei oleks võinud ükskõik mis arvuti peale selle panna tegelikult, eks. ee et ta on justkui nagu ee vabavaraline või selles suhtes nagu kast, mis seisab niisama enamus ajast ikkagist, et selline, et sellel muul ajal ta võib ju teha midagi muud, et miks mitte seda kasutada. Et kahjuks ee vaatasin huvist juba ka, et kas PlayStationi või siis Xboxi peale saaks panna midagi sellist, aga aga kuna need ekosüsteemid on nii lukus, siis sinna kahjuks ei saa,

kuigi neil on võimsamad võimsam ristvara. See olekski järgmine küsimus olnud, et kas huvitav, kas keegi sinna peale ka juba midagi ette on valmistanud, et ee jah, Eerik, sa hakkasid räägim,

kas e kas need eesti keele mudelid, need text to speech ja speech tox, et kas need jooksevad ka sulas boksis, et ee õigel hetkel siis ee tõmmatakse need käima vä?

Jaa, täpselt niimoodi. ee nende ee tekstimudelitega see lugu, et need jooksevad enamasti hoopis e CPU peal ee mitte siis graafikakaardi peal. Ee ja need nende jooksutamine on tegelikult kõvasti lihtsam, et kõige kõige raskem ongi jookada tegelt ee siis pildi genereerimist ja muusika genereerimist ja video genereerimist sellise pisikese masina peal siiski ei saa teha.

Mhm. Aga need mudelid ise asub sorry, ma küsin vahele, et kas need mudelid ise asuvad seal seal masinas, et nad nad selles mõttes, et nad laetakse mällu õigel hetkel, eks, aga nad põhimõtteliselt asuvad seal ketta peal nagu kogu aeg, et neid ei tõmmata kuskilt alla. et noh, et see oli ka asi, mida me Allaniga rääkisime, et miks tal seda hästi kiiret võrku oli vaja, et tal ikkagi noh selle mudeli vahetamiseks sisuliselt tõmmatakse uus mudel kuskilt ee ee kuskilt võrguketta pealt nagu endale sinna masinasse.

Ja minu puhul on nad kõik masina peal puhtalt sellepärast, et ee ee kuna riistvara on äärmiselt piiratud, eks siis sinna suvalist asja sa tõenäoliselt püsti ei pane. ee lihtsalt niisama, et ütle, et nüüd võta Quen 3.5 ja või Kimi K3, mis on kõige unistuseks. Ee ja pane sinna käima, et sellist asja jah ta ei tee, et tal on ette antud ikka siis kuri ee kindlaks vääratud list ee ja siis ee see on nagu valideeritud siis vastavalt, et kas see läheb käima või mitte ja kuhu maailma ma seda lükata saan, et ma olen korduvalt ega nagu nii lukku lükanud, et et enam ei võta ei juhtugi midagi enam. Kas see ketta storage on ka teema seal, et palju seal või noh need saad mingi välise ketta üsna lihtsalt vist juurde panna või on see üldse küsimus või ei ole? Pigem ramm ja veeram

Mhm. Ee ja põhiline see aju on ikkagi seal cloodi peal, et noh, et siis ta ei saagi nagu väga väga lappesse ka minna, et ta hakkaks midagi hullu tegema. Aga samas see sama asi, mis sul öösel koodi kirjutab ee noh sa ütlesid, et see on eraldi sandboxis. Sellel siis ee suurt sellist võrguligipääsu ei ole või ta saab ainult ee ma ei tea mingit teek alla tõmmata kuskilt?

Jah. Et ee no öösesõgukes mitu asja, et mul on ee researcher või siis nii-öelda nii-öelda uurija, kes sellel on siis võrgu ligipääs, aga ta saab ee ee saab siis teha oma otsinguid internetist, aga koodikirjutaja tõesti ei saa internetti ise minna. ee tal on olemas nii-öelda ee läbi dokkeri siis keskkonnad, kus ta saab jooksutada oma soovitud asja, et kas siis ma ei tea mingisugust serverit või mis iganes. Aga ikkagist suures pildis selleks, et ta seda tegema hakkaks, olen mina ennem seda plaani juba näinud. Ee ja aga noh, kui sa seda nüüd ütled, siis jah, kui ta mingi libraryi viirusega alla tiib, siis siis tõenäoliselt see sandbox on ühtel omadega, et ee kui sealt ka nüüd välja rüitakse, siis on

No teine pool on, kuidas see ütleme sellise koodi kirjutamise mõttes performib, et noh ma saan aru, et sul sul

sul nagu ei ole tähtis, et see jõudlus oleks siin suurepärane, sest ta võibki läbi öö seal nokitseda, onju. Hommikuks midagi valmis. Ee aga oled sa nagu mõõtnud ja jälginud ka, et ee kui palju seal nii-öelda neid ee tokeneid läbi lastakse?

Mhm. Ee siin on üks tähelepanek, et ee et koodi kirjutamine ee tal selle Steamasini peal ka jookseb koodi kirjutamise mudel ka Qenni oma. Ee ee aga selle kontekst on on üpris piiratud, et sinna mahub selline mina sinna terve koodi peal püsti ei suuda panna, et sinna mahub selline üks kaks faili maksimaalselt konteksti mõttes, et saada head

skriptid põhimõtteliselt. Jaa, just scriptid, et mida mina selle jaoks kasutan või noh, et kui kui ma teen mingeid suuremaid asju enda projekti või mis iganes ee siis ee siis see ikkagist tookseb üldiselt antroopicu peal, aga siis Steam Machinii kasutan selliselt põhimõtteliselt nagu CICD ee pipeline, kus mingisugused testid ee töötavad teise masina peale ja teise mudeli peal ja annavad teistsugust tagasisidet, et ee seal on hästi palju ee sellise nagu tööpoo disainimisel saab hästi palju erinevaid asju, et kuidas kvaliteeti hoida ja kuidas seda tagasiside ee asja teha ja kuidas tagada see testide või siis mittetestide olemasolu seal. See on sisuliselt siis ikkagi, et et sa kasutad teda Steam Mainii tõesti

juhtida ja koordineerida oma erinevaid siis nagu neid ee tegevusi. Onj.

Jaah. Ja seal on see erinevus ka, et trapikudelitega ei saa kõiki asju teha, eks. Et me oleme siin näinud viimastel nädalatel, kuidas ee agentid ründavad suuri süsteeme ja kaitsta ei saa, sest et see mudel, mida sina parasjagu ostad, ütleb, et sa ei tohi seda asja teha, mida see teine mudel seal parasjagu teeb. et ee et siis selline mõnes mõttes kodune võib-olla mitte nii võimekas mudel ee lubab ka neid asju teha.

Mhm.

Kas ee kas see võiks nüüd olla midagi, mis siis ee aastal 2030 on iga eestlase kodus ja kus sa saad öelda, et ee hei Tõnu, telli piima. Ee noh, võib-olla siis juba saab piima tellida ka, et ee võib-olla täna veel ei saa. Mis mind täiesti ee infyiga ajab närvi on see, et ee et Voltil näiteks on ee arendajate portaal, eks ole, dev portal on olemas ja appi on olemas ainult siis nendele kaupmeestele, et ee nagu sellist tarbijaapit nagu üldse ei olegi olemas nagu, et mis on ja ma saan enda andmed nagu eksportida, aga et mingisugust automatiseerimist teha noh null võimalust nagu

Paneks kohe oma nutikülmkapi, ühendaks ära seal nende tellimuse vooga see, et marketist tuleks kohe hops hopsust.

Kohe kui viimase piima lahti teen, et siis ee tellitakse kaks juurde.

Mhm. E aga vastates sellele lokaalse kastile küsimusele, et kas kõigil peaks see kodus olema, siis

noh sellisel kujul praegu Steam Machinina, mängukonsoolina miks mitte, aga võib-olla niimoodi lokaalsed aid jooksutada kõik tavakasutajatele, võib-olla mitte küll, aga kannatab ee noh täna ega täna võib-olla mitte eks aga mõne aasta pärast, kui mudelid on rohkem optimaliseeritud ja võib-olla see ee ee hinnatase tuleb ka allapoole, kus me saame juba suuremaid ee mudeleid oksutada. Ee et kui me täna saame sellise 5000 euroga saame laptopi, kus on 128 gig ühendatud rammi on, et selle selle peal juba jooksevad päris paljud asjad, et aga mina näen lokaalsel kui sellisel hästi palju võimalusi ettevõtete enda siseelu korraldamises, et on väga palju ettevõtteid, kes ei saa oma andmeestiku USAsse serveritesse

Mina ütleks, et mõne aasta pärast keegi võiks nüüd teha siukse

võib-olla see on juba plaanis või võib-olla ei ole ka, aga et [norsked] on paar asja, mis on nagu noh nagu igalühel kodus on sul peab olema ruuter, kui sa interneti kasutad, eks ole. Ee väga hea koht. See on 247 sees sul kogu aeg, onju.

Oota, aga see on telija offering ju. See on põhimõtteliselt telija offvering.

Onj. Või siis, et kui sa ütleme, et sa ei ole võib-olla AI pooldaja, aga noh mingisugune nutikate süsteemide pooldaja, siis miks mitte ka näiteks ee HomeKiti või siis ee ee selle Google'i või Amazoni ee see keskaju eks ole kontroller. Miks mitte teha seda piisavalt tugev niimoodi, et sa saad seal oma mudeleid käima panna, onju? [norsked] Vot võiks olla küll. Ma natuke, ma natuke kahtlen, et need ruterid oluliselt võimsamaks muutuvad, aga kui nüüd Telija teeb selle ära, et nad lisaks teleteenusele hakkavad ee ee personaalset agenti pakkuma, mis jookseb nende serverites ehk Eesti pinnal,

ee siis mina tahan revenue share. See oli praegu [naer]

ma arvan, neil on juba see võrk on kõik olemas. Nad saavad selle selle ruutimise saavad sinna

ee kuidagi sisse ehitada ja tuleb lisaks digiboxile siis saad selle ee heliikuulava kastikese ka endale tuppa ja siis saad saad ee saad sellega rääkida. Ja mina üldiselt arvan, et umbes 20-30 aasta pärast see mobiilsed seadmed on ise on ongi põhimõtteliselt sul ei olegi enam mingit operatsioonisüsteemi. Sul ongi ainult seal üks ee suur AI mudel, kellele sa kellega sa siis räägid, küsid, mida sa tahad ja siis ta teeb seda.

See open [norsked] open eye teeb researchi praegu vist, mis on ilma ekraanita mobiilselt seadnud põhimõtteliselt.

Jah,

ta on nagu null ekraani.

Genereerib sulle kuva, kui sul on tahab midagi tema käest saada. Tal ei pea olema mingid uid onju. [norsked]

Jaah. [naer]

No mobiilsetest seadmist rääkides siis alles hiljuti vaatasin, et keegi pani selle meie enda avatud eestikeelse mudeli iPhone'i peale tööle, et ka see on lokaalne ai ee väik jookseb lihtsalt telefoni peal ja teeb sul sellest tekstist eestikeelsest tekstist, mida on väga raske suurtel mudelitel ka siiamaani aru saada täitsa pädeva teksti.

Mhm. Kairol, sa mainisid enne ka kõneäppi või? Eerik, küsi sina ära ja siis lähme järgmise teema juurde. Mulle tundub, et sul on seotum küsimus. natuke sinna samma, aga et kuidas sina põhiliselt selle oma kastiga suhtled, et ma saan aru, midagi läheb läbi telefoni, aga kui sa koodi tahad kirjutada, siis sa lähed mingi terminaliga või mis see erinevad moodused sul on?

Ja ja täpselt nii. olles olles oma taustalt arendaja ee siis ee arvutis, kui ma teen neid aktiivseid sessioone üldnimetama neid niimoodi, siis mul on alati lihtsalt ee terminal lahti ja sealt kaudu ee ma olen üritanud ja proovinud ka siin erinevaid visualiseerimistööriistu selle jaoks nagu Obsidiant ja kõik need muud asjad, mis on hästi populaarsed praegu. Aga aga mul olles aus siis mul ei ole seda vaja. Ma saan kiiremini terminalist kõik tehtud, mis mul on vaja teha ja aga jah, kui ma jooksen kuskil ringi parasjagu õues või mis iganes ja mul on mingi suva mõte ee, mida ma tahaks kirja panna või küsida mingi asja kohta, siis ee siis mul on tehtud endale samamoodi telefoni appä, noh ta on tegelt veebileht ee mis siis kus ma saan temaga siis jutustada eesti keeles või inglise keeles või vastavalt mis iganes ma tahan saada.

Just. Ja siis tehakse sellest tekst, siis tekst läheb aiu ee ja aiust tuleb vastus. Vastus läheb jälle Steam Maini peale

Antropicusse.

Jah.

Ehk siis see tekst läheb antropicusse. Antropic mõtleb midagi välja. See läheb Steam machinei peale ja siis Steam Machine teeb ee mida vaja, et kas siis ee salvestab selle märkmena või kirjutab mingisuguse scripti jupi.

Jah. Või siis teeb heli vastu mulle vastusena näiteks. Et jah, praegu on kui ma aju osas,

et kas see Antropic on see, kes siis saab aru sellest, et mis sa ütlesid, et kuigi see Taltechi mudel teeb selle tekstiks, siis see ei saa ju aru, aga Antropic tõlgib selle siis nii-öelda executableiks põhimõtteliselt. Jaa, sisuliselt kuna temal on see kontekst sellest kindlast ajuosast, mis talle on kirja pandud, eks ee siis tema jah teeb selle teadliku otsuse selle pealt, et kui see ongi mul nüüd järgmine samm, et kas ma saaks kuidagi selle ka sealt Andreopicu pealt ära, et siis siis ma saaks päriselt öelda, et kõik on lokaalne.

Mhm. Aga selle kõnesünteesi või siis kõnetuse kohta noh, sul on tundub ka, et sul on iPhone, eks ole, et sellel on ju ka tegelikult mingisugused masinõppe kored ja asjad sees, et et ee ja sa just ise ka ütlesid, et keegi sai selle Eesti mudeli ka sinna peale. Seda oled juba katsetanud ise või ei ole?

Jaa, ma olengi katsetanud katsetasin ka seda Eesti mudelit seal peal, et see töötab väga hästi. ee ja ja ma mõtlesin ise ka samamoodi teha. Ee aga aga mul oli vaja rohkem ee rohkem funktsionaalsust sellele äpile nii-öelda.

M ei ma just mõtlesin, et no et siis vähemalt ühe osa ainult siis ütleme, et siis ainult selle kõnesisestuse või selle prompti sisestuse, et sa teed selle telefonis ära ja siis edasi saad juba puhta teksti. Vaata

iPhone'il on ka sisse ehitatud see kõnesüntees, et aga ainuke jama on sellega, et eesti kätt loomulikult ei ole. Nojah, just,

et muidu muidu saaks kogu selle osa tegelikult tõesti telefoni peal ära teha ja liigutada ainult teksti, mis oleks kõvasti lihtsam ja tõenäoliselt ka kiirem.

Nii. Aga siis tulles tagasi selle kõneläpi juurde, et et see ma saan aru noh see kasutab neid Taltech servereid selleks ee Ei,

ei. Steini peal lokaalsed avatud mudelid.

Aa oot oot oot. Kõne, ma mõtlen kõeleäppi, mis on nagu telefoni peal või või see sul

seda sa

see kasutab ka steam machini. Jah.

Aa sa saad selle ühesõnaga seadistada siis mingisuguse ee backendi vastu ise.

Jaa, ta on ta no minul on endal tehtud appä selles suhtes. Ma ei kasuta ju midagi ühtegi teist olemasolevat hetkel. Ee ja selle puhul on jah mul tehtud niimoodi, et ta saab siis minu ajoga ühendust ja aju läbi aju saab siis Steam Machineiga ühendust ja selline väike ring käib seal niimoodi.

Sellest see segadus, sest ma tean, et on olemas vähemalt Androidi peal on täpselt selline appäpp, mille nimi on kõnele.

[naer]

et ee ee ma ei tea, kas alles aga et noh tegelt see oligi nagu ka eesti eesti keele jaoks nagu mõeldud ee ja aga ma ausalt, et sa ei räägi sellest äpist ee vaid sa räägid ee vaid sa räägid enda lahendusest, mis on juhtumis oma nimega. Ee jah, ma ei ole talle nime otselt andnud, aga ta on lihtsalt selline ä, millega ma räägin siis mobiga parasjagu, et selline üks kanal, kuidas ma suhtlen temaga. Et minu arust on sellest eestikeelsest versioonist on tegelt veel teisi äpi ka, et just hiljuti tuli mingi teine asi välja ja on selline veebileht olemas nagu neurokõne, mis suudab ka mingeid asju teha. Ja kui rahul sa täna nagu selle kvaliteediga oled, mis sealt tuleb? Sest see on nagu

Ee sa mõtled eestikeelse kvaliteediga.

Jaa, just, et nagu noh mõlematpidi, et ee et kui hästi see sinu tekstist aru saab ee kui ka see, et kui hästi ee see tulem sealt nagu välja tuleb. Noh, kui antropik genereerib eestikeelset teksti, mis siis tehakse ee kõneks, no et see juba see lause ehitus sageli ei ole nagu nendel mudelitel selline eestipärane ee vaid kõlab veidi kohmakalt.

Mhm. No eks see ee diktsiooni koha pealt on ikkagist kõik arusaadav ja kõvasti parem kui need suured mudelid. Ee ee aga jah lauseehitus, kuna selle paneb kokku Antropicu mudeli ikkagist, siis see on mõnikord selline natukene lünklik, aga aga üldiselt ikkagist ee on asi kõvasti edasi läinud, et kui ma siin aastaid tagasi midagi samasugust üritasin teha või proovisin teha, siis see tulemus oli kõvasti halvem, et aga me võime kohe teha testi, kui soovi on, et ütleme talle midagi ja vaatame, mis ta vastab meile. Ja kuna ta kuna ta mind väga ei kuule, siis sa võid küsida näiteks, et milline kõige parem algoritmi episood on? [naer]

Teeme niimoodi.

Tere, Mobi. Ee kas sa saaksid öelda, milline on kõige parem algoritmi episood? Et ma olen algoritmi podcastis ja ee autorid tahaksid teada, et mis taustal juhtub praegu on see, et nüüd see liikus sinna Steam Machini. Sellest tehakse tekst, siis ta liigub aiu, aiust tuleb vast tagasi ja siis see läheb uuesti Steam machinii, kus genereeritakse mingisugune tekst või see helifil ja see jõuab siis minu telefonini, et kohe tuleb vastus ka.

See huvitav sõnastus sul, et see liigub aiu, et aju on siis see, mis iganes see nagu masterkeele mudel seal taga on või või et noh ja täna on tropic võib-olla tulevikus, midagi muud. Jaah, just täpselt niimoodi, et ee ta on lihtsalt üks osa süsteemist. Võ ütleme kannatus peab kõvasti olema.

Minu andmetes on ainult sinu enda episoodi. Stan machine saade salvestus 3107 ettevalmistus. Mitte hinnanguid teiste algoritmi episoodide kohta. No

vot andmed puuduvad.

Sinu lemmikud varasematest episoodidest. Ee jaa, sellega on ka huvitav lugu, et mul on üks embeding mudel ka selle väikse masina peal. Ee ja seal tegelikult on andmed olemas, et ma kogun sinna erinevad podcaste tekstide versiooni peale ja siis kuna see on vektoriks tehtud, siis selle pealt saab päris huvitavaid otsinguid teha, et kui tahate mingisuguseid raamatuid või midagi kätte saada, siis jälle päris päris mugav. Nojah.

Oota, räägi lähemalt sellest, et sul on seal audioraamatud või need audiod koos vä?

Ee seal on põhimõtteliselt podcastide transkriptid või tekstilised versioonid.

Mm.

Ee ja need on tehtud mudeliga tehtud vektoriteks ja siis seda vektorit saab kasutada kui igat teist ee vektoril põhinevat otsingut. Et sisuliselt sa võid võtta suvalise helisalvestuse ja siis see on sul kuskil otsitaval kujul täitsa olemas juba.

Täpselt nii.

Juba palju häid mõtteid. No kuidas sa kõik oled selle kokku pannud? Kaua sul aega on läinud kogu selle asja komplekteerimiseks?

No Steam Machine ei ole kaua väljas olnud.

Jah. Jaa, [norsked] et ee see, et ma üldse selleni jõudsin, et sinna peale midagi panna, et tänapäeval need AI tööriistad ja olles selles maailmas juba nagu pikalt olnud AI mõttes, eks ee siis ee ma suhteliselt kiiresti suudan itereida ja ma ei aja, kuna ma teen seda enda jaoks hetkel, siis ma ei aja siin mingisugust täiuslikkust, aga et ee et ee kui ei tööta, siis ei tööta. Võtame uue ja proovime järgmist. et ee see tegelt ei võta palju aega, et ma arvan, et sellise esimese mudeli ma sain esimese õhtuga ülesse. Nüüd see MCP seal ümber, see võttis nüüd natukene rohkem aega, sest see ajapu pikku, kui ma panin raskemaid asju sinna peale nagu ee muusika genereerimine näiteks, et siis pidi seda natukene järjestel muutma ja ma tegin sellise nagu tagasiside

Oligi väga hea tulemus. Lausa nii hea, et inimkõrv ei [naer] kuule. Ta genereeris selle teksti mingil sellisel sagedusel, kus mina seda ei kuulnud. [naer]

Aa, aga muidu ei ole olemas ikkagi, et et ta ei olnud täitsa nagu siis vaikne nagu tühi fail ei olnud.

Ei olnud tühi fail. Jah. Et ee see on jälle need siukes nendest sekkadest, et äkki ma peaks veel kuulama, mis ta sinna kirja paneb kuhugi ja ja

ja

ja aga see ju räägib see, et uus ee uus ründevektor on ju tegelikult on tegelt selle kõnetvastuse ja heli helituvastuse algoritmides. Ehk siis, et kui sa lisad sinna noh okei, meie ei kuuleme ainult helipõnkeid, eks ole, aga et kui sa lisad sinna teatud sorti paite, sul on võimalik panna tegelikult mitu teksti, hoopis teised promptid samal ajal, kui sul tausta taustamuusikast võib sulle prompt sisse tulla, sellepärast, et inimkõrv ei tuvasta, et seal on prompt, aga see on ju arvuti, mis seda lõpuks tõlgib, onju. Nii et ee et võib sealt igast põnevaid asju nagu sisse sööta veel. Minuest midagi sellist tehti ka, kui see Alexa tuli, et keegi siis tegi samasuguse asja, et pani selle Alexa salaja nagu muu teksti sees käima ee lihtsalt

Ja nende Alexa seadmetega on igast pulli tehtud. Üks markantsem näide on ka ee laseriga sinna siis sõnumite saatmine, et sa võidki kellega aknast sisse ee siis laseriga tab seda Alexa seadet ja siis tekitada sinna mingisuguse käskluse.

Okei. Tekitab mingisug,

et sa võidki öelda, et ma ei tea, tee esiuks lahti, eks ole.

Jah. [naer]

Suht ulme päris hirmus. Nii, aga nende vägevate ulmeliste teemadega ma arvan, et tõmbamegi tänasele episoodile joone alla ka. Ee Kairo, aitäh, et enda ee sellest mustast kuubikust ee rääkima tulid. Edu siis mobi või Morfeusega. Ee et ma saan aru, et siis kui ta nagu halvasti käitub, et siis sa kutsud morfeuseks teda, aga siis kui kõik on hästi, siis on kuule Mobi, et kas sa aitaks mind natuke? Et ee ee et ma loodan, et sa olid kahe vahel kas seda open source'ida ka. Ee mina küll julgustaks seda tegema, et noh, et siin siin minu arust mingi nagu selline lisandväärtus on kasvõi nende mudelite sisse ja välja laadimise ja automatiseerimise ja selle mäluhalduse

aga noh selge on see, et ee ai jõuab ka selliste ääreseadmetesse ee ühel hetkel ja endiselt kui telija tahab seda seda ära teha ee, et ee hakata teleteenusele lisaks pakkuma ka AI teenust, assistenditeenust, siis ee [naer] siis me võime selle neile välja joonistada, kuidas see võiks töötada. Et ee tulge aga ee kuulajad, ütleme aitäh kuulamast Eerikule, head ee kaugtöö jätku [naer] ja loodan, et saad Pärnus päikest ka. Ma saan aru, et järgmine nädal oled sa üldse kuskil ee Prantsuse päikese all, mis on eriti mõnus kindlasti. Just kasutan ka Pärnut maksimaalselt ära.

Ja aitäh ka Martinile ja aitäh kuulajatele. Meie jääme taas kuulmiseni uuel nädalal. Aitäh H [muusika]