0:00:19 | takle raz dva tři |
---|
0:00:20 | poďme se ztratit protože začínáme |
---|
0:00:23 | poslední přednášku a poslední přednášející igor szoke který se |
---|
0:00:28 | tady z zdena zbytku věnuje automatickému zpracování řeči a také |
---|
0:00:34 | a vedení polomech má také zkušenosti se start lety a jeho dnešní přednáška by měla |
---|
0:00:41 | být povzbuzení může nejenom to co vidí zákazníky důležité ale |
---|
0:00:46 | že |
---|
0:00:47 | skryté a inteligentní jádro je další služby má může dát o čem se říká another |
---|
0:00:54 | eden speech a to se konkurence a to se konkurenci bez nepodaří zkopírovat takže víte |
---|
0:01:00 | jiné igora |
---|
0:01:08 | tak dámy a pánové děkuji za sebe uvítání a |
---|
0:01:12 | začněme Š na začátek otázečku kolik svatby zvládlo okopírovat tuhletu stránku jak leží běží prostě |
---|
0:01:20 | skupin |
---|
0:01:21 | zase nahoru kdo to zvládne |
---|
0:01:24 | jo to nezvládne |
---|
0:01:27 | proč nezvládnete |
---|
0:01:33 | já nechcu kopírovat |
---|
0:01:34 | formulář tak |
---|
0:01:36 | toto vidíte |
---|
0:01:43 | ale já se tam ženy a žena říkala že to zkopíruje taky a to počítač |
---|
0:01:46 | moc nerozumí |
---|
0:01:48 | tak kolik vás hlavně okopírovat o to tak jak to leží běží |
---|
0:01:55 | dobré a kolik vazbami okopírovat toto tím ale že by to mělo fungovat tak že |
---|
0:02:01 | když tam napíšete takle něco rozumného |
---|
0:02:03 | tak vám to vrátí |
---|
0:02:05 | nějaké rozumné výsledky |
---|
0:02:08 | vy |
---|
0:02:10 | dobrý všechny |
---|
0:02:12 | můžete konkurovat budu |
---|
0:02:15 | nebo kolem a doby dotazu ve odpovědi |
---|
0:02:19 | tak |
---|
0:02:21 | bylo na začátek |
---|
0:02:24 | tím že |
---|
0:02:26 | vlastně sme tobě I ty době digitálních technologií |
---|
0:02:30 | tak vy pokud děláte nějakou webovou službu |
---|
0:02:34 | to co vidívali zákazník tak je nějaká kra krásná webová aplikace máte tam pěkné obrázky |
---|
0:02:40 | portován krásné texty odkopli Y true |
---|
0:02:43 | a dáváte vlastně zákazníkovi krásný stránek vo tom si dobře a nakupuje vaše služby |
---|
0:02:50 | máte jeden problém |
---|
0:02:52 | jak jsem říkal vlastně je to ustanou a jedniček a nuly a jedničky se velmi |
---|
0:02:56 | často |
---|
0:02:56 | a velmi dobře kopírují takže pokuď vaše služba je postavena pouze na té krásné stránce |
---|
0:03:03 | tak vám to kopíruje kdokoliv kdykoliv |
---|
0:03:05 | na toto téma mě vždycky když o tom přemýšlím napadne vlastně |
---|
0:03:10 | tracks webových serverů kdy tady byl první se pomát během já nevím roku dvou tady |
---|
0:03:15 | máme typicky možnost na stovky stavových serveru |
---|
0:03:18 | a troufám si tvrdit |
---|
0:03:21 | pro čistě tady tolika proč je taková konkurence je protože to složitost zatím krásný webem |
---|
0:03:28 | odpovídá si tak složitosti hřebíku |
---|
0:03:30 | na tom prostě nic není |
---|
0:03:32 | a to je ten problém potom vám to kdokoliv okopíruje |
---|
0:03:36 | takže |
---|
0:03:38 | to proč tady mám toto přednášku je abych vám jakým způsobem |
---|
0:03:42 | nastínil |
---|
0:03:44 | jak zařídit aby místo toho hřebíku tam bylo něco složitějšího něco to už vaše konkurence |
---|
0:03:51 | bude kopírovat news |
---|
0:03:53 | a to je právě vaše konferencích |
---|
0:03:58 | co bych té fabrice která se špatně kopíruje mohlo být |
---|
0:04:02 | ideálně nějaká černá krabička |
---|
0:04:04 | která by mohla zpracovávat nějaká data nebo něco |
---|
0:04:09 | co právě |
---|
0:04:10 | vlastně ta krabička která tady špatně zkopírovat |
---|
0:04:14 | představte si že máte službu |
---|
0:04:17 | tato služba |
---|
0:04:19 | vystavuje fotky |
---|
0:04:20 | jo máte prostě nějakou službu nebo nějaká videa pomáháte uživatelům je takový výstup rajče nebo |
---|
0:04:27 | pikasova máte spoustu uživatelských dat |
---|
0:04:30 | tato dat vlastně proudí vaší službou |
---|
0:04:33 | a uživatele tím ještě třeba něco dávají jo doba fotky a uživatel napíšou a tady |
---|
0:04:38 | je počká tady člověka tady není počkat opět se to a máte prostě kvanta těchto |
---|
0:04:44 | dat |
---|
0:04:45 | a |
---|
0:04:46 | co byste by mohli využít nešiď jenom krásnou webu a kluk teda v dokazovat fotky |
---|
0:04:51 | tak byste mohli těm uživatelům pomocí třeba taková typu |
---|
0:04:54 | to už je právě nějaká výhoda něco co je nic to ne každý dokáže okopírovat |
---|
0:05:00 | nějaký automaticky takže |
---|
0:05:03 | tato přednáška se bude věnovat |
---|
0:05:06 | neuronovým CC měl inteligenci protože ono vlastně celkově ta umělá inteligence nebo mi šílených je |
---|
0:05:12 | strašně široký pojem a bysme tady byly až do rána takže já se soustředím pouze |
---|
0:05:17 | na neuronové sítě zase to celkem jednoduše pochopit takže bysme to měli zase třičtvrtěhodinko a |
---|
0:05:23 | takže si představte že teďka v té krabičce máte nějakou nebo C |
---|
0:05:28 | a vy ji začnete ukazovat |
---|
0:05:32 | potkyna kterých je kočka |
---|
0:05:34 | a potkyna který člověk fotky na který se té sata sice to nějak učí |
---|
0:05:39 | a potom |
---|
0:05:40 | se jí zeptáte |
---|
0:05:42 | ukaž nějak vypadá teďka nebo ukaž nějak vypadá člověk |
---|
0:05:45 | já nevím jestli je to vidět co to je výstup toho pánové budu dělali nějaký |
---|
0:05:49 | experiment strávím čili neuronovou síť klasifikovat obrazu očku a vedle člověk já nevím jestli to |
---|
0:05:55 | vidíte že tam vidět N paterně si není tak trošku sem přitlačil na |
---|
0:06:00 | na kontrast |
---|
0:06:01 | že tam pořád vidět tak |
---|
0:06:04 | sem tomu ještě pomohl |
---|
0:06:06 | jo takže toto je třeba příklad jak vlastně nějaká nebo |
---|
0:06:10 | se dokáže na základě jenom hromady obrázku a nějaké informace tady počká tady člověk binární |
---|
0:06:16 | informace naučit jak vypadá kočka jakási vypadat čili |
---|
0:06:20 | myslím že to je celkem dobrá |
---|
0:06:23 | dobrá umělá inteligence |
---|
0:06:25 | tak pojďme na to |
---|
0:06:27 | co je |
---|
0:06:28 | umělá neuronová síť |
---|
0:06:30 | já to budu tady značit zkratkou no jako nebo network |
---|
0:06:34 | slaby slajdy mám angličtině už ani nevím prosím za často ručně ale |
---|
0:06:39 | prostě musíte smířit |
---|
0:06:41 | tak neuronová síť vlastně je to jakýsi matematický model který je inspirován by logickým neuronem |
---|
0:06:47 | se člověku má každý tady hlavě |
---|
0:06:51 | tak se jiří podívejme ty parametry biologický neuron vezmeme si nějak jo tak dlátka udělejme |
---|
0:06:55 | mu frontální obvod umíš změny mikroskop |
---|
0:06:58 | a to sou vidíme uvnitř tak je spousta takových to buněk |
---|
0:07:02 | a ty buňky jsou mezi sebou propojeny tady takovými chapadly v tom smyslu říkat sony |
---|
0:07:07 | a vlastně z těch ostatních neuronů vede ten a co na tady tomu se říká |
---|
0:07:11 | synapse ten a spojení vlastně na ty jednotlivé buňky |
---|
0:07:14 | jeden modelů takový celkem jednoduchý popisující jak to funguje mozku je že ta buňka dělá |
---|
0:07:20 | něco čemu by se dalo říkat integritním fajn to znamená |
---|
0:07:24 | tady chodí nějaké elektrické impulzy které sou realizované nějakým nějakou chemickou reakcí přídou toto neuronu |
---|
0:07:31 | až ten neuron a integruje nebo na sumuje nějaký množství nějaký těchto impulzu tak se |
---|
0:07:35 | rozhodně se rozhodne že vystřelí a pošle vlastně ten impulzy dál se po těch jejich |
---|
0:07:41 | sumec do dalších neuronů takle to tam běhá a nějak to funguje a vidíme slyšíme |
---|
0:07:46 | a máme radost vlastně |
---|
0:07:50 | tak matematický model |
---|
0:07:53 | matematický model je podobný |
---|
0:07:55 | je to |
---|
0:07:56 | jakási kulička do které vede |
---|
0:07:59 | jeden a více vstupu a má to jeden výstup sme |
---|
0:08:04 | počítačích to znamená je to všechno číslicové jo nástupy dáte nějaký čísílka a na výstupu |
---|
0:08:10 | vám to se kde čísílko takže si to představíte opravdu jako nějaký čti jakou číslicovou |
---|
0:08:14 | jedničku |
---|
0:08:15 | tak uvnitř toho neuronu |
---|
0:08:19 | je |
---|
0:08:21 | to není oko se sčítačka to je nějaká to integrate nějaká suma |
---|
0:08:26 | do které vedou ty jednotlivé vlastně vstupy |
---|
0:08:31 | de o problém může být v tom že každý ten vstup může mít jinou váhu |
---|
0:08:35 | ne množství informace takže dobrej něčím vynásobit vynásobíme nějakým váhami |
---|
0:08:40 | sečteme a teče důležité zařídit to file a to zařizujeme takže máme uvnitř něco čemu |
---|
0:08:47 | říkáme aktivační funkce |
---|
0:08:50 | těch funkcí je mnoho jedna z nich kterou vy klemy používáme se menuje sigmoida |
---|
0:08:57 | a vy vemete ten výstup |
---|
0:09:00 | té sčítačky strčíte to prosím o jdu a ona vám vrátí nějaké číslo to pošlete |
---|
0:09:04 | na výstup proč |
---|
0:09:06 | sigmoida vypadá takto |
---|
0:09:08 | vlastně od nuly do jedničky a tady nějaký přechod |
---|
0:09:15 | je ještě potřeba tu simoně jak naladit protože tam se může stát že vám na |
---|
0:09:20 | základě vstupu tady ta suma bude vracet hodnoty pořád třeba tady někde z mínus desítce |
---|
0:09:26 | potom by vám to neuron někdy nevystřelil takže se to neuronů ještě strčí speciální |
---|
0:09:33 | parametr kterému říkáme bias nebo nějaký posun který vám prosím o jdu jenom takle posune |
---|
0:09:37 | a naladí na tu optimální vlastně na tu optimální část sole si aby toto přes |
---|
0:09:42 | to |
---|
0:09:44 | tak to byl jeden neuron teďka to je vlastně neuronová síť neuronová síť nějaké zřetězení |
---|
0:09:49 | neuron toto je tam nejtriviálnější kterou si dokážete představit jeden vstup jeden výstup je to |
---|
0:09:53 | celkem k ničemu |
---|
0:09:55 | zajímavější to začne B když tam máme výstupu ani místu |
---|
0:09:59 | nebo můžeme dat víc výstupu |
---|
0:10:01 | a můžeme to takhle pěkně |
---|
0:10:03 | řetězit |
---|
0:10:04 | a ještě zajímá když to začne být když tam hezky přidáme další vrstvy |
---|
0:10:09 | takže potom dostáváme nějakou takovou strukturu tomu se mimochodem říká nebo on to každej tomu |
---|
0:10:14 | říkal nějaké nějak my tomu říkáme třívrstvá síť tady máme vstupní vrstvu nějakou skrytou vrstvu |
---|
0:10:19 | této zelená a pak máme nějakou výstupním |
---|
0:10:25 | výborně |
---|
0:10:27 | měli bysme vědět co je to neuronová síť se to neuron teď se podíváme jak |
---|
0:10:30 | na trénujeme jeden neuron |
---|
0:10:33 | velice triviální |
---|
0:10:37 | máme jeden neuron |
---|
0:10:39 | a připravme si nějaká data připravme si nějakou množinu |
---|
0:10:43 | se |
---|
0:10:44 | a množinu nulu |
---|
0:10:45 | X k a reprezentují méně jako v jedničkou na výstupu a |
---|
0:10:50 | nuly nebo očka reprezentujeme nulu takže potom to můžeme namalovat |
---|
0:10:56 | nějak takto |
---|
0:10:58 | osa i |
---|
0:10:59 | Y |
---|
0:11:00 | a my chceme poté síti to aby když tam strčíme |
---|
0:11:05 | jaký ten parametr X to znamená třeba tady máme hnedka to první iksko může být |
---|
0:11:09 | třeba jednička tak když tady bude jednička tak na výstupu chceme dostat jedničku |
---|
0:11:13 | a tak dále a tak dále a když tady bude třeba devítka tak na výstupu |
---|
0:11:16 | chceme dostat nulu protože očko odpovídá pole |
---|
0:11:21 | takže chceme nějaký jednoduchý triviální klasifikátoru tříd |
---|
0:11:25 | to co musíme udělat pro trénování je že |
---|
0:11:30 | vezmeme vstupní data proženeme je tou síti |
---|
0:11:34 | pak počítáme nějakou chybu opravíme parametry ste síti a |
---|
0:11:40 | tak dále a tak dále pokuď nám to leze do nějakého do nějakého tým |
---|
0:11:44 | jak začít |
---|
0:11:46 | začínáme tak že to síť většinou zastavíme ty parametry na nějaké náhodné hodnoty a ono |
---|
0:11:52 | se to prostě začne většinou to doleze vždycky do nějakého stejného zima |
---|
0:11:57 | takže vememe vstupní data proženeme síti dostaneme výstupy |
---|
0:12:01 | spočítáme chyby |
---|
0:12:04 | a chyby |
---|
0:12:06 | pro pak budeme zpátky |
---|
0:12:07 | matematicky vevnitř seděj něco čemu říkáme gradient descent já o tom tady nebudu mluvit protože |
---|
0:12:12 | tam spousta nějaký diferenciálu a myslím si zbytečné tady na barcampu |
---|
0:12:17 | důležité je že ten gradient nám říká vpodstatě |
---|
0:12:21 | jak ten parametr který jak který ten parametr máme posunout aby se nám vlastně zasít |
---|
0:12:26 | něco naučil |
---|
0:12:28 | jo vypadáte takovéto je podstatě nějaká ta kreditní funkce chyby a říká nám to find |
---|
0:12:33 | to ve jedna musíme zmenší jo takže když to bylo původně nula celá pět tak |
---|
0:12:38 | hledáme nula celá |
---|
0:12:40 | máme první teda si |
---|
0:12:42 | to |
---|
0:12:44 | jak sme přeurčený parametry dostaneme |
---|
0:12:47 | novou síť dostaneme nový výstup nové si zase upravíme gradient |
---|
0:12:53 | a tak dál |
---|
0:12:55 | dopravačka někam vede |
---|
0:12:59 | co se týká učení je to celkem důležité pokud byste si s tím chtěli někdy |
---|
0:13:02 | hrát tak jsou tam takové |
---|
0:13:06 | sítové některé |
---|
0:13:08 | za prvé to co vy můžete dělat je že vy můžete vzít a to po |
---|
0:13:11 | datu a po každém vlastně tom jednom taktu můžete tu síť přeučit updatovat váhy na |
---|
0:13:17 | to ten problém že vy podstatě budete brat iksko povídku tu si budete pořád učí |
---|
0:13:23 | na to aby dobře klasickou lánská pak přeskočit nenauč K bude they dobře trénovat |
---|
0:13:27 | na ty očka ona vám mezitím zapomenete X K takle po to bude lítat ze |
---|
0:13:31 | strany na stranu ani se neučí |
---|
0:13:34 | a |
---|
0:13:36 | tak |
---|
0:13:38 | takže můžete udělat to |
---|
0:13:40 | že zvednete všechny data na jednu hromadu |
---|
0:13:44 | uděláte formátu síti všech těch dat a je uděláte aby po všech datech to má |
---|
0:13:49 | zase tu nevýhodu že ta gradientní funkce vždycky stejná takže nemusíte dolízt můžete zůstat nějakém |
---|
0:13:54 | suboptimálním |
---|
0:13:56 | minimu a nemusí provést úplně na ten nejlepší na ten nejlepší výsledek takže |
---|
0:14:00 | praktická věc |
---|
0:14:02 | vstupní data zaprvé |
---|
0:14:04 | je dobré promíchat |
---|
0:14:06 | K kvůli tomu nymfu |
---|
0:14:08 | úplně náhodně a za druhé rozsekat na nějaké menší části a vždycky trénovat o těch |
---|
0:14:14 | menších častech a zapisovat |
---|
0:14:15 | ona potom tak radisty funkce je taková jakási skákavá ale máte větší šanci že touste |
---|
0:14:20 | nějakého |
---|
0:14:22 | nějaké opravdu jako |
---|
0:14:23 | globálního optima |
---|
0:14:25 | za druhé |
---|
0:14:26 | ten gradient sám o sobě to ostrý to znamená on se vždycky násobí nějakou konstantou |
---|
0:14:32 | říká se tomu learning kterej a nějakým způsobem ten learning rate nahradit naladit je taky |
---|
0:14:36 | taková trošku magie |
---|
0:14:38 | a |
---|
0:14:39 | pokuď byste o nenaladili tak zase vám ta si přitom trénování bude prostě takle skákat |
---|
0:14:44 | tom gradientu a budete trénovat potom nikam jako ne |
---|
0:14:47 | takže vždycky se tam |
---|
0:14:50 | ty ten gradient vlastně ten s něco posunu těch parametrů násobí nějakou konstantou |
---|
0:14:56 | třeba nula celá jedna pak |
---|
0:14:58 | to dopadne tak že pokud se vám pokud opře střelíte a ten learning kryty moc |
---|
0:15:05 | malý tak zase budete trénovat strašně dlouho protože vám to pole se pomaličku K |
---|
0:15:09 | takže |
---|
0:15:10 | musíte si s tím trošku pohrát |
---|
0:15:12 | jo ale pokud si stáhnete nějaký funkci nebo něco takovýho většinou je čase to používá |
---|
0:15:16 | tak nula celá jedna jo nějaká nějaký tady ten nějaký tady ten učící |
---|
0:15:21 | účesy parametr |
---|
0:15:24 | co dělá neuronová síť |
---|
0:15:30 | dva stopy jeden výstup |
---|
0:15:33 | je |
---|
0:15:34 | v podstatě |
---|
0:15:36 | binární klasifikátor který vám prostoru je schopen lineárně oddělit dvě nějaké třídy |
---|
0:15:43 | pokud na trénujete takovouto síť |
---|
0:15:46 | je to dostanete něco co vám takle oddělí křížky of koleč |
---|
0:15:50 | abyste si představili to vtom vlastně dělaj ty parametry ve jedna B dva ten bias |
---|
0:15:54 | tak |
---|
0:15:56 | ta sigmoida která tím neuronů vtom vede prostoru se tváří jako |
---|
0:16:00 | zraněnej plech |
---|
0:16:02 | jo představte si že máte plech který je rovině rovně toho plátna tady v téhleté |
---|
0:16:08 | líný vám vystupuje jako by na stopla to taková |
---|
0:16:12 | jo to je vlastně ta Y hodnota |
---|
0:16:15 | která leze na tom výstupu počet nula nebo jedna podle design |
---|
0:16:19 | ten zde jedna B dva vám rotuje |
---|
0:16:22 | to přímku |
---|
0:16:23 | takže to vám umístit tu přímku že mezi ty X K očka |
---|
0:16:28 | a ten bias vám jenom posunuje tu přímku vlastně po normále |
---|
0:16:32 | to toho dělá |
---|
0:16:34 | jeden neuron |
---|
0:16:35 | celkem triviální |
---|
0:16:37 | to se mi řekne |
---|
0:16:39 | no a o tom jak to začnete řetězy tak samozřejmě to komplikované se tam někdo |
---|
0:16:43 | nevyzná jo natrénujte síť a prostě tomu musíte věřit |
---|
0:16:47 | protože máte tam máte tam nevím sto tisíc neuronů a těžko říct co kteří dělat |
---|
0:16:52 | přes |
---|
0:16:54 | očí problém máme zase dvoudimenzionální prostor můžeme mít tři výstupy máme tři třídy |
---|
0:17:00 | pokuď to natrhneme takto tak každý výstup nám v podstatě říká je to ta třída |
---|
0:17:05 | nebo to není ta třída takže vždycky máme binární otázku |
---|
0:17:09 | jo Y dva nám odděluje kolečka zbytku Y při čtverečky bit |
---|
0:17:15 | pokuď tam trčíme takovou speciální transformaci nakonec které říkáme softmax |
---|
0:17:20 | koš je |
---|
0:17:21 | triviální vzoreček který vám říká jenom že |
---|
0:17:25 | každý ten listu musí být od nuly do jedničky osum a všechny vstupu musí být |
---|
0:17:29 | jedna takže to tak můžete reprezentovat jako pravděpodobnost |
---|
0:17:32 | tak dostanete toto |
---|
0:17:34 | ta síť vám potom klasifikuje tu do tří tříd podle toho té vlastně jednička tak |
---|
0:17:41 | říká která tisíc tříd |
---|
0:17:45 | teď máme už zapeklitější problém máme miliardy posici kovatelný pro |
---|
0:17:49 | problém takže máme sluch nějaký koleček a pole hromada křížku |
---|
0:17:55 | a my to nějakou přímkou my dokážeme sdělit |
---|
0:17:58 | jak na to |
---|
0:17:59 | na tohle už nám obyčejná taková dvouvrstvá síť nestačí |
---|
0:18:03 | musíme přidat vrstvu |
---|
0:18:05 | a ta vrstva navíc ta skryta dělá jakousi nelineární transformací těžko se to s tomletom |
---|
0:18:10 | jako představuje ale v podstatě tam lineární transformace vám ten dvě D X i X |
---|
0:18:15 | jedna X dva prostor nějakým způsobem celej zhorší vobrátí naruby tak že pak vy budete |
---|
0:18:21 | schopni ty příště polička oddělit nějakou lineární vlastně nějakou přímkou |
---|
0:18:26 | asi to nedokážu představit ale nejsou prostě ta si to takle dělat |
---|
0:18:31 | jo takže pak |
---|
0:18:32 | ona zvládne vám říct |
---|
0:18:34 | tady jsou kolečka |
---|
0:18:37 | tak podíváme se jak se dá trénovat |
---|
0:18:40 | v praxi neuronová síť |
---|
0:18:42 | připravil sem si takový krátký jenom by nikoho |
---|
0:18:47 | máme asi dva tisíce přisa budu máme dvě třídy modrou červená jednička a modrá dva |
---|
0:18:54 | a máme dvě neuronové sítě obě dvě jsou třívrstvé protože tady je vidíte máme nelineární |
---|
0:19:00 | klasifikaci ta horní má jen tři neurony ve skryté vrstvě ta spodních má třicet jenom |
---|
0:19:05 | abyste viděli ten rozdíl jako by se velikostí T C |
---|
0:19:09 | ve sítě adam |
---|
0:19:11 | tak |
---|
0:19:13 | s tím ne |
---|
0:19:16 | teďka to co tady vidíte tak to ty jednotlivé skoky je vždycky update jak je |
---|
0:19:22 | výstup té sítě po |
---|
0:19:25 | tom když pracujeme prvních nebo nějakých sto bodu celkem ste množiny dva tisíce tři sta |
---|
0:19:31 | to znáte nějakej ten řeč jak sem říkal je dobré ta vstupní data si ram |
---|
0:19:35 | tonizovat rozsekat na malé kousky jako těch malý kouskách trénovat |
---|
0:19:39 | jo tak ten jeden skoky jako by ten jeden řeč teďka se to zastavilo to |
---|
0:19:43 | znamená se pak konec jakoby epochy takže celé iterace a pouští se to |
---|
0:19:48 | celkem máme asi dvacet |
---|
0:19:50 | dvacet iterací pak |
---|
0:19:51 | skončí |
---|
0:19:54 | dobře se podívejte na toto méně houstičku která má tři neurony to co tady vidíte |
---|
0:19:59 | tady tyto unk i tak to sou jakoby projeví těch jednotlivých si moji |
---|
0:20:03 | protože tam máme tři neurony vevnitř tak celá ta celá ta síť vlastně celá ta |
---|
0:20:10 | funkce je po je spojením součtem třísek můj |
---|
0:20:15 | tady už je to mnohem horší protože tam mám sice neuronu takže to slepý třiceti |
---|
0:20:20 | takže tam se to špatně vidí a tady to krásný vidět |
---|
0:20:24 | co se tam vlastně se tam děje |
---|
0:20:28 | tady na tomto na tomto obrázku vidíte to bílé je jako by |
---|
0:20:33 | oblast kde ta neuronová síť říká jedničku takže říká že to je ta třída těch |
---|
0:20:37 | červených |
---|
0:20:38 | červených prvků jak vidíte se to krásně takže sloučilo tady se to naučil eště nic |
---|
0:20:43 | protože soma větší sílu ta síť ale |
---|
0:20:47 | je tam jedna nevýhoda |
---|
0:20:53 | tak takhle to dopadne to |
---|
0:20:55 | dvaceti epochách |
---|
0:20:58 | a vidíme zde |
---|
0:21:01 | jeden problém který neuronové sítě mají na který si musíte ta pozor pokud budete používat |
---|
0:21:09 | a neuronová síť se vám nepereme na datech který dáte na trénovacích datech a pokuď |
---|
0:21:14 | Í potom necháte klasifikovat data která jsou totálně mimo někde tady |
---|
0:21:20 | tak asi dva vrátím jako odpověď A úplně buřt že ty data životě neviděl |
---|
0:21:25 | a pokuď se přitom trénování stane něco takového že tady máte takový jakýsi vím jako |
---|
0:21:30 | by jste jedné si možný tak ona vám tady řekne jo to červenej prvek v |
---|
0:21:34 | pohodě |
---|
0:21:35 | ta červená |
---|
0:21:36 | jo ale ona by spíš jako by bylo dobré říct jako ne já jsem si |
---|
0:21:39 | to tak životě neviděla pozor na to |
---|
0:21:41 | jo většina modelu s tím nemá problém já jsem nebo vomastil obzvlášť snadnou fotky |
---|
0:21:47 | ty už na to nejsou tak |
---|
0:21:50 | tak |
---|
0:21:51 | poďme se podívat na nějaké praktické nasazení co se s tím dá se zdát neuronovým |
---|
0:21:56 | a s těma vykouzlit |
---|
0:21:58 | první příklad |
---|
0:21:59 | predikce burzy |
---|
0:22:02 | toto je výsledek diplomky jednom jo studenta a naším cílem tažení bylo z i |
---|
0:22:10 | časový vlastně data z burzy nějakého aktivován tím že to byl nějakej akciovej index tohle |
---|
0:22:16 | a na statoru neuronové sítě tu síť naučit aby nám do budoucna predikovala kudy bude |
---|
0:22:21 | strach |
---|
0:22:22 | a tudíž nejsme schopni na základě se predikce říct fajn teďka vstupujeme do trhu a |
---|
0:22:28 | budeme vydělávat peníze |
---|
0:22:31 | fungovalo to takže |
---|
0:22:33 | dycky pro nějaký konkrétní časový okamžik horizont |
---|
0:22:37 | se síti předložila nějaká historie a na základě nějakých X budu do budoucnosti třeba desetinnému |
---|
0:22:43 | se spočítá průměr a ten průměr se zdálo na výstup a ten se měl naučit |
---|
0:22:49 | takže potom když si dávala nějaká nová data tak ona vždycky řekla já si myslím |
---|
0:22:53 | že to bude nahoru třeba o deset sme bodů padesát |
---|
0:22:58 | přesněji se tam dělo něco takového takže tam týden vzal vlastně nějaké dvě |
---|
0:23:05 | historie a nějaké tedy indikátory myslím R esíčko nějaký mě řadič a tak dále ale |
---|
0:23:11 | celé to vlastně slepil do jednoho dlouhého vektoru to šest vstup |
---|
0:23:14 | a výstup ta síť měla jenom jeden neuron |
---|
0:23:18 | pak v praxi to fungovalo takže |
---|
0:23:22 | sítí se předhodil data to síti řekla fajn |
---|
0:23:26 | tento bude tady bude někde ten průměr řekněme |
---|
0:23:30 | měli jsme |
---|
0:23:32 | dva nějaké prahy a řekli sme |
---|
0:23:34 | fajn pokuď ten průměry jedna prahem tak stupujeme dlouhé pozice znamená spekuluje menu cestu pokud |
---|
0:23:41 | ten průměry apod |
---|
0:23:42 | tím spodním prahem tak den pro krátké pozice takže se to veme na pokles |
---|
0:23:48 | to bylo se to trhu a zase nechala se síť pracovat a pokuď |
---|
0:23:52 | tady pak už byl jedinej vlastní jiné prahy na výstup té pozice a zase probíhá |
---|
0:23:58 | podobné rozhodování pokuď nám vyskočil ten průměr nadtyp prahy a ten takže oproti nám tak |
---|
0:24:04 | se řeklo fajn skončíme výstupem S pozic |
---|
0:24:07 | výsledek dopadu nějak takto to znamená zase že to síť svedla |
---|
0:24:11 | vedla celkem dobře |
---|
0:24:14 | mimochodem kdyby jestli je tady někdo si to mě byl tohle zájem tak bych to |
---|
0:24:17 | chtěl letos zkusit nebo příští semestr zkusit rozšroubovat v rámci nějaké diplomky do obchodního systém |
---|
0:24:23 | jak to bude fungovat silná reálných |
---|
0:24:28 | prší neprší |
---|
0:24:31 | ten tam student |
---|
0:24:34 | dělal jako bakalářskou práci předpověď nedorazil |
---|
0:24:38 | opět |
---|
0:24:40 | za si neuronovou síť |
---|
0:24:41 | předhodili vpodstatě |
---|
0:24:43 | obrázky odezvy sme to radaru chtěl po ní vědět |
---|
0:24:47 | jestli bude třeba za tři cenu šest nebo za hodinu pršet |
---|
0:24:51 | teoreticky možná nějaká služba kde si řeknete fajn chci být informován hodin dopředu jestli přijde |
---|
0:24:58 | nějaký slejvák |
---|
0:25:01 | fungovalo to tak že pro nějaký konkrétní bylo třeba pro brno |
---|
0:25:06 | sme si vzali okolí |
---|
0:25:08 | ty body tak jak tady leží v tom čtverečku sme narovnali zase do nějakého vektoru |
---|
0:25:13 | přidali jsme několik historii to znamená mínus deset mínus dvacet třeba mínus čtyřicet |
---|
0:25:19 | minut |
---|
0:25:20 | a sme tu síť jestli prší neprší budoucnosti třeba plus mínus |
---|
0:25:25 | třeba do budoucnosti půl hodiny |
---|
0:25:28 | tak jak to dopadlo |
---|
0:25:31 | se stane při pustit |
---|
0:25:37 | tady máte skutečnost a odpovídá to jako by měli byste tam ideální ve všech těch |
---|
0:25:43 | trčka vidět to samé jak je to skutečnost jo s tím že se samozřejmě jednou |
---|
0:25:46 | predikce |
---|
0:26:08 | tak |
---|
0:26:10 | myslím že to nevypadáš tak až tak zle |
---|
0:26:12 | na to jak už |
---|
0:26:14 | byl takový nástřel v rámci bakalářské práce |
---|
0:26:21 | použití neuronových sítí řeči |
---|
0:26:24 | je můj obor |
---|
0:26:29 | tady bych chtěl spíš |
---|
0:26:31 | ukázat |
---|
0:26:32 | jednu |
---|
0:26:34 | možnosti a to je teďka ne jako by klasifikátor ale |
---|
0:26:39 | něco |
---|
0:26:40 | čemu říkáme |
---|
0:26:43 | příznaky potomek i |
---|
0:26:44 | podstatě o co de vito nelnou si nemusíte trénovat zřejmě třeba by výstup byly nějaké |
---|
0:26:50 | třídy ale vy můžete nechat zakomprimovat nějaký širší prostor že ten třeba nějaký vstupní obrázek |
---|
0:26:55 | nebo jaké jakákoliv data nevím máte nějakou webovou službu lezu vám tam nějaký ty cokoli |
---|
0:27:01 | chcete slově extrahovat třeba nějaký rozumný vektor čísel který potom budete chtít zpracovat nějakým klasifikátor |
---|
0:27:09 | k tomu právě slouží |
---|
0:27:11 | honem potomek to znamená když si uděláte síť nějakou velkou tady můžete mít klidně třeba |
---|
0:27:16 | tisíc skrytých neuronů a uvnitř té sítě můžete udělat úzké hrdlo které bude mít třeba |
---|
0:27:22 | třicet neuron nebo deset neuronů nebo nějaký malý malé množství |
---|
0:27:26 | a pokud se vám to podaří natrénovat best nějaké zásadní ztráty přesnosti takový potom dostáváte |
---|
0:27:33 | věcičku která vám sestupu což může být taky třeba vektor tisíc nějakých čísel |
---|
0:27:38 | za komprimuje tyto čísla z nějakého malého vektoru malého prostoru |
---|
0:27:44 | a |
---|
0:27:45 | to se potom a může hodit někdy dál jo to znamená vy víte že se |
---|
0:27:50 | redukovaly zásadně se redukovaly dimenzi to prostoru a přitom mám tam zůstala veškerá von |
---|
0:27:56 | pak |
---|
0:27:57 | ten zbytek se zatím potomek neseknete bere ten výstupy číslo sedum |
---|
0:28:04 | plus výhoda ještě jedna toho potomek u je že ten výstup je gaussovský si vám |
---|
0:28:10 | jestli vám to něco říká to znamená |
---|
0:28:12 | mají koráby jiné modely |
---|
0:28:16 | činu |
---|
0:28:22 | rozpoznávání řeči mimochodem teďka za nějak a konference celkem známá světová |
---|
0:28:29 | a google brutálním způsobem už asi rok dva roky tlačí právě neuronové sítě on tomu |
---|
0:28:35 | říká typ learning jsou to neuronové sítě které má třeba osum skrytých vrstev |
---|
0:28:40 | a tlačítko kde může uštvaná nasazuje to vlastně i ve všech řečových rozpoznávače pokud máte |
---|
0:28:47 | android a máte tam vše jakýchsi časy |
---|
0:28:50 | tak vtom by pravděpodobně už měli běžet rozpoznávače postavené na neuronových sítích oni vyhazují nějaké |
---|
0:28:56 | ty standardní dosovské modely které tam byly předtím protože to prostě funguje lída sto natrénovat |
---|
0:29:03 | známým datech a |
---|
0:29:04 | co s tím celkem spokojený |
---|
0:29:07 | takže |
---|
0:29:08 | takže i řek jako že právě tady tenhleten výslednici nulový sítě minimálně v nějakém kontextu |
---|
0:29:13 | pěti deseti let mají velkou |
---|
0:29:16 | velkou šanci |
---|
0:29:18 | zpátky řeči |
---|
0:29:20 | tady je problém ten že pokuď chcete vzít nějaké nahrávky z mikrofonu a přepsat je |
---|
0:29:25 | to písmenek tak pokud byste se snažili |
---|
0:29:28 | pracovat přímo takovýmto hrubym signálem |
---|
0:29:31 | tak máte problém ten klasifikátor někdy pořádně na trénujete protože |
---|
0:29:36 | stačí aby vám okolo korelu auto já jsem takle toho hlavou někam jinam ten projekt |
---|
0:29:41 | ten signál se vlastně úplně změní a |
---|
0:29:44 | na tohleto na takle barevný signál na trvat nějaký klasifikátory v když |
---|
0:29:49 | takže jak to udělat jenom zase pro představu |
---|
0:29:53 | potřebujete dělat nějakou transformaci to vstupů mi používáme nějaké spektrum toho spektra potom řežeme takovéto |
---|
0:30:00 | pro nějaký konkrétní část |
---|
0:30:02 | jo pokud tady znělo třeba písmenko a tak pro to áčko tadyhle vyřežeme nudličky toho |
---|
0:30:07 | spektra |
---|
0:30:08 | ty nudličky narovnáme na vstup neuronové sítě a jako výstup o tom trénujeme binární nějaké |
---|
0:30:17 | jedničky nuly jednotlivým písmenku takže pokud máme abecedu ale padesát písmenek nebo padesát nějaký fonému |
---|
0:30:23 | tak tady padesát výstupu a když to bylo áčko tak jedničku nastavíme volačka všude jinde |
---|
0:30:28 | nuly a začneme to trénovat musíme mít hromady dat |
---|
0:30:32 | a na trénujeme potom nějaký rozpoznávač pokud do toho pustíme |
---|
0:30:36 | ten |
---|
0:30:37 | nějaký neznámý nějakou řeč |
---|
0:30:40 | na nahrávku tak nám na výstupu vypadnout nějaká takováto pěkná matice a to |
---|
0:30:46 | kde ta síť jako |
---|
0:30:48 | vypálí řekne sem výstup jedničku tak to znamená že si myslím že tam je to |
---|
0:30:53 | tam je písmenko ten daný foném a pak stačí udělat triviální algoritmus který vám projde |
---|
0:30:58 | tuhletu matici a najde tu nejlepší cestu a pokud přečtete písmenka po té cestě tak |
---|
0:31:03 | vala máte přepis řeči máte něco co vám řeči udělá |
---|
0:31:10 | poslední příklad je |
---|
0:31:14 | modelování jazyka zná textu |
---|
0:31:19 | tady zase bych chtěl demonstrovat |
---|
0:31:22 | jinou jiný druh sítě a tomu se říká rekurentní neuronová síť nebo nemusí se zpětnou |
---|
0:31:27 | vazbu |
---|
0:31:28 | je to taky věc která se vám může |
---|
0:31:30 | třeba někdy hodit |
---|
0:31:31 | ty dosavadní měli tu vlastnost že |
---|
0:31:36 | kdy dopředné to znamená zase do toho tady nějaká data na vstupu a dostali ste |
---|
0:31:40 | nějaký výstup |
---|
0:31:42 | zatímco tahleta rekurentní síť na sobě zpětnou vazbu |
---|
0:31:45 | čímž pádem o nám najednou má jakousi paměť kdo to dáte nějaký takto |
---|
0:31:51 | to data tím proleze ale tím že tam máte zpětnou vazbu tak ona si pamatovala |
---|
0:31:55 | to takto když tam na ty další tak on už tam bude reagovat na základě |
---|
0:31:58 | toho co bylo třetí |
---|
0:32:00 | jak se to praxi děla nebo jak to děláme aspoň me je tak že |
---|
0:32:05 | máme tu |
---|
0:32:06 | a zkopírujeme při vlastně pro cestování toho vstupu zkopírujeme hodnoty C se skryté vrstvě a |
---|
0:32:13 | dáme jako další vstupní vektor a tím pádem se tady neustálému ta nějaká hromada čísel |
---|
0:32:20 | a ty slouží jako paměť |
---|
0:32:24 | tuto síť |
---|
0:32:26 | vlastně ten s tím letí modelem přišel od nás jedem jeden kuš |
---|
0:32:31 | hotový doktora který je momentálně toto okolnosti taky budu |
---|
0:32:35 | a učí je tam jak dělat |
---|
0:32:37 | dělat |
---|
0:32:38 | jak to jak dělat jazykové modely pomoci neuronových sítí |
---|
0:32:42 | u těch jazykových modeluje tipuji modely něco co vám říká jak třeba vypadá texte vypadá |
---|
0:32:46 | česká věta když si vemete novinový články a bude sám je ta dneska sem se |
---|
0:32:51 | měl dobře |
---|
0:32:53 | tak |
---|
0:32:54 | vám řekne když máme slovo dneska jsem se měl tak jaké slovo zatím asi následuje |
---|
0:33:00 | dobře špatně ale nebude tam si auto nebo autobus |
---|
0:33:05 | a |
---|
0:33:06 | pak to funguje tak že ty vstupy jednotlivé |
---|
0:33:09 | tady už nejsou nějaké hromady čísel ale spíše nominální zase nějaké parametry které vám říkají |
---|
0:33:14 | jaké sou slovo je jo takže když by bylo slovo ahoj jako první tak když |
---|
0:33:19 | ve větě ahoj tak se tady bude svítit jednička všude budou nuly a na výstupu |
---|
0:33:23 | zase je nějaký vektor který vám jenom binární říká to ukazuje do nějakého slovníku které |
---|
0:33:29 | slovo by měl následovat |
---|
0:33:31 | tak mám pro vás takový |
---|
0:33:33 | si se tomu říká turingův test |
---|
0:33:36 | budou následovat tři slajdy S větami |
---|
0:33:40 | a jedná se o anglické věci které pochází telefonních konverzaci |
---|
0:33:46 | takže to nejsou takové ty krásné články knižní řeč ale to trošku jako by reálná |
---|
0:33:52 | konverzační promluva a moje otázka zní byste pak |
---|
0:33:56 | průběhu hlasovali co si myslíte že pochází člověka to si myslíte že pocházím počítač |
---|
0:34:03 | přečtěte |
---|
0:34:15 | pro ku nahoru kdo si myslíte že toto řekl člověk |
---|
0:34:23 | při |
---|
0:34:27 | pořád ještě no já bych měl představu o si to množství |
---|
0:34:32 | jo |
---|
0:34:35 | tak další |
---|
0:34:54 | tak ruku nahoru kdo si myslíte že toto řekl |
---|
0:35:01 | dobře děkuji |
---|
0:35:03 | řekl bych to |
---|
0:35:04 | milá smí |
---|
0:35:06 | ta |
---|
0:35:07 | třetí |
---|
0:35:23 | tak teď prosím roku nahoru kdo si myslíte že toto řekl člověk |
---|
0:35:30 | i |
---|
0:35:33 | toto neřekl člověk |
---|
0:35:36 | toto řekla rekurentní neuronová síť |
---|
0:35:39 | byla přepnuta do modu generativní ho takže jo negenerovala věci |
---|
0:35:42 | toto řekl |
---|
0:35:44 | N grammovy jazykový model |
---|
0:35:46 | cože standardní věc která víceméně se určí pravděpodobnosti projít slov nebo dvojic |
---|
0:35:53 | takže ona podstatě zná je sou pravděpodobné jednotlivé trojce slova když to předmět generování tak |
---|
0:35:58 | ono vám naseká prostě ty trojice tak nějak jak sítový |
---|
0:36:02 | a toto je člověk a toto sou originální nahrávky jako nebo předpisy na kterých to |
---|
0:36:07 | bylo trénuj |
---|
0:36:08 | je to jádro to tak fifty možná |
---|
0:36:13 | možná tady vás bylo o chlup míň ale |
---|
0:36:16 | celkem se také se vám líbil |
---|
0:36:20 | tak finišuje |
---|
0:36:25 | kdybyste si měli něco |
---|
0:36:27 | zapamatovat k neuronových sítí tak |
---|
0:36:30 | je to věc která je dobrá zase nějaký klasifikátor nějaký model umělá inteligence která je |
---|
0:36:36 | dobrá pro učení s učitelem |
---|
0:36:38 | musíte mít data |
---|
0:36:40 | abyste tuletu věc naučili musíte mít data která mají nějaké leží musíte znát tu musíte |
---|
0:36:44 | znát místo |
---|
0:36:45 | jinak máte smůlu |
---|
0:36:48 | co se týká dat musíte mít data musíte mít hodně dat |
---|
0:36:52 | musíte mít kdej ta |
---|
0:36:54 | sem tady zaregistroval že to check dorazila vrazila mathworld kdy ta za tři roky všichni |
---|
0:36:59 | budu dělat kdy ta tak můžete si používat tady toto |
---|
0:37:04 | jo opravdu ono se to hodí musíte mít hodně dát pokud budete mít jako třicet |
---|
0:37:07 | vektoru tak s tím že musíme natrénujte musíte mít opravdu kvanta čili zda s tím |
---|
0:37:12 | let |
---|
0:37:13 | je to dobrá věcička pro klasifikaci nebo predikci nebo extrakci nějakých příznaků které potom dál |
---|
0:37:19 | budete s nima nějak pracovat |
---|
0:37:21 | prosím asi |
---|
0:37:24 | neuronová síť vám dokáže mapovat tu na výstup |
---|
0:37:28 | dokáže vlastně najít |
---|
0:37:30 | libovolnou funkci která cestovní |
---|
0:37:32 | za předpokladu že ta funkce existuje to znamená pokud máte data a ty data opravdu |
---|
0:37:36 | se dají svátek nějakou funkci ta neuronová sítích dokáže najít naučit |
---|
0:37:43 | pozor na |
---|
0:37:45 | je to taková čem na krabička |
---|
0:37:48 | a |
---|
0:37:49 | je taková lehce magická lehce náladová |
---|
0:37:51 | prostě budete trénovat bezvýrazně jakýma parametr má bude vám to fungovat tak něco změní ten |
---|
0:37:56 | bude vám to fungovat |
---|
0:37:57 | a se to trošku zkušenosti něco takového natrénovat nicméně pokuď máte nějaká taková data chcete |
---|
0:38:06 | zkusit si s tím pohrát access tím zkuste hrát já si myslím že určitě nic |
---|
0:38:10 | špatného neuděláte |
---|
0:38:12 | o vzorek sem říkal na nějaký outliers to znamená data která tasit životě neuvidí |
---|
0:38:18 | ona vám zcela bezelstně dál nějaký výstup a že byste si to |
---|
0:38:22 | musí existovat mapovací funkce |
---|
0:38:25 | musíte mít |
---|
0:38:27 | jak jsem říkal dostatek |
---|
0:38:30 | a poslední věc k trénování |
---|
0:38:33 | ta vstupní data jak sem říkal musíte je randomizovaného |
---|
0:38:37 | a co je ještě podstatné musíte rozdělit na trénovací a jakousi cross validační část |
---|
0:38:44 | na které bude se jenom testovat to může být klidně pouze desetina dat |
---|
0:38:47 | problém je vtom že pokud byste trénovali pouze vlastně na všech datech tedy budete vesele |
---|
0:38:53 | trénovat asi třeba bude vesele učí ale ona se vám na ty data při učí |
---|
0:38:58 | a potom když tomu dáte nějaká neviděla data tak únava podstatě fungovat nebude |
---|
0:39:02 | takže proto |
---|
0:39:04 | přitom trénování vždycky používejte jakoby na validaci té sítě nějaká mi viděná data a nic |
---|
0:39:09 | na tom ověšte jakási dobře funguje a momentě |
---|
0:39:13 | přitom trénování by se vám to zlomí a na těch neviděných datech ona se začne |
---|
0:39:16 | zhoršovat tak se zastavte a vy a víte že se vtom optimu té které se |
---|
0:39:21 | sítě dokážete |
---|
0:39:24 | tam domyslíte data |
---|
0:39:26 | na té řeči třeba bylo vidět že ne vždycky je vhodné do té sítě nahrnou |
---|
0:39:31 | vstupní data tak jak leží běží občas je potřeba trošku přemýšlet a něco s nima |
---|
0:39:36 | udělat |
---|
0:39:37 | a elementární nějakým způsobem třeba redukovat ten prostor |
---|
0:39:41 | tak aby ta si se měla čeho učitelovi to pak bude |
---|
0:39:47 | learning kterej |
---|
0:39:48 | obvykle standardní strategie změny toho učícího koeficientu je taková většinou to z nějakých testech bývá |
---|
0:39:55 | zašrouboval ano |
---|
0:39:56 | že během učení je konstantní a v nějaké vhodné momentě když už se to blíží |
---|
0:40:01 | k tomu optimu se ten faktor začne půlit ono díky tomu to dojít toto vede |
---|
0:40:06 | ještě dál ale to je taková věc navíc jenom kdybyste si potom chtěli účtů |
---|
0:40:10 | nějaké detaily |
---|
0:40:12 | pokud budete mít bitrate a tak budete muset řešit paralelizaci mimochodem gt ručka sou hodně |
---|
0:40:18 | dobrá natrénování neuronových sítí protože sou to s principu brutálně paralelní procesory takže se to |
---|
0:40:24 | tam se potom dá pěkně |
---|
0:40:27 | zpracovávat mě a na normální si trošku to co natrénujte třeba za měsíc tak že |
---|
0:40:32 | se účku zase záporný |
---|
0:40:35 | a poslední věc |
---|
0:40:37 | počet parametrů vlastně té sítě to jsou všechny ty konstanty nějaký tiba jestli active jedna |
---|
0:40:41 | B dva |
---|
0:40:43 | ku |
---|
0:40:44 | počtu skrytých vrstev ku vlastně počtu dat |
---|
0:40:47 | měli byste mít alespoň deset nějakých příznaku nějakých dat na jeden ten parametr ste sítích |
---|
0:40:53 | že budete mít síť která bude mít dohromady nějakých třeba deset tisíc parametru musíte místo |
---|
0:40:59 | tisíc nějakých trénovací vzorů a které musí naučit pokud tomu dáte šmída tak to sice |
---|
0:41:05 | vám potom bude špatně učit |
---|
0:41:09 | to jenom reference aby mě někdo ne na to že tady |
---|
0:41:13 | ukradl nějaké cizí věci |
---|
0:41:16 | a dávám prostor pro |
---|
0:41:19 | otázky |
---|
0:41:31 | no nebo já to fakt |
---|
0:41:43 | jak velká má být síť |
---|
0:41:49 | čím řeknu takhle čím větší tím lepší jo takže ono to víceméně plyne kolik máte |
---|
0:41:54 | dat |
---|
0:41:55 | jo pokud budete mít milión example u tak si klidně můžete dovolit udělat síť která |
---|
0:42:01 | bude mít suma sumárum třeba sto tisíc nebo deseti si |
---|
0:42:04 | deset tisíc parametrů když máte hodně dát uděláte malou C tak tím chybu neuděláte |
---|
0:42:09 | když budete mít málo dat uděláte velkou C tak chybu dělat |
---|
0:42:20 | kde mi na to když ji chci na něco naučí vím jako je k jaké |
---|
0:42:25 | mám ty vstupy naslyčenou či |
---|
0:42:28 | jak je to takový mám udělat aby nebyla schopna si to zapamatovat všechno |
---|
0:42:34 | eště to řeknu takhle |
---|
0:42:36 | měla by být alespoň třívrstvá to znamená měla by tam být právě ta jedna skrytá |
---|
0:42:40 | vrstva aby ona byla schopna udělat nelineární jako klasifikaci |
---|
0:42:44 | může tam být klidně čtyři vrstvy nebo víc ale |
---|
0:42:47 | závisí to na tom tyto ten výsledný potom to co máte mobil osum roste |
---|
0:42:52 | to už se souše zase problém to naučit protože ten error propagovat cesty všechny vrstvy |
---|
0:42:57 | není úplně triviální takže používejte normálně třívrstvou síť |
---|
0:43:01 | nebo čtyřvrstvou ale ta třívrstvá vám stačí |
---|
0:43:04 | tam to máte velice jednoduchý tu máte jasný protože máte vaše data výstup máte jasný |
---|
0:43:09 | protože máte vaše data tak budete jenom nafukovat o skrytou vrstvu |
---|
0:43:13 | mimochodem nějaké chytré hlavy dokázali že jakákoli |
---|
0:43:17 | tří a vícevrstvá síť se dá převíst nebo k ní by měl teoreticky existovat ekvivalent |
---|
0:43:23 | třívrstvé sítě |
---|
0:43:24 | jo samozřejmě praxi čili sprosté tím víc |
---|
0:43:28 | ale |
---|
0:43:29 | jo klidně začněte třívrstvou nebo čtyřvrstvou chybu neuděláte u těch dalších tam už to je |
---|
0:43:33 | trošku věda |
---|
0:43:40 | proč jsou geekovo minimum umělé inteligence zrovna neuronové sítě |
---|
0:43:47 | proč ne |
---|
0:43:49 | ne to jako |
---|
0:43:51 | přišlo mně to jako věc která se dá celkem |
---|
0:43:54 | snad pochopit |
---|
0:43:55 | těch modelu té umělé inteligence můžete mít hromadu |
---|
0:43:58 | ale nechtěl jsem tady popisovat jako dva nějakej staré algoritmy a říkat tom umělá inteligence |
---|
0:44:03 | je to věc která si myslím že má budoucnost zcela určitě |
---|
0:44:07 | a není to úplně složité tohleto |
---|
0:44:10 | jakým způsobem si nějak jako doma postavit nějakou takovou ty |
---|
0:44:14 | takovýto klasifikátor |
---|
0:44:18 | no a máme tři čtvrtě hodiny |
---|
0:44:22 | nevím jestli ste pokoje odpovědí |
---|
0:44:26 | já jsem se chtěl zeptat jestli ty příklady které ste tady uváděl že se to |
---|
0:44:31 | pouze ve fázi nějaký studentských projektu nemesis to vznikly nějaké produkty třeba komerční případně jestli |
---|
0:44:38 | víte o nějakém tak ten produktu |
---|
0:44:40 | na kterých se ten neuronové sítě jako opravdu pěkně hodí pěkně popisují ten problém je |
---|
0:44:45 | to pro ten pro to typicky příkladem nasadit |
---|
0:44:50 | produt neuronové sítě produktu je bych řek |
---|
0:44:53 | dnešní době možná |
---|
0:44:55 | ne většina letos věci co dělat byl i výčapy tyhlety věci prostě úměrná opravdu tlačí |
---|
0:45:02 | a hodně |
---|
0:45:03 | a co se týká těch příkladu tak dash skončilo jako by jako diplomka taky jsme |
---|
0:45:10 | si říkali že bysme mohli na tím postavit nějakou službu ale více méně skončilo to |
---|
0:45:14 | bodě natrhneme síť ukázalo se že to funguje |
---|
0:45:17 | burza to samé a létám sem celkem rád bych jako to zkusil potlačit dál a |
---|
0:45:23 | minimálně rozšroubovat o nějaké platformy opět tak to není problém není problém tohle potlačit |
---|
0:45:29 | co se týká řeči tak mám evuš deset let tady skupinu lázně že sme |
---|
0:45:35 | mezi světovou špičkou |
---|
0:45:37 | takže tam to funguje praxi a ty jazykové modely opět |
---|
0:45:40 | funguje to praxi |
---|
0:45:42 | jo takže jsou to opravdu praktické věci |
---|
0:45:44 | minimální ty dva posledního |
---|
0:45:46 | jo děkuji |
---|
0:45:48 | tím říká zeptáte jaký software můžeme použít pro simulaci i predikce neuronových sítí |
---|
0:45:55 | to je velmi dobrá otázka nejdřív sem říkal že bych tady něco o tu řekl |
---|
0:46:00 | ale |
---|
0:46:02 | takle ano |
---|
0:46:05 | nejsem si nebo nevím o tom že by byl nějaký dobrý univerzální jednoduše pochopitelný toolkit |
---|
0:46:11 | určitě něco takového je v matlabu eventuelně oktávky si vám to něco říkala |
---|
0:46:17 | jinak vona ta neuronová síť ve své podstatě když to trénujete tak je to jakási |
---|
0:46:21 | hromada maticových operací |
---|
0:46:24 | jo na tom není nic |
---|
0:46:25 | složitého to prostě jenom nějaké si vzorečky |
---|
0:46:28 | sou nějaké tu ty týmy třeba používáme týnec nebo kauzy nebo něco takového |
---|
0:46:35 | ale oni jsou zaměřeny na řeč to znamená vy pokud byste do toho chtěli dávat |
---|
0:46:40 | data třeba nějaký strhu nebo něco takového |
---|
0:46:43 | tak |
---|
0:46:44 | ty naše toolkity baští na vstupu nějaká speciální binární formát a chtěj nějaký speciální textový |
---|
0:46:50 | formát na výstupu a provazy to byla komplikace proto jsem to tady ne uváděl protože |
---|
0:46:55 | vy byste zbytečně byly matení s toho jak to máte použít jo ale |
---|
0:46:59 | ne není problém když tam je napište klidně mail a já vám řeknu já mám |
---|
0:47:03 | posuvů broučka jako kde si můžete s tím pohrát natrénovat titulky ty jsou pohodě izáček |
---|
0:47:08 | pustíte dáte tomu dotázat premise síť |
---|
0:47:13 | já bych se rád zeptal když ste ukazoval to si čtou pamětí tak |
---|
0:47:19 | i data jako by kterého kterýma se to učí tak |
---|
0:47:23 | jakým způsobem je pro vás hat přitom testová nějak správně zvolit to jejich pořadí aby |
---|
0:47:29 | se ta C jako by lépe učila popřípadě |
---|
0:47:32 | čím se odhalí že mám správné nebo nemám správné pořadí těch |
---|
0:47:37 | těch dat strana otázka v té rekurentní sítě randomize teda to |
---|
0:47:43 | a to na to zapomněl říct u té rekurentní sítě data ne randomize se protože |
---|
0:47:46 | ten důvod byste si přeházeli slova ste větě |
---|
0:47:49 | jo takže tam vezmete celou větu a učit se to normálně na celých na celých |
---|
0:47:53 | že ta jo pokud potřebujete zachovat ten historický kontext vlastně té zpětné smyčce pokud nemáte |
---|
0:47:59 | zpětnou smyčku naopak randomize jo musíte to zamíchat aby |
---|
0:48:04 | při každým to má bejt u těch jednotlivých parametrů nasycené přerušovala pořád jako by z |
---|
0:48:10 | je z jedné třídy na druhou a potom sem tam |
---|
0:48:14 | díky |
---|
0:48:16 | eště byla nějaká ta vlastně i dotaz eště |
---|
0:48:21 | že někdo bych to řekl |
---|
0:48:26 | tak jestli to je všecko tak vám čem mockrát děkuji |
---|
0:48:30 | děkuji vzorový hrozná s tím |
---|