Přepis řeči - Konvoluční neuronové sítě

0:00:15	a dobrý den hlas tajný tam u nás na fakultě
0:00:18	já jsem teda tady domácí je to místnosti sem život ještě nepřednášel který je pro
0:00:22	mě to ne
0:00:24	a nevíš bylo řečeno a bude ta je mluvit o konvoluční neuronových sítích těch s
0:00:30	těmi se věnujou poslední tak dva roky a předtím jsem dělal ze další věci nedá
0:00:36	disertaci mám na detekci objektů v obraze pomocí metod které jsou a deset let staré
0:00:43	patnáct
0:00:44	konvoluční sítě sou uplně a nové téma které všechny velké firmy začínaj používat je teda
0:00:51	paka nemyslím prostředi hraje poslední dobou začínáme hrát trochu druhé housle protože nemáme ty miliardy
0:00:58	peněz a obrázků které oni mají
0:01:01	nicméně ten a abysme už šedá ta
0:01:05	tady máme na tom původním slajdu jenom takovou a motivační nebo demo to nebo do
0:01:11	motivační obrázky
0:01:13	celou dobu vám tady bude říkat jak jsou
0:01:15	konvoluční sítě úžasné jak umí všechno možné
0:01:19	ale i když se podíváte
0:01:21	tejdle těch článku ke kterým tady mám obrázky
0:01:25	tak chtěj pokazil že
0:01:27	pro koho konvoluční sítě je velmi jednoduché třebas takového školního autobusu na kterém jsi konvoluční
0:01:35	se o kterém si konečně si myslí že to je stoprocentně školní autobus
0:01:40	malými změnami které čili vůbec nepostřehne sto udělat obrázek o kterým naráz ta sítě přesvědčena
0:01:46	že to třeba tygr
0:01:48	a
0:01:49	že takže
0:01:51	ty tom
0:01:52	ty metody kterých já budu mluvit uměl úžasné věci ale a fí gui
0:01:59	na to že slovo to konvoluční sítě jinak než člověk čovek a takhle mezera člověka
0:02:03	takhle nezblbnete čověk a zas na druhou stranu můžete zblbnul úplně jinými způsoby já to
0:02:08	na ty moc můžeme
0:02:12	tak a proč
0:02:14	proč vlastně
0:02:15	a
0:02:17	sou konvoluční sítě důležité
0:02:20	proč je důležité slovo ke učení a tak
0:02:23	když se podíváte na tom co se děje průmyslu
0:02:26	náš průmysl těmi slintají ty a posledních dvou letech tak najdete spousty článku které mají
0:02:33	titulky a koupil převzal firmou zabývající se stát tam zabývající se hluboký mučením
0:02:41	a akademických které kteří od osmdesátých let pracovali z neuronovými sítěmi naráz prací po pro
0:02:48	vůl pro face book pro yahoo pro bajtů
0:02:52	podstatě všechny velké internetové firmy a hlavně ta vyhledávače ale jiné firmy při dnešní době
0:03:00	vytváří týmy které nedělej nic jiného než že trénují neuronové sítě
0:03:06	no doopravdy zakladatele a
0:03:10	tak a pak s akademické obce na neuronových sítí teď pracuji pro tyto firmy
0:03:19	o čem bude tramvaje přednáška
0:03:22	ne s letos tomhle pořadí ale plus minus kteří vám ukážu jako je jako náznak
0:03:27	toho co konvoluční sítě umí
0:03:30	a
0:03:31	pokusil se vás přesvědčit proče používat
0:03:34	proč vlastně funguje tak jak fungují
0:03:37	já teda nevím jak moc se a máte představu o tom asi takovouhle neuronové sítě
0:03:42	sou co to sou komerční sítě to už možná nevíte vůbec
0:03:46	a tak pak bude část přednášky kde
0:03:49	velmi jednoduše se pokusil vysvětlit základy stará toho co to sou neuronové sítě nebude tam
0:03:55	žádná složitá matika ale tam složitá matika ve skutečnosti vůbec není
0:03:59	ty neuronových sítích
0:04:01	spíš nebudem taky jako co to je jak to pochopit co to umí jak se
0:04:06	to učí
0:04:15	pak se to samozřejmě
0:04:17	a projdu to co s tak ve městě vy můžete dělat střední můžete čekat
0:04:21	na chce můžete mi použít
0:04:23	že můžou fungovat ad se používají
0:04:26	a pak nakonec ale pro vás to může bydlet určitě zajímavá část se podíváme té
0:04:32	existují nástroje pro totiž pro učení neuronových sítí existuje spousta open source free software nástrojů
0:04:42	a které prostě můžete stáhnout z internetu
0:04:45	a přeložit a sáhnout si dokonce ne o existenci neuronové sítě a přímo je třeba
0:04:51	používat velmi jednoduše si třeba udělat webovou stránku která bude rozpoznávat a jaký druh psát
0:04:58	je na obrázku
0:05:00	to té práce tak najednou odpoledne
0:05:04	tak zatim nástrojem konkrétně o kterém budu mluvit je kafe což asi dnešní době takový
0:05:10	největší projekt
0:05:11	a pro
0:05:13	používání neuronových sítí a zároveň je asi vás nejjednodušeji použitelný
0:05:23	tak
0:05:24	a čím takže ne všechno začalo
0:05:26	a to bylo
0:05:29	a využitím konvoluční sítí pro rozpoznávání toho cena fotce
0:05:34	když se podíváme
0:05:43	a samozřejmě když víte co je na fotce
0:05:46	tak pomocí tomu že tady hledal
0:05:50	a já co tady mám otevřený tele a to je normální stránka googlu a fotky
0:05:55	toto je moje kolekce fotografií celá může dělat tuhle chvíli tak já můžu zadat třeba
0:06:01	řekne na co bych se podíval
0:06:03	abych se třeba podíval
0:06:05	jestli je mám by to cenu někde slíbil
0:06:08	takže
0:06:09	zkoušíme
0:06:12	zebra a
0:06:13	dobrý zabývala
0:06:15	aha takže vidět že já mám minimálně dvě fotky zabere se kolekci
0:06:21	to je na tomu kdo přišel
0:06:23	tak není takže by
0:06:26	já u těch fotek zadal na té fotce zeptat
0:06:29	ale oni mají natrénovaný neuronový sítě
0:06:32	které vezmou ten obrázek podívej se co na něm je řeknou je na něm se
0:06:36	prát
0:06:37	pak na někde databázové u těch u těch fotek vlastně mají
0:06:41	a tady ty automatické anotace
0:06:44	id zadám zebra tak se už akorát prohledala a ta textová databáze normálně jako když
0:06:49	se dělá textový vyhledávání
0:06:51	a současnosti
0:06:55	a tyto metody fungují velmi dobře
0:06:58	já když to vyzkoušet dál
0:07:01	kromě
0:07:04	tak samozřejmě když a mě co na objekty rozpoznávat deva celkem jednoduše tady vidíte že
0:07:11	vám vyfocenej nějakej nějaké autobusy
0:07:14	když se podívám co třeba by mohlo být složitější back třeba nějaká činnost
0:07:21	nech
0:07:27	napsal jsem to dobře
0:07:30	to je to ti no samo že se si to vyzkoušeli by to mělo fungovat
0:07:34	tak
0:07:36	lidech tady jde že jsem fotil někde na ně
0:07:41	někde kde se běhalo
0:07:43	a
0:07:45	vyzkoušel místa
0:07:49	dobře a tak tohle je moje kancelář pan kdy jsem pracoval
0:07:54	dokonce
0:07:57	můžeme zkusit něco co vůbec vlastně na obrázku neměl být poznat
0:08:03	třeba jako sranda von
0:08:07	a dokonce mi to nejde obrázky které vypadají že tam ti lidi doopravdy a se
0:08:11	mají dobře veselo
0:08:15	to tohle si můžete vyzkoušet pokud máte no
0:08:21	určitě
0:08:25	máme nazdar
0:08:29	mělo by nevím proč ne
0:08:35	to je to věděl
0:08:41	částečně ano
0:08:44	samozřejmě tohle nefunguje stoprocentně jsou věci
0:08:48	a
0:08:51	něco podobnýho to je vyzkoušeli
0:08:54	třeba store
0:08:55	jako něco
0:08:57	jak se tam vidíte
0:08:58	samozřejmě najdete
0:09:00	a teď metody nejsou stoprocentní ale filtry na devadesát procent já těch lidech tam mám
0:09:06	hodně takže ono to může vybírat
0:09:08	ty který a to neukáže třeba všechny not na velkou přesnost ale nejde to a
0:09:16	všechno
0:09:18	ale
0:09:26	ale většinou to funguje
0:09:30	ad to
0:09:32	tebe jsem fotil já ti badminton
0:09:35	mám fotky badminton
0:09:37	a tohle dopravy
0:09:38	dostání by tam šli musel něco textově zadat cokoli
0:09:43	je zajímavé že jsem zkoušel google nevyhledává podle lidi nevím proč
0:09:50	ale určitě je to měl taky
0:09:57	sral tohleto bleskem
0:10:00	zjistit se na fotce
0:10:02	a vy kdybyste chtěli chtěl něco takovýho
0:10:06	prezentovat člověku tak pravidelně byste
0:10:09	chtěli napsat popis to je fakt
0:10:12	to je poslední době velmi nové téma
0:10:15	a je to vlastně spojení porozumění textu s porozuměním obrazu
0:10:20	a dokonce existuje a teďka letos to byla první soutěž velká kde vyloženě cílem bylo
0:10:27	ty máte fotku vytvořte automatický systém aby vám fotku popsal
0:10:33	a to co ukazuje tady tak to je hra výstup
0:10:36	článku kterej na odkaz máte tam dole pak se není klidně můžete podívat
0:10:41	a se dá to sou skutečné výstupy ste já s nějaké neuronové sítě
0:10:46	jak vidíte tak
0:10:48	a doopravdy ta neuronová síť dokáže poznat že tam sedí člověk hraje na kytaru
0:10:54	a skáče tam nějaké dítě a je tam doopravdy
0:10:59	hráče který spravuje někde silnici
0:11:03	některých případech zase funguje to dobře
0:11:09	to je uprostřed má být kočka
0:11:11	to nevadí a pak se pak jsou případy kdy kterémuž ty fotky jsou nějak zavádějící
0:11:16	nebo
0:11:17	nejsou tak časté je to znamená potom skáče čili za ním je voda tak je
0:11:21	dost pravděpodobné že dá s autem nás auta novej importované na trampolínu před a před
0:11:27	tou vodou a fretku
0:11:30	a s ovladačem asi na internetu našla často nenajdete
0:11:35	pak samozřejmě jsou
0:11:37	případy kde si opravdu řeknete co asi dělá
0:11:42	jako toho
0:11:44	a medvěda
0:11:46	toho koně tam nevidím ten kluk vyloženě má bitovou pálku ale
0:11:52	to je to je
0:11:54	když se podíváte tak
0:11:55	tohlencto je ta úroveň kterou dneska takovýhle systém můžete čekat já někdy to funguje úžasně
0:12:02	někdy to udělá chybu ani věc
0:12:04	si řeknete pane bože co se
0:12:08	ano
0:12:09	tady třeba tady ty systémy jsou to nenatrénovaný asi na při statisících fotka
0:12:16	a na tři sta tisíc i fotka žádném případě není a zachycené všechno co kdy
0:12:21	čech může vyfotit
0:12:23	no na věci které co jako je normální tak na těchto pak funguje většinou dobře
0:12:28	a fotky které jsou divné tak na těch nebo nejsou moc časté na internetové na
0:12:33	ti to moc nefunguje
0:12:35	samozřejmě fit zvuk používá konvoluční sítě třeba na rozpoznávání obličejů
0:12:41	to je takové ty nápovědy kdo je
0:12:43	za tímhle sou konvoluční sítě vezmu vlasy nejlepší rozpoznávač obličejů současnosti na světě
0:12:51	tak nevím jestli jste viděli
0:12:54	o sou letošních prázdninách velký boom na internetu na ready to je spousta vláken a
0:13:01	na takzvané ty trims to není nic jiného než že a vás pro nějaké natrénované
0:13:07	neuronové sítě
0:13:09	a vy můžete chtít aby to neuronová síť změna ten obrázek tak aby se víc
0:13:14	líbil tak aby tam byly věci který ona by nich ráda viděla
0:13:18	a pak na to si můžete stáhnout zdravíčko pipe no
0:13:23	který využívá kafe můžete si lze klidně takovéhle obrázky zkusit doma nebo si nahrát obrázek
0:13:29	někam na nějakou webovou službu
0:13:32	a pak vám ukážu ještě vydá občas dostanete strašně psychedelické a
0:13:39	fotky
0:13:41	s těma to jde udělat zajímavější věci
0:13:44	a třeba toto je existuje tečka článek s letošního roku kde můžou si fotografi
0:13:52	a říct neuronové síti s těmito fotografi aby víc vypadala jako nějaký obrázek
0:13:58	takže
0:13:59	tohle je sem se té za styl
0:14:02	a
0:14:03	bohužel nic moc nevyznám ale můžete si klidně udělat pro své vlastní fotky ve stylu
0:14:09	ne před poznámku bys mu
0:14:12	a
0:14:14	by mohli nějak impresionizmus nebo něco
0:14:17	a podobně
0:14:18	dokonce
0:14:21	tomto případě můžete
0:14:26	zřejmě na vstupu pustit video
0:14:31	a udělat si a alenku kubice testovali kůži šedivo
0:14:37	a nakupovat
0:14:41	to fungovat
0:14:54	a ty
0:14:55	neuronové sítě které starého za vším co se týče ukázal
0:14:59	jsou stejné
0:15:01	no to je plus minus ta samá neuronová síť používaj se ty samé algoritmy na
0:15:06	vy na vytváření těch neuronových sítí
0:15:10	ale výsledek je uplně jinej podle toho jak je nakonec použijete
0:15:21	takže jedna což je jedna velká výhoda kulečník neuronových sítí
0:15:26	a to takže když se jednou naučíte
0:15:29	dokonale najdete si něco
0:15:32	včera jsem a můžete pracovat nějakej tool
0:15:35	tak pak si můžete to dělá strašně moc věci
0:15:39	té jeden nástroj tady mám umožní dělat téměř cokoliv
0:15:47	tak to bylo takový je
0:15:49	abyste se do toho trochu za kousaly
0:15:52	a teďka pudu
0:15:54	a takové základy a myšlenky já nevím co vy ste kdy slyšeli ostrovem učení
0:16:01	takže a projdu high úplný úplně základní myšlenky strojového učení a jak ty metody fungují
0:16:07	nebude to nadlouho
0:16:09	pak se dostanu na ty neuronový sítě
0:16:13	teď mám úplně hlav
0:16:16	základní takovej
0:16:18	a základní úlohu kterou vlastně konvoluční sítě se dostali i do povědomí a akademické obce
0:16:25	těch firem a a veřejnosti a to je úloha kdy máte obrázek jak chcete zjistit
0:16:30	co na něm je
0:16:32	to se a
0:16:35	to si nenaprogramuje to hned nemůžete vytvořit program kterej by a se podíval na fotku
0:16:41	a podle nějakých vám za daných pravidel řekl že tam je strýček na surf
0:16:49	to asi ne předpokládám že jste mě někdo myšlenku jak na to jít
0:16:55	to prostě není nejde tam musí by něco inteligentního a co se
0:17:00	a co se toho člena jen statistovým naučí rozpoznávat
0:17:06	není to definovaný program ale musí tam být něco se to naučí
0:17:12	tak jenom tak to je tom to je taková vsuvka byste měli představu
0:17:16	a čeho se google snaží dosáhnout
0:17:20	a s možná víte jaká je slovní zásoba
0:17:24	a
0:17:26	cože nějakých řekněme po vás otče trochu víc tak dejme tomu aspoň pět tisíc slov
0:17:35	a v ideálním případě při rozpoznávání věci na obrazu bys
0:17:38	bysme aspoň chtěli a vědět co na tom obraze ve smyslu a nás podstatných jmen
0:17:45	přídavných jmen a sloves co se tam děje a to je právě to je ta
0:17:49	slovní zásobu
0:17:50	znamená taková nehoda síti na případě by dokázala
0:17:54	a říct deset tisíc různých věcí o obrázku
0:18:00	navíc teda jo když na obrázku auto
0:18:03	tak on může být na různých místech takže ty chyb informacím dadistova nic
0:18:09	a kromě taji těchle obecně kategorie jaké automobil běhání vražda nebo podobně a světa ještě
0:18:16	horší protože listy
0:18:18	trochu konkrétnější věci typu konkrétní lidi jasný člověk
0:18:25	a vy ste uplně někdo jinej sme podstatě jiné kategorie objektů
0:18:30	a s existují místa chcete když sem a bych beru tak co nejsme na hodině
0:18:36	jak jsou té konkrétní jedeš
0:18:39	na ten tento problém je obrovskej
0:18:42	a my se k němu dostáváme
0:18:44	ale ještě nejsme uplně tam kde by se měl byt
0:18:48	abysme dokázali to sem to co člověk
0:18:52	tak jaksi love učení funguje
0:18:54	že vy máte nějaký program
0:18:56	ktery se dokáže adaptovat
0:18:59	co on
0:19:00	co on ví tak to je že
0:19:02	i když mu dáte nějaký
0:19:04	vstup a pro ni
0:19:06	co ten program má říct
0:19:09	tak on se dokáže změnit stát
0:19:11	aby a doopravdy protestů říkal co má říkat
0:19:15	takže
0:19:16	typicky když budete mít nějakou metodu strojového učení i vytvoříte data set se jsou třeba
0:19:23	tomhle případě americké vlajky a kalašnikovy
0:19:28	řekněte jim kterej obrázek je kterej
0:19:31	těch musí být dostatečně na hlavy
0:19:34	protože
0:19:35	a ten program nikdy nic neviděl žádné obrázky tak tam se musí naučit všechno znovu
0:19:42	dáte mu takové ty data se sichuan třeba hodin o den dva dny
0:19:47	budu počítat
0:19:49	a pak můžete po těch dvou dnech čekat že
0:19:52	a snad
0:19:53	a bude umět rozpoznávat a vlajkou ad kalašnikova
0:19:58	ad to play základ strojového učení a ve skutečnosti
0:20:04	to je to jediné cestou je učení
0:20:09	co vy jako lidé o ušlo tomuhle viděl promluvil
0:20:15	tak když se podíváte tady na ty dva obrázky tak si
0:20:18	porovnáte podoby ten vypadá skoro úplně stejně
0:20:23	co samozřejmě pro počítač
0:20:27	tam žádná podobnost není
0:20:29	počítači lidí ty obrázky
0:20:32	jako maticí pixlu který které mají nějaké numerické hodnoty a
0:20:38	pak a neexistuje žádná lehce rozezná to na podoba mezi těma ano tam a pixlu
0:20:44	vtom novým obrázku a vtom pravý obrázku
0:20:48	a na úrovni toho obrázku ty tady ty default
0:20:52	no a ta malůvka ta fotka vypadají úplně ale úplně jinak
0:20:59	a velká část
0:21:01	počítačového vidění
0:21:02	není o něčem jiným
0:21:04	nešlo tom
0:21:06	jak zajistit aby se dalo poznat že dvě věci vypadají podobně
0:21:11	a my bysme
0:21:12	někdy se měj reprezentaci obrazu
0:21:15	která
0:21:17	prostě pro jednoho člověka
0:21:21	pro tu malůvku vlevo
0:21:24	vytvoří nějaký vektor čísel nebo nějakou jinou reprezentaci která bude velmi podobná tom obrázku vpravo
0:21:32	tak tu chvíli
0:21:34	dokážeme dělat už jenom na podobnosti těchto chtěl reprezentaci bysme dokázali říct že třeba tady
0:21:40	na těch fotkách dvou je ten samý člověk
0:21:45	a je otázka jak to udělat
0:21:50	with brown o tom trochu mluvila utej ukazoval spoustu
0:21:54	a
0:21:55	spoustu deskriptorů my tomu říkáme
0:21:58	to znamená nějaký popis obrázku a tu globální popisy a ty lokální popisy
0:22:04	a to tohle všechno co někdy někdo
0:22:06	napsal ručně
0:22:09	na téma připravit jako jeden
0:22:11	a s kterej se dost často používá právě rozpoznávání toho cena obrázku
0:22:18	a je to založený na těch
0:22:20	který by se metra vidělo to ukazovátko
0:22:25	ještě viděl
0:22:28	tak si dáme pět deset minut přestávku
0:22:31	ne jednat
0:22:39	počítače vidění se používá reprezentace obrázku
0:22:42	které se říká back off borec
0:22:45	táta je založena na tom ženy když vezmete ten celej obrázek tak zjistit že celej
0:22:49	obrázek se podobáte dobrým obrázku tak to je složitý
0:22:53	kazit malej to zajímavý kousek se na obrázku zjistit že se podobá malému zajímavém opravdu
0:22:59	rakousku zde obrázku tak to už jednodušší
0:23:02	minimálně protože
0:23:04	když se a by se nějaký objekt pohne
0:23:07	tak ty malé kousky se pohnou ale pořád vypadají stejně
0:23:12	emise se dívali na co je ten obrázek ty prostě obraze kde čili je vpravo
0:23:16	nahoře vlevo dole tak vypadá jinak ale ty malé kousky vypadaj pořád stejně jste ty
0:23:21	objekty chybou
0:23:23	a se dá udělat vektor obrázek se dá
0:23:26	a dá se
0:23:28	můžete si říct že se budete reprezentovat ne u nějakých mít druhý výřezu pomůžete mi
0:23:33	druh výřezu typu
0:23:35	a ta tady oko
0:23:38	a jsou solí
0:23:40	a se holt kola
0:23:42	ve skutečnosti pak tady tyhle
0:23:44	je na typy výřezu nejsou pojmenované ty jenom
0:23:47	jsou definované tím že vypadaly je že to je skupina výřezu obrázku který prej právě
0:23:52	podobně
0:23:54	ne výpadek jeden velkej obrázek můžete reprezentovat
0:23:58	jako počet takovýchto různých a druhu malých výřezu můžete mít obrázek
0:24:04	se a ten na té ženské můžete mít tak prezentaci
0:24:09	je tam dvakrát oko je tam jednou nás je tam jednou psal
0:24:14	a nikdy tam není šlapka otko
0:24:17	to může být vaše reprezentaci toho obrázku
0:24:20	lze úkol a bude víc těch šlapek těch začínat
0:24:26	tak já taková reprezentace obrazu
0:24:29	vypadá a podstatě vypadá velmi blízko tomu co vám tady ukazuju
0:24:35	tohle teda fotka
0:24:36	kde sou male výřezy
0:24:39	ad výřez jsou přeházet ne
0:24:42	to co fandí ten počítač
0:24:44	a on prostě lidi jako jsi ty malé výřezy plus minus vypadaly
0:24:49	ale už neví kde vtom obraze sou
0:24:52	dokážete například věřit co na tom obraze
0:25:00	ne kteři někteří lidi s tohle jo někteří ne
0:25:03	a
0:25:05	tenhle obrázek je teda jednoduchej to doopravdy from což učitele velmi přesná klasifikace to toho
0:25:11	obrázku
0:25:13	ale člověku se mnohem líp koukal na tom obraze
0:25:19	a nejenom že se tomu
0:25:20	a na to koukali člověku ale
0:25:23	ve skutečnosti tady tom obrázku je
0:25:26	a mnohem víc to je důležité informace které která nám umožní a
0:25:32	pros rozeznat interpretovat ten obrázek a tady vtom ale jak tam je tady geometrie egid
0:25:39	to že to ferrari tak rozpoznáte kvůli tomu pomocí toho že ta červený a jsou
0:25:43	tam kousky který vypadá jako kousky auta
0:25:48	takže teraz
0:25:53	a když se zeptám
0:25:55	tohle teda je doopravdy jako vsuvka která se jako voliči asi těma přímo nesouvisí ano
0:26:01	sou vy si pak a ne o tom no
0:26:07	prosím
0:26:12	tak
0:26:12	ve chvíli když máte tohle obrázek tak určitě
0:26:16	velmi jednoduše
0:26:19	až ve chvíli kdy ho nemáte
0:26:22	by to šlo taky a bylo by to výpočetně náročnější
0:26:26	a jo takhle když obrázek
0:26:29	tak
0:26:29	pixly vedle sebe
0:26:32	mají velkou pravděpodobností stejnou hodnotu
0:26:36	což znamená že byste dostal vedle seznam a rozházených kostiček
0:26:41	tak když se na té hraně zjistíte
0:26:43	a co je na ní na za pixly a najdete si seznam vlastně toho co
0:26:47	by tam mohlo hlasovat pomoci to že si řeknete vedle tom obrázku by měly být
0:26:52	stejné pixly
0:26:54	a pak dáte jako globální optimalizaci kde ty kostičky se budou hýbat tak aby pasovaly
0:26:59	k sobě něj takže začnete spojte ty co nejvíc pasou sobě pak
0:27:04	co posilou trochu míň až dojdete k tomu co po se a nejmíň že sto
0:27:09	je kamoš pak zapadne
0:27:12	máte velkou šanci že to dáte
0:27:18	a to tohle
0:27:20	ta ratejna to na
0:27:21	na tomhle slajdu a jsem chtěl ukázat co dokáže člověk on
0:27:26	vy
0:27:28	a se vtom novým obrázku tam té informace
0:27:32	je úplné minimum tam jenom ta černá bílá a ještě to
0:27:36	tak jako velmi a ne hezky
0:27:41	a vy prahovaný to nejsou tam vidět žádné a kontury vás ve skutečnosti těch hobby
0:27:47	toho objektu který tam je
0:27:49	o já doufám že vy stejně
0:27:51	trochu vidíte na co na tom obrázku je
0:27:54	pozn poznáte někdo cena tom novým obrázku
0:27:58	tak a jakej dokonce
0:28:02	jo je to je to dalmatin tady
0:28:06	tam je tam vyšší sloužit
0:28:10	name a
0:28:12	ucho
0:28:14	levá a pravá a levá přední a zadní na něj
0:28:20	zásad
0:28:23	a nevím jak to vidíte o tom a na to tak vidím krásně
0:28:28	mám to blíž prostě
0:28:30	a jestli čili tohle dokáže rozpoznat to že to dáte dohromady a
0:28:35	jako vy pozor je tam spousta vpodstatě bordelu který vás rozptylové
0:28:40	ale část vypadá jako třeba toho wattově celkem poznat
0:28:44	takže vy nedokážete rozlišit prostě ty kousky
0:28:48	a samy o sobě a pak si to dokážete ještě na celý dohromady
0:28:52	takže check má pak výhodu toho že to dokáže vnímat naráz ten obrázek a všechny
0:28:57	ty souvislosti který tam jsou petra mimo jiné díky tomu že mozek je obrovské a
0:29:02	dokáže to strašně moc počítat
0:29:05	a
0:29:06	tom pravým obrázku jet informace také minimum ale prostě vidět že to nějakej skejbordy stranou
0:29:12	rampě a zrovna jede domů
0:29:16	a dokonce možná podle té barvy si řeknete co při západu slunce
0:29:24	tak hezkej čili dokáže pracovat
0:29:26	se strašně málo informace
0:29:30	na té informace muslim na hlavě se rozhod
0:29:33	s vesele čas
0:29:35	ale pak si představte že budete dělat
0:29:38	rozpoznávači židli
0:29:41	židle řeknete si to vidim každej vždycky to post poznámce židle
0:29:45	ale jí se pak podíváte židle můžou vypadat
0:29:48	tak
0:29:49	a budete docela překvapení tohle všechno sou židle
0:29:53	a není nemají vizuální společně každá para úplně jinak
0:29:57	podstatě židle
0:29:59	tom za chvíli je nemůže když vám řeknu
0:30:02	definujte mi židli tak ne nakreslíte židli
0:30:05	která by obsahovat všechny možné
0:30:07	víte že to
0:30:09	co nejspíš řeknete tak je to něco na čem se dá sedět
0:30:13	a ne není to podle toho jak to vypadá jak je to máte pasťovi to
0:30:17	vyrobený
0:30:18	ale podle toho že strana nic použít
0:30:22	a pak jsem ondřej neff tuhle chvíli
0:30:25	a
0:30:26	kata práci nějakého rozpoznávače který se dívá na fotky je složitá
0:30:31	protože to prostě podle toho slajdu nejde poznat
0:30:35	pokud dyž neviděl nějakou prodloužit ne
0:30:42	a ty zas dobrá věc
0:30:45	když se podíváte
0:30:46	to je na ty malůvky
0:30:48	tak vy dokážete říct
0:30:50	je to sou obličeje
0:30:52	no když vám řeknu že to sou klíče tak aspoň budete souhlasit že to sou
0:30:56	pryč a přitom to se lidského čtyři čáry
0:30:59	a dokonce
0:31:01	podle to
0:31:03	podle toho jak a jaký mají tvar tak možná dokážete říct něco víc o tom
0:31:08	třeba ta vpravo nahoře
0:31:10	jak vypadá že trochu naštvanej a ten dole vypadá že to bude číňan
0:31:16	přitom to sou jenom čtyři čáry
0:31:19	takže
0:31:22	je možný že když si takové automaticky systém
0:31:25	najde ceny důležitý vtom obrázku
0:31:28	není jako to sou ty orientaci očí a pusy
0:31:33	tak tu chvíli
0:31:34	i když na a když tam bude jakákoliv informace tak co bude fungovat
0:31:38	když si najde tom důležité co doopravdy definuje reprezentuje ten obrázek
0:31:46	takže
0:31:47	tohle takovej slajd a zaslání
0:31:52	a tradiční přístup počítačové vidění a spoustě ve spoustě dalších oblastí je takový to
0:32:00	máte ta ten obrázek
0:32:02	s toho bych stahujete nějaké
0:32:04	příznaky co jsou
0:32:06	čísla
0:32:07	která by měla být
0:32:09	podobná pro
0:32:11	podobné objekty takže to židle tak bude mít stejná čísla nehledě na to třeba
0:32:19	jaké nevysvětit se to
0:32:23	a pak je nějaký jednodušší klasifikátor
0:32:26	ktery ušli je teda metoda strojové učení a ten pak říká
0:32:31	tady tahle vektor čísel tyto příznaky to vypadá že by to mohla být židle že
0:32:36	by to moh by člověk
0:32:38	a ta
0:32:40	tom jako tradičně
0:32:43	ty příznakové ty extra který příznaku tak voni by tě brna mluvil
0:32:49	ty navrhuje čím navrhoval člověk
0:32:51	to prostě já tomu říkám tady anglickém slajdu jo držen akademik evolution té dopravy
0:32:59	evoluční algoritmus
0:33:01	kde a stovky pěšky studentů se dějou před počítačem a zkoušijou jít různé typy příznaku
0:33:08	a dívají se jak dobře fungují na jejich problémy
0:33:12	já se teda o taky je to strašná otrava
0:33:15	žere to strašně moc času a hlavně vy vytvořit nějaké příznaky
0:33:20	a
0:33:22	řešíte jak je problém pro ty tvořivé nějaké příznaky a trochu jiný problém
0:33:28	moc nefunguje takže to musíte začíná znova
0:33:31	je to hrozná otrava
0:33:34	no abyste mě představuje
0:33:36	jak toho funguje tak to jsem udělal pro tu bohyni a klasifikátor s těma lok
0:33:44	a s těma back of worlds příznakem
0:33:47	myslím že to představit že a ta fotka ta call fotku může to teda reprezentovat
0:33:52	těma lokálním a část má a já můžu říct třeba že sem tam našel tak
0:33:57	jak plus mínus devět ruku dvě nohy
0:34:00	a
0:34:02	žádný světlo od auta a úplně omylem na tam sice není ale co už
0:34:08	a našlo našla se tam jedno kolo
0:34:12	a tohle může být doma je reprezentace toho obrázku
0:34:15	pak může být jednoduchý lineární klasifikátor což není nic jiného než že
0:34:21	ale včas
0:34:27	je to vidět
0:34:29	není že ne
0:34:34	já to
0:34:36	jak je to vidět trochu nebo
0:34:42	takže bys věděl jsem to je to dobré
0:34:45	když viděl jsem
0:34:49	ja bude simkartu
0:34:52	já to teďka zkusím to jemnější bude pude jednoduše
0:34:56	takže tématu reprezentaci a ten můj klasifikátor takže toho co je navržené člověkem který detektory
0:35:02	těch částí
0:35:04	a to je ten vektor čísel této co se naučí těm určujícím algoritmem a pak
0:35:10	můj klasifikátorům že říkat že
0:35:13	spoustě dozadu
0:35:16	super i to
0:35:19	tak
0:35:20	jsme zachráněni
0:35:22	takže
0:35:23	ten klasifikátor prostě může mít nějakou váhu pro každou tu část
0:35:28	a může fungovat tak že vezme
0:35:30	a protože tady ta bohyně mívá hodně
0:35:34	i když někde najdou se i mají velkou váhu
0:35:38	a nějak indikují že to bude asi ubohý
0:35:41	takže tejden se srazili nula celá sedum
0:35:45	a dohromady dají nějaký šest celých tři jenom jediné tabu mě také míla ale užší
0:35:50	takže definuje jo
0:35:52	tak tady ta váha je menší
0:35:54	a zas dostanu nějaké číslo
0:35:56	a bohyně nevím a
0:35:59	jak sme ne
0:36:01	kola a světla
0:36:03	tak dej mají negativní váhy a za vlády když na tom obrázku bude hodně kola
0:36:07	světel tam pravděpodobně nebude moc
0:36:10	je tak teď výpočty ste hlava násobí dostanu nějaká čísla ty se sečtou
0:36:16	když to je to výsledné číslo je větší než nula tak mu ji a s
0:36:21	klasifikátor může říct na obrázku je bohyně
0:36:24	když ste menší než nula tak to řekne že to není bohyně
0:36:29	tady tahle klasifikátorům může být třeba pokud jste slyšeli vytvořeny pomoci a support vector machine
0:36:36	s nebo klidně jednoduché neuronové sítě
0:36:40	a je tak to jednoduché
0:36:42	tak to jednoduchá je spousta metod počítače a tím
0:36:48	pak
0:36:50	a
0:36:53	co to je hluboké učíme se jste to slyšeli
0:36:56	ale
0:36:57	jakej úžasný pojem skloňuje se všude možně
0:37:00	a za chvilu za to někdo dostane hoblovku
0:37:04	ale není to není to nic úžasného
0:37:07	nějak převrat
0:37:09	úžasné to funguje
0:37:11	takže tomu tradičním systému která tam byla částek srdce příznaku kterou navrhli to je ti
0:37:17	studenti
0:37:18	a ten jednoduchý lineární klasifikátor
0:37:21	v hlubokém určení
0:37:23	se tyhle dvě části dají dohromady
0:37:27	vstupem do učící algoritmu na nás nejsou ty příznaky jako tady
0:37:31	ale ty původní data
0:37:33	a všechna
0:37:36	a všechno to zpracování se nechá na tom učícího autority
0:37:40	on se naučí extrahovat příznaky on se naučí to klasifikovat
0:37:47	samozřejmě tuhle chvíli
0:37:49	ten učí celebrit musím si nějakej složitější větší trvá to dýl a potřebuje víc dát
0:37:55	protože to nemá toho člověka který by tam a chodil nějaký příznaky a využíval svojí
0:38:01	znalost o tom se důležitý na tom obrázku
0:38:05	ale musí se to naučit s těch dat
0:38:07	je to složitější ale zas na druhou stranu vy když
0:38:11	hele vám jedno funguje tak to můžete použít na cokoliv
0:38:14	a
0:38:16	zároveň je
0:38:17	to funguje
0:38:19	takže věta člověk
0:38:21	vím
0:38:22	moc vy moc nevíte co
0:38:25	pro počítače dobré aby je rozpoznávat jestli na obrázku člověk nebo ne
0:38:31	ale ten počet se to nebo ten algoritmus to dokáže naučit sám a
0:38:36	bratra potřebuje víc
0:38:43	to je to jedna definice hlubokého učení
0:38:46	hlubokej čili pak pro tuhle přednášku znamená korun nebo konvoluční neuronové sítě
0:38:54	hluboká a další taková charakteristika těchhle to v hluboké učení tak je že
0:39:00	a
0:39:01	nevytváří ju nějakou grafickou reprezentaci
0:39:05	a světa
0:39:07	ale oni mají
0:39:10	mají třeba detektory v různých částí objektů
0:39:16	prvním nějaké fázi zpracování se naučil že svět se skládá se nám
0:39:20	vlastně chtěl benátek jiříka říkal že
0:39:23	obrázky to je strašně moc velká část je prostě takováhle bílá nic neříkající zeť pak
0:39:31	je nějaká hrana a této zajímavý
0:39:34	takže
0:39:36	ty metody hluboce učení se naučil
0:39:39	to že tam zase se takle vypadá
0:39:42	a první části se třeba naučil nahnal za ty hrany
0:39:46	pak mají další vrstvu zpracování
0:39:49	ve kterém se naučil že ty hrany se dají poskládat do něčeho složitějšího
0:39:54	no třeba do další rána do a
0:39:58	koleček a podobně
0:40:01	a pak zas tohle
0:40:02	se zase vytvoří složitější reprezentace se s detektory složitější věci tom obraze
0:40:09	to znamená už něco co vy dokonce dokážete pojmenovat to vypadá jako plástev
0:40:15	a
0:40:16	tady je tak podobně houšť push to sou je pak na té vysoké úrovni někde
0:40:22	ste neuronové síti jsou to věci které dávají smysl
0:40:36	co s to sem prošel jako ten
0:40:38	pracovat
0:40:40	a ten bude
0:40:42	aha úvod konkrétně do neuronových sítí a zkusím to vzít
0:40:47	tak nějak
0:40:48	a to na vysoké úrovni abstrakce
0:40:53	co to je neuronová síť dejme se sem někde viděli možná se
0:40:57	sem někdy učili a někdo vám oni říkal spoustu zajímavých věcí
0:41:05	pro mě
0:41:06	neuronová síť je to c to je na tom obrázku
0:41:09	a je to a je to nějaká funkce
0:41:14	se tak jak uznáte z matice jak si napíšete na papír
0:41:18	která má nějaké neznámé nějaké parametry které se dají měnit a podle těch parametrů ta
0:41:25	funkce dělá různý věci
0:41:29	a pak se zas takovouhle funkci děláte tady vyplní chcete aby pro nějaký vektor čísel
0:41:35	na vstupu
0:41:38	dala nějakej vektor čísel na výstupu vy máte nějaký požadavky máte nějakou trénovací sadu
0:41:44	kterou řeknete co vlastně ta funkce mám dělat
0:41:50	a pro mě vpodstatě s jakkoliv bude mi to je ta funkce vypadat tak pořád
0:41:54	je to neuronová síť
0:41:59	dává to smysl nějaké dotazy
0:42:07	tohle neuronová síť
0:42:11	určitě velká to přečíst
0:42:13	a
0:42:14	jeden vstup
0:42:16	dva parametry a
0:42:19	a na nějaký místo
0:42:21	a datové asi nejjednodušší neuronová síť strom ukažte myslet samozřejmě
0:42:26	ty reálné neuronové sítě sou dvě krát větší miliónkrát když to pořád je to se
0:42:31	sami je taková jednoduchá funkce kdybyste chtěli můžete si napsat jako rovnici na papír a
0:42:37	krát ten papír bude ouvej
0:42:43	samozřejmě když a definuje to neuronovou síť eště musim
0:42:46	definovat
0:42:48	co s co se má naučit a jak se to má naučit
0:42:51	když i madam
0:42:53	a takovéhle data set
0:42:56	také k
0:42:57	co s nima udělat
0:42:59	jak má změnit svoje parametry aby a doopravdy dělat to co mám
0:43:05	tak proto
0:43:06	proto resistor pak řeší rovnice
0:43:09	to je tady tahle třeba
0:43:12	a to je celá rovnice které která definuje
0:43:15	jak se má neuronová se naučit nic jiného tam není
0:43:18	emisemi podíváme
0:43:20	ega říká že má
0:43:23	matematika není potřeba ten tak aby to vypadalo zajímavě
0:43:27	a říká že
0:43:29	a něco minimalizovat hledat nějaké minimum
0:43:33	může měnit a ne
0:43:35	při hledání tom dva a to sou ty parametry té sítě
0:43:40	pak tady je suma
0:43:42	ta suma je přes
0:43:43	datasets té přes ty malé obrázku
0:43:47	a pak
0:43:48	na každém to na každé té dvojici to prásklo to co mám jít
0:43:53	a se podívala
0:43:54	na si spočítá tu vlastně tu funkci
0:43:59	podívá se jaký je rozdíl
0:44:01	mezi výstupem té neuronové sítě a tím co má být
0:44:06	proč tady je na druhou
0:44:08	takže ten rozdíl zápornej nebo kladnej
0:44:11	to na druhou ženský bude kladné
0:44:13	liga že
0:44:14	a se hledá minimum
0:44:16	pak všechny tady ty rozdíly tahle tady ta optimalizace se snaží co nejvíc menší
0:44:24	jsem to můžete podívat tuhle chvíli
0:44:26	takže třeba tady dělám a
0:44:30	regresi snažím se naučit
0:44:33	a funkci která by mi říká když budu vědět
0:44:37	kolik má člověk a podkožního tuku
0:44:40	a bude skákat svazu metrovej výšky tak jaká je pravděpodobnost že si zlomí nohu
0:44:46	a tady
0:44:48	jak mám nějaké lidi které se teda sněhu metrů shodil
0:44:54	to normálně děláme tady
0:44:57	hlavně se studenta
0:44:59	a
0:45:01	já můžu
0:45:02	a ty samozřejmě já nevím jak oni spolu souvisí
0:45:06	ale když se řeknu že můj model tady tenhle závislosti
0:45:10	bude to je ta jednoduchá lineární funkce
0:45:13	já můžu leda ty parametry a té
0:45:17	a
0:45:18	vydávají teda smějete čáry tady
0:45:24	tady ta minimalizace jenom říká to že tady ty
0:45:26	vzdálenosti
0:45:28	těch bodů co sem naměřil
0:45:31	o té mojí přímky musel být co nejmenší
0:45:35	teď se a to je cele
0:45:38	strojové učení a aspoň
0:45:40	select relevantní pro tohle přednášku
0:45:44	no minimalizace nějakých i na nějaké trénovací sadě
0:45:48	nějaké je jednoduché funkce nebo složitější
0:46:02	samozřejmě
0:46:03	samozřejmě to co já jsem říkala se tak hezký
0:46:07	a
0:46:08	krásně to funguje
0:46:14	a na to
0:46:15	samozřejmě své problém
0:46:17	tohle sem si včera matlabu měl pár pěkných grafiku
0:46:21	že jsem si můžete říct že ty body to sou a ty lidi co sem
0:46:26	shodil
0:46:27	a s těch dvou metrů
0:46:29	a snažím se najít tu závislost mezi vy jako jejich a ty činností a
0:46:35	to pravděpodobnosti zlomení nohy
0:46:40	otázka je
0:46:42	vy vidíte že
0:46:44	tam je nějaká závislost jako to někam vede
0:46:47	a jaká ta závislost je
0:46:49	a ta tom prvním obrázku
0:46:52	qt ta jarní
0:46:54	to sem proložil ty body
0:46:55	se to lina funkcí
0:46:58	ona jako sedí ale jako ne úplně dobře
0:47:03	pak ta závislost může být
0:47:05	a kvadratická to už má dost parametrů tam budou je složitější a lépe sedí těm
0:47:11	datům
0:47:13	alfa už to vypadá to jako dobře já může jít dál můžete model udělat ještě
0:47:17	složitější
0:47:19	tady tohle může
0:47:21	polynom čtvrtého řádu jednak prostě zas ta křivka víc prochází těma horama
0:47:28	tajit můžu ještě tu ten model ze složit edit ze složitě data i když se
0:47:32	podíváte push fakt těsně obíhá kolem těch bodů
0:47:36	ale když se podíváte tady někam
0:47:39	pryč mimo ty byly když vidíte že to někam úplně ulítaná a můžete se začít
0:47:45	dřít takže technice divný a
0:47:47	ten model může ještě se složitě to takže model kterej
0:47:51	doopravdy dat
0:47:52	dokonale prochází těma horama které
0:47:55	která si naměřil
0:47:57	a řekne si že tady ti ležet
0:48:00	tady asi mezi těmahle dvěma podává
0:48:03	kdy ta křivka takhle nahoru lízt já to je taky ne
0:48:10	nemáte pravdu
0:48:11	ale proč by nahoru list neměl
0:48:15	a to je ten důvod podstatě takové že vy předpokládáte že když
0:48:19	a to jsou ty dva body vedle sebe a tady to dáte nějak
0:48:23	pro změnu země pokračuje
0:48:26	takže ten průběh mezi těma bylo mám bude nějaký takový hladký nebude moc složité
0:48:31	a vy předpokládáte že
0:48:33	tohle bot a trhu nebo
0:48:35	má něco společnýho
0:48:37	že by kdy se mezi něma
0:48:39	tak se může se můžete dívat podstatě na tom c praotce vlevo
0:48:45	a ty hodnoty který jste neviděli uprostřed tak ty s těma co sou kolem budou
0:48:50	mi něco společně
0:48:52	to je váš předpoklad
0:48:55	stejný předpoklady je vtip metodách to vyloučení
0:48:59	cz což znamená
0:49:00	že
0:49:02	když máte nějakou
0:49:03	nějak trénovací data
0:49:06	něco na čem určite pro se to říká tomu klasifikátoru co existuje ve světě
0:49:11	tak když
0:49:13	ho na tom na ty na ty naučíte a pak ho dáte něco podobnýho
0:49:17	a to bude dostatečně podobný teda nejspíš bude fungovat
0:49:21	ale když mu dáte
0:49:23	když se modeluje proč strašně složitej typ dat málo a
0:49:28	to znamená ty podobný věci se tam najdou
0:49:31	tak najednou tam začnou fungovat takovýhle věci
0:49:35	což teda můžete se zjednoduší ten model větší problém je
0:49:40	že kdy když vy tady budete mít data tady máte no tady a budete se
0:49:44	pak
0:49:44	to klasifikátoru ptát
0:49:46	co člověk kterej tady
0:49:49	proto je ta pravděpodobnost jaká tom že máte žádný data ten
0:49:53	trénovací se tě nebylo nic podobnýho
0:49:55	tak tu chvíli
0:49:57	dostanete nesmysl
0:50:00	aby ten
0:50:02	prostě ty metody který na mluvím fungují krásně
0:50:06	a ale
0:50:08	přestalo fungovat ve chvíli
0:50:10	dyž a
0:50:12	jim po nich budete chtít něco co ste jim nedali šanci se naučit
0:50:16	ne si nedokážu míšo
0:50:18	takže ve výsledku jedinec se dělají tak
0:50:21	a
0:50:23	dělejte inteligentně
0:50:25	a jediné co dělaj
0:50:26	takže
0:50:27	pokud jsem viděl něco podobného
0:50:30	pak dám podobnou odpověď
0:50:34	se teda ještě trochu naučí jak ty podobnosti poznat
0:50:38	ale když prostě budete dávat někomu a něčemu jenom tři tak se nerozhodne naučí rozpoznávat
0:50:45	kočky
0:50:53	praha neuronové sítě
0:50:56	neuronových sítí existuje spousta
0:50:59	ty funkce který já sem tady definoval kterých pořád mluvím takový ve skutečnosti mají název
0:51:04	dopředné neuronové sítě lan maji nějak i vstup
0:51:08	ta informace nich
0:51:10	pokračuje dopředu a pak si na konci něco vyleze
0:51:14	ne to takhle
0:51:15	dopředu jedním směrem
0:51:19	existuje jo tak pro pořádek říkám že kdy stejný neuronový sítě
0:51:23	já vím stejně budu mluvit a pro mě jsou neuronové sítě teďka tohle
0:51:29	výhoda
0:51:30	co jsem se to nakous o těle neuronových sítí je máte pak
0:51:34	jeden nástroje můžete s ním řešit spoustu problémů můžete si říkat klidně a vás
0:51:41	jaká je pravděpodobnost že si ten člověk zlomí nohy nohu můžete
0:51:45	poté neuronové síti chtít
0:51:47	řekni mi chce na tomhle obrázku za typ objektu jestli to člověk
0:51:53	a pes a auto nebo něco jinýho
0:51:57	a tato výstup v jedné chvíli jsou kategorie objektů druhejch
0:52:01	a to je to tom prvním příkladu sou to a ty pravděpodobnosti můžou klidně lispem
0:52:07	být pozice
0:52:08	může být výstupem tech
0:52:10	na všechno tohle jsou ale existuje neuronové sítě
0:52:15	a my vevnitř fungují stejně
0:52:17	existuje jsou na ně stejné algoritmy na to učení stejné nástroje
0:52:23	a ta
0:52:24	všechno je stejný akorát
0:52:27	smějte malou věc co že to co říká se mají naučit
0:52:32	ale se to naučí
0:52:36	takže strašně univerzální nástroj
0:52:41	hluboké sítě
0:52:43	většinou mívají těch vrstev víc
0:52:45	se máte nějaké vstupem má několik skrytých vrstev a pak na konci z nich něco
0:52:49	vyjde
0:52:50	a
0:52:52	pokuď zase ste někde ve škole neuronové sítě měli tak nejspíš byly zakreslený tak jak
0:52:57	jsou tady
0:52:58	se znamená že tady je nějaký neuronů na se podívá na to
0:53:03	co mají jaké hodnoty mají ty verony před ním
0:53:06	je co spočítá dá to tam
0:53:10	to tohle je sice hezké ale když ten neuronové sítě mají pak
0:53:13	a milión a milion euro miliardu neuronů tak by se to těžko takhle bude kreslit
0:53:22	ovšem to takhle
0:53:24	s těma jednou vrstvu druhou prstu třetím dost tu čtvrtou vrstvu
0:53:28	mezitím nějaký spojení
0:53:30	a já to nejradši kreslím špaget no takhle plus jenom ty vrstvy já kreslím jak
0:53:35	jsou na sebe napojení
0:53:37	tohle způsob jak doporučilo neuronových sítí přemýšlet
0:53:41	a to je hlavně ta jo těch dopředu
0:53:43	co to prostě vrstvy které je
0:53:46	něco počítají
0:53:48	já jen ne jak jednoduchý výpočet packou s tou dat
0:53:52	vy máte ten obrázek na vstup pak se něco udělal dostanete třeba že čísel pak
0:53:57	se sem a něco udělá dostanete něco dalšího
0:54:00	no nepřemýšlejte o těch jednotlivých neurony
0:54:03	ale v těch operacích nějakých vrstva
0:54:08	a ve skutečnosti
0:54:11	pak mám slajd
0:54:13	kdepak i když tady tahle reprezentace vpodstatě odpovídá tomu registr to
0:54:18	programovali nějakým programovacím jazyku
0:54:22	tak co s neurony
0:54:24	neurony jsou
0:54:26	a tyhle jednoduché funkce
0:54:29	je to ta jsou nějaké váhy a neděláte neuronů nedělá nic jo ne že vezme
0:54:34	váhu vynásobí se no tak s tou
0:54:37	a přičte další stopy na vynásobeny v aha
0:54:43	a ještě pouze tam nějaká aktivační funkce
0:54:47	která není lineární
0:54:49	a
0:54:52	jenom
0:54:53	na mění a hodnotu to neuronů svátek má nakreslenou jednu aktivační funkci které se říká
0:55:00	rectify byly miliony
0:55:02	seš zní strašně vznešeně ale není to nic jiného než že se vezme
0:55:06	maximum
0:55:08	a t hodnoty a nuly to znamená když ten neurons počítá něco co je menší
0:55:13	než nula
0:55:14	výsledkem je nula
0:55:16	takže vysočina je sice větší než voláte výsledkem je to co spočítat
0:55:22	tohle jsou neurony které se použili těch hlubokých konvoluční sítí do kterých já tady celou
0:55:27	dobu mluvím
0:55:29	není to nic jiného tohle přesně ten výpočet to neuronů
0:55:32	tady akorát těch vrstvách takovýhle neuronů je teda spousta
0:55:40	a ta síť kdyby se to provalí nějakém programovacím jazyce
0:55:45	vy ste to dělali sami tak doporučuju třeba a python na s nějakou knihovnou jako
0:55:50	nám pane která dokáže nás matice rádi na zimní maticí a vynásobit s vektorem
0:55:58	pak ta rovnice takovéhle neuronové sítě
0:56:01	a nebo ten kotel neuronové sítě by vtom a tom slajdu vypadalo tak je to
0:56:06	tady mám zapsaný
0:56:09	a bylo by to topili byl do dopravy tahle
0:56:12	neuronová síť by
0:56:14	tom programu byla
0:56:17	kteří tři řádky
0:56:19	na jednom řádku by bylo spočítej tu první vrtají tuhle vrstvu cože
0:56:25	matice pán
0:56:27	té vrstvy krát vstupy
0:56:32	a pak udělají maximum s tou nulou
0:56:36	a tady ta operace by se tam opakovalo několikrát
0:56:40	a protože těch vrstev je víc pane vždycky stejná krát prostě má jinou maticí tak
0:56:46	a počítá s těma aktivacím a předtím
0:56:51	a tohle by byl doopravdy
0:56:53	program tady nebo té program kterého jsem si párkrát napsal
0:56:57	a to je to co počítá neuronovou síť
0:57:03	důležité je že tady tyhle věci se musí počítat rychle
0:57:07	se znamená že musíte použít nějakou knihovnu vona ti
0:57:11	něco
0:57:12	třeba kde už někdo zoptimalizovat to matci násobení
0:57:17	a když třeba pro teploučko nebo pro grafickou kartu procento ručkoval tak vidím že teda
0:57:23	matlabu nebo a céčkovou se plus pomocí tmě tak nějak implementace knihovny vás co že
0:57:31	prostě lineární algebra násobení matic
0:57:34	pro grafiku pro grafické karty můžete použít pod podle vás
0:57:41	knihovnu
0:57:42	máte tam sobě má tyhle operace ten program pak vypadá takhle jednoduše
0:57:47	a zároveň je extrémně rychlý
0:57:50	tady a tyhle operace mají výhodu takovou že sou
0:57:53	je na tom hardvéru a dyž na těch grafických kartách nebo nácek loučkách
0:57:58	a který se dneska vyrábí podstatě využití využít veškerých výpočetní výkon a když to budu
0:58:04	počítat do grafické kartě
0:58:06	a tak mě to pojede a efektivně třeba jeden a půl upoutal která fotku
0:58:11	otřeš je skoro to co tak ať to dokáže zvládnout spočítat
0:58:20	a spousta matiky
0:58:24	chcete na chvilu pauzu nebo
0:58:27	jak to vidíte já bych teďka mohl dat
0:58:29	tím otou pauzu
0:58:31	nebo ne
0:58:37	tak kdo chcete pauzu
0:58:40	jeden mi někdo další nenech to samotný no jestli chcete pouze
0:58:47	to tam teďka nebude trenérka strašná vatikán bych před tím se udělat pouze ten
0:58:52	toho
0:58:53	jenom malička
0:58:56	tak jedem dál
0:59:01	já pak budete mydlit čase na oběd na
0:59:05	tak
0:59:07	jak jsem řekl že víte jak vypadá neuronová síť už víte
0:59:10	se definuje to co se má učit že to sou prostě nějaký rovnice
0:59:15	a teďka jak to učit
0:59:18	ano tohle jsem si chtěl udělat krásné grafy které by to ilustroval i jednoduché
0:59:25	bohužel jsem
0:59:26	a optu druhé
0:59:29	se rozhodl že pudu spát
0:59:32	tak a takže tady budou je jenom rovnice budu toho trochu povídat
0:59:40	ten problém to učení je teda minimalizace ňáké funkce
0:59:45	která říká a jakou jak velkou chybu má ta neuronová síť na nějaké trénovací sadě
0:59:53	a když vy chcete najít minimum nějaké funkce
0:59:56	úplně obecné jakékoliv funkce
0:59:59	nejspíš se tam vydali na střední škole
1:00:01	tak pokud zas po mi na té tak
1:00:05	vás učili že můžete vzít derivaci té funkce
1:00:09	a
1:00:11	nebo krát neboj gradient
1:00:13	a když pudete protisměru já to tenkrát jen vám říká ve kterém serveru ta funkce
1:00:18	roste
1:00:19	aby když pudete opačném směru
1:00:22	tak ta funkce klesá to znamená že když pudete dostatečně dlouho tak dojde ten kdo
1:00:27	minima a natrénovali strašnýho rovnou síť
1:00:33	tomto lese přesně dělá krát a srdce znamená že učení neuronových sítí je
1:00:39	o trošku středoškolské matiky
1:00:41	derivace
1:00:43	a pak nějaká velmi jednoduchá optimalizace
1:00:47	tak když kam jednoduchá optimalizace tak pokud jste slyšeli někdy nějakou tu metodu
1:00:52	tak touž je složitá metoda naučí neuronových sítí používaj se jednodušší
1:00:57	používej se ve skutečnosti ty nejjednodušší možné
1:01:02	a té protože ty neuronový sítě jsou velký a cokoliv složitějšího
1:01:06	nejde počítat
1:01:07	takže
1:01:08	to když je když řeknu že se spočítají derivace když na ty možná když vám
1:01:13	napíšu
1:01:14	se jako by se vás zeptám spočítejte mi derivaci z this na třetí tak vy
1:01:18	řeknete že to a jako když budete derivovat podle to x takže to je kolik
1:01:24	televize skoro udělal blbce teďka
1:01:27	šest x na druhou že
1:01:29	to zvládnete té strašně jednoduchá funkce takže nějaká složitější funkce vás máte střední škole nám
1:01:35	asi učili že a de použít takzvané čin já nevím jak je to v češtině
1:01:41	na střední škole se dal pozor ale něco zapomněla jak se ty věci mnou také
1:01:46	či prostě
1:01:47	můžete když máte
1:01:50	a nějakou funkci která se skládá ze potom
1:01:54	mladej třeba bude a
1:01:57	druhá mocnina stínový nebo něco takového takže nejdřív můžete
1:02:03	je to můžete rozložit
1:02:04	lidi si spočítat
1:02:06	třeba tady tahá to je ta druhá mocnina ten si můžete spočítat derivaci té druhé
1:02:10	mocniny
1:02:12	oproti tomu co je vevnitř
1:02:14	a pak si můžete spočítat derivaci telce vevnitř
1:02:18	oproti
1:02:19	tomu co zas vevnitř toho dědečka
1:02:23	a dopravy tak je to tady napsaný
1:02:27	tak já tak se to tak se to dělá tak to dopravy napíšu to znamená
1:02:32	a
1:02:34	tak byla dopravy derivace té druhé mocniny tak jak já jsem tady řekl derivaci a
1:02:41	dvou x na třetí a teď by bylo třeba tady dvacet toho synu
1:02:46	akorát bych se to vynásob o
1:02:51	takovádle složit složená funkce je neuronová síť ta dopředná
1:02:55	vy máte vrstvu když se podíváte na výstup který máte ty vrstvy ta
1:03:01	a každá ta husa používat to co spočítalo nastat předtím
1:03:05	to znamená
1:03:06	jsem to můžete podívat takže ta funkce
1:03:09	která je aplikována ta poslední vrstva je funkce které aplikovaná na funkci té vrstvy předtím
1:03:16	to zas na funkci té vrstvy předtím a takhle to jako máte doška poskládaný do
1:03:21	sebe
1:03:24	na doopravdy když použijete tu to rčení modul kterej se naučil na střední škole
1:03:29	pak dostanete gradienty té neuronové sítě
1:03:34	a z cílem se takže říkám gradienty tak je
1:03:38	tak vy chcete gradiente těch parametrů ten neuronové sítě těch horách
1:03:47	tak tady je celý algoritmus tady toho jak to udělat ve skutečnosti
1:03:53	když máte nějakou nervovou síť tak ty grády rámci těch neuronových sítí aplikaci toho čin
1:03:59	root se říká error backpropagation ale je to název pro to samé
1:04:05	spočítání těch derivaci mach vůči nějaké chybové funkci
1:04:11	a prakticky když nepočítáte tak
1:04:14	a to znamená jenom to že vezmete
1:04:16	vstupní data
1:04:18	spočítáte co počítá první vrstva druhá vrstva třetího stačilo ta vrstva má ta vrstva
1:04:24	spočítáte chyby
1:04:26	a teďka ty chyby které na konci nejdou
1:04:30	tak
1:04:30	propaguje té zpátky
1:04:32	a ta propagace zpátky je podstatě stejná jako ten postup dopředu jo jak to je
1:04:37	chtěl jsem vám ukazoval že při tom dopředu průchodu se vezme tu takže vynásobit nějakou
1:04:43	maticí pak se to vynásobit zas nějakou maticí a zas nějakou maticí
1:04:47	jak jsem zpětný průchod je to samý akorát to násobit transponovaným a matice
1:04:52	no výpočetně to samý
1:04:57	abych vyliž máte tady ty dva průchody
1:05:00	tak tyhle tak sis pokud si zapamatujete ty dopředný hodnoty ty aktivace zpětný
1:05:08	aktivace kterým se v tuto chvíli řídit tuto chvíli říká a derivace těch neuronů
1:05:15	jakpak to jistě levou čísel myslím že to spočítat tak gradient těch horách
1:05:21	a to spočítat ten a přesto vynásobím co
1:05:26	takže cele učení neuronových sítí je podstatě jenom sčítání a násobení
1:05:31	tuhle chvíli
1:05:38	tímto nedostanete gramme gradienty a trvám říkají kterým směrem roste chyba
1:05:43	když ty
1:05:44	grady říci který vlak budete moct vach odečítat
1:05:48	tak budete muset chybu snižovat
1:05:51	a kde tak minimum
1:05:53	a tam skončíte
1:05:55	to sem teďka popsal toto je nás zas ty gradienty sem
1:06:00	ten gradienty sem kradete jasný kdy sem té se s tou takže dete dolů nějaké
1:06:05	ty chybové funkci
1:06:07	a to co doopravdy děláte které nějaký které čítejte radši algoritmus který vezme
1:06:13	část datové sady
1:06:15	třeba když budu mít byl obrázků tak si vezmeme sto obrázku s toho
1:06:21	histograms pro ženy sítí
1:06:24	že neska hádky
1:06:26	spočítá si
1:06:27	s tohodle
1:06:29	ty gradienty září
1:06:32	a ty gradienty odečte otto co má
1:06:34	jak ta si vypadá to
1:06:37	a toto jedna iterace a pak to udělá zase a zase a zase to třeba
1:06:42	dělat dva dny a na konci je sto vyleze krásně na trénovaná neuronová síť
1:06:51	a chcete se na něco zeptat víc
1:06:53	předpokládám že místo učení neuronových sítí nechcete slyšet na to stačí dělat kdybyste chtěli vědět
1:07:00	něco dalšího
1:07:01	klidně se můžete přít zeptat na jí to napsat mail
1:07:07	tento problém
1:07:11	ale jako hezky
1:07:13	obrázek zase
1:07:14	proč to nemusí fungovat
1:07:17	a to se sem tady na trest matce nenakreslil já sem stát kde
1:07:21	přiznám se
1:07:23	a
1:07:24	tak jsem že to představit že máte neuronovou síť která má dva parametry
1:07:29	tohle jeden tohle druhej
1:07:33	tom prostoru těch parametrů ten borec říkala jaká chyba ta neuronová síť bude mít dyž
1:07:41	a nastaví teda ne a paní té sítě tady prostě v tomhle bodě bude mít
1:07:47	takovouhle chybu tomhle bodě budem ta koule chův tomhle bodě budete kouli ta neuronová síť
1:07:54	i když někde začnete tak ten se kastli gradienty se prostě de
1:07:58	takhle
1:08:00	směrem dolů který ne jako co nejrychleji to vede k nejmenší
1:08:05	zamřeme se může stát že vy začnete tadydle kde dotaz tady do tohodle a vy
1:08:10	začnete o kousíček vedle
1:08:12	takže jdete do uplně jinýho minima
1:08:15	tomu se říká se to může zaseknout to učení nějakém lokálním minimu
1:08:21	a vy nikdy to globální nenajdete praxe prakticky to nejde
1:08:27	ale dobrá zpráva
1:08:30	u velkých neuronových sítí
1:08:32	všechny tady ty lokální minima tam můžete dojít jsou vpodstatě stejně dobrý ne úplně jedna
1:08:38	tam najdete
1:08:48	tak
1:08:49	teď začínaj ty zajímavý věci asi tři slajdy na konvoluční sítě jak fungují
1:08:55	když víte co to je neuronová síť
1:08:58	a to těm prostě takže jednoduše
1:09:01	co to sou konvoluční sítě
1:09:03	a jako
1:09:05	konvoluční sítě
1:09:06	proče používat
1:09:08	tak důvod je ten že se hodí na obrázky
1:09:12	nebo se hodí na zvuk
1:09:14	prostě se hodí na něco co má strukturu se i daný signál třeba olej jiným
1:09:20	věcem máte nějakou strukturu
1:09:23	a normální neuronový sítě tak já se malých teďka mobil
1:09:26	tak jak jsem říkal vstupem je vektor nějakých čísel vagóny
1:09:31	nepředpokládají že ten vektor čísel baráku strukturu je ten by ty čísla vtom vektoru můžete
1:09:37	přeházet
1:09:40	a to ta neuronová síť vám bude fungovat úplně stejně co můžeme to musíte přeházet
1:09:44	konzistentně nemůže toto pro každej obrázek třeba přeházet jinak
1:09:49	ale prostě tomu jedno je v jakým pořadí
1:09:52	dáte ty data na s
1:09:54	těch konvolučních síti
1:09:56	a nyní využívají toho že existuje obrázek
1:09:59	a ten obrázek
1:10:01	jste víte že některé pixly jsou vedle sebe některé sou tahala vedle s můžou být
1:10:06	horizontálně vertikálně
1:10:08	a prostě pak to takže to všichni víme a není důvod aby to tam neuronová
1:10:14	síť na to musela přijít sama že pixly jsou vedle sebe
1:10:20	tak
1:10:22	a
1:10:24	trochu do historie
1:10:26	yum o tom že
1:10:28	tady nemluvím o ničem nějak extrémně novin
1:10:32	tak vězte že
1:10:34	první rozumné konvoluční sítě push jsou z roku devatenácet osumdesát
1:10:39	a
1:10:41	japonský zkumní fuk ušima
1:10:43	poprvé navrhl něco co vypadalo jako konvoluční síť učila se to jinak než dnešní konvoluční
1:10:49	sítě
1:10:50	ale ušlo fungovalo prostě měl nějakou nervovou síť která dokázala
1:10:55	ten co s tím dělal
1:10:57	a možná že rozpoznávač čísla jsou systémy
1:11:01	rozhodně to fungovalo
1:11:04	ty současný koaliční sítě s
1:11:05	mají mnoho věcí společně
1:11:07	tak když se podíváte do devadesátých let
1:11:10	tak tam už doopravdy najdete
1:11:12	konvoluční sítě které
1:11:15	fungují a učí se téměř identický s tím a s
1:11:20	svátek budu povídat a povídám
1:11:23	a například já molekul ne
1:11:25	a
1:11:28	ten
1:11:28	těch devadesátých letech propagoval komerční sítě
1:11:32	já jsem tenkrát nevěřil že to může fungovat
1:11:35	ukázalo se že ano
1:11:36	a střebání udělali tak push nějakých devadesát český mu dali strašně dobrý rozpoznávač počet celých
1:11:43	čísel tenkrát udělali asi ještě s částečně wifi týden
1:11:48	a ještě devadesátých letech jako ty komouši si těch trvání vyvinuli pakr rozpoznávali jsem a
1:11:58	části našetřit
1:12:00	a se v americe se používaj šeky
1:12:02	tak já to se tam check načmáral tak ono to jako na to pustit i
1:12:06	komerční sítě
1:12:08	a nestačím se na to někdo díval tak někomu platil podle to nějaký peníze
1:12:13	ad
1:12:14	to když to nepoužít takhle tak to asi fungovala
1:12:19	tak pak dlouho nic a nebo je tam někteří lidi se něco snažili na skončila
1:12:26	síťová použité dělat
1:12:28	ale ve skutečnosti ta situace byla taková
1:12:31	že když někdo napsal článek o krůčcích
1:12:35	sítích
1:12:36	tak ho to nejspíš a nikde nevzali a nás to depresi a
1:12:41	já žádné časopis ta nechtěl
1:12:44	a tak
1:12:46	ale
1:12:47	velká změna roce dva tisíce dvanáct
1:12:50	krize s kým to na pár dalších
1:12:55	porazili všechny možné jiné právě takové ty klasické systém na kterých a založeny na těch
1:13:02	back of world
1:13:03	kterých já jsem vám vysvětlovali fungujou
1:13:06	a jedné velké soutěži
1:13:08	ta soutěž se jmenuje a míč net
1:13:12	a classification čele nič
1:13:14	což víš nedej data set
1:13:16	a tak asi cache na čele nič znamená že každý rok
1:13:20	prostě výzkumníci se snaží vyřešit problém nemají
1:13:25	přes milion obrázků
1:13:27	ty obrázky můžou patří do jedné s tisíce tříd které odpovídají objektům které na tom
1:13:33	obrázku jsou
1:13:35	a cílem je prostě udělat co nejlepší rozpoznávač
1:13:39	co je na obrázku
1:13:40	tady na to na tom této datové sem
1:13:43	vtom roce dva tisíce dvanáct projekty z esky a další
1:13:47	dosáhli asi dvakrát lepších výsledků než cokoliv co na to na téhle poloze se
1:13:53	a podařilo před tím
1:13:55	ad to bylo takový velkých kromě toho se naráz
1:13:58	chytlo spousta lidí
1:14:00	zjistili že ty konečně sítě prakticky do na něco použít
1:14:04	a fungují velmi dobře v některých situacích
1:14:08	začali používat na všechno možný
1:14:10	a zejtra mezi tím
1:14:11	proto roku dva tisíce třináct
1:14:16	konvoluční sítě se začaly používat na všechno možné
1:14:20	a velké firmy začaly nabírat lidi trest pár vteřin rozumí konvoluční s tím vytvořili si
1:14:26	týmy a vůbec být má jen ta face book má a svoje oddělení kteří fakt
1:14:31	nedělají cílem je že tedy komerční síť
1:14:38	proč
1:14:39	proč vlastně ty konvoluční sítě začaly fungovat
1:14:43	tak jeden s těch důvodů je že
1:14:46	když to zjednoduším
1:14:48	a s jakou s tím to že ty sítě vypadají trochu jinak než vypadaly dřív
1:14:52	tak velky velká část
1:14:55	proč se používají teď víc
1:14:58	je že máme rychlejš počítače
1:15:02	ano
1:15:03	to je teď
1:15:04	jako
1:15:06	ne s
1:15:07	vy si můžete sice
1:15:09	na svým domácím počítači a zadem natrénovat síť
1:15:16	takže se dá říct že toto výpočty měl výkon není potřeba šla dvacet tohle před
1:15:21	deseti lety byste měli a jednu místnost superpočítače tak se za mohli spočítat taky
1:15:28	to nebyl problém
1:15:30	akorát s ono to většinou funguje tak že toto spočítáte pětkrát až teprv po šesté
1:15:35	to funguje
1:15:36	tak když musíte ten superpočítač prostě využívat a
1:15:41	nepřetržitě půl roku ani každýho tam nepustíte vás tam a někdo vykopne
1:15:47	a když to můžete udělat na jednom počítači doma na grafické kartě kterou koupíte za
1:15:52	deset tisíc
1:15:53	tak naráz i s tím že teherán ono to eventuálně začne fungovat
1:15:57	ad to tohle jeden důvod proč jako to úspěchu
1:16:02	se teď se tram počítat
1:16:03	můžete si tou počítá se můžete dělat spousta experimentu
1:16:08	jako jednotlivec nepotřebujete k tomu milióny dolarů
1:16:13	a
1:16:14	proto to funguje
1:16:18	a máme teda velký datasety a podobně
1:16:25	takže konvoluční neuronové sítě
1:16:28	to všechno co sem říkal neteď platí pro ně
1:16:31	a pár takových rozdílů docela dost často bývají hluboké to hluboké znamená že mají klidně
1:16:36	vrstev
1:16:37	holek jak já jsem tam měl jako neuronovou síť tram na tři vrstvy tak není
1:16:42	vyjímkou že ty a končí si těch počítačem vidění mají dvacet třicet vrstev za sebou
1:16:50	jak jsem říkal tak ale
1:16:52	a předpokládaj nějakou strukturu těch datech
1:16:55	že to obraz je obrázek
1:16:57	má je sou hodnoty na ty negry du
1:17:01	a pak ty
1:17:02	ty výpočetní vrstvy
1:17:05	trestu lezli jsou konvolučním tak voni
1:17:07	tu strukturu toho obrázku reprezentují
1:17:10	a co znamená že třeba já když nemám kus to áčka
1:17:14	tak tady ten neuron ste další vrstvě
1:17:17	on se dívá jen tak na to lokální kus to ať on se nebude snažit
1:17:21	spojovat
1:17:22	tenhle pixl tady s tímhle jsou moc daleko od sebe to vubec nemá smysl se
1:17:27	na ně dívat jak spolu souvisí se
1:17:30	na to bych potřeboval moc dát nemá to smysl
1:17:34	a zároveň celé celý dělají
1:17:37	tak je že
1:17:39	to je ten
1:17:40	neuronů jenomže sedí válka
1:17:42	ale ten samej neurony je
1:17:45	zpracovávat celej ten obrázek jo ten samej norem je zkopírovat nejsem a dívá se tady
1:17:49	na tenhle kousek na tohle kousek na tamhle kousek
1:17:54	a takže to tam je
1:17:56	několik druhů neuronů to je konvoluční síti
1:18:00	kde každej ten uran se dívá určitým způsobem zpracovává kousek obrázku
1:18:05	zpracovala a zpracovat tak zpracovat zpracuje tak celej ten obraz
1:18:10	a to tomu se říká ty tomu druhu zpracování se říká konvoluce
1:18:14	těch koaličních sítí
1:18:16	místo maticová
1:18:18	jsou konvoluční nad
1:18:20	a pokud jste někdy vám někdo ve škole říkal ste konvoluce
1:18:25	tohle sou ty samý konvoluce
1:18:30	tak co umí konvoluce
1:18:34	viděl bráška řekl ale
1:18:37	neuškodí stvořit znovu
1:18:39	možná jste viděli něco takového tady mám vizualizaci nějakých funkčních jader
1:18:44	je to konvoluční jádra
1:18:46	a když se podíváte teda ne to něco bílýho černýho vedle sebe
1:18:50	se což znamená že umí detekovat hrany
1:18:53	a detekovat hrany určitého směru
1:18:57	takže pak pustíte
1:18:58	a na nějaké třeba obrázek kočky
1:19:02	nějakej ten filtr s ty vole dokáže back detekovat procent
1:19:06	smysly
1:19:10	a na tom obrázku to není úplně jde vidět
1:19:13	ale svatej takhle detektor by detekovat
1:19:16	horizontální hraný ty meta třesu tady
1:19:19	nějaký vertikální hrany jsou tady
1:19:24	představte si to tam
1:19:30	a to tohle se normálně počítačem vidění dělala
1:19:33	a většinou tady tyhle filtry na někdo navrhl ručně
1:19:38	prostě konvolučních sítích takovéhle filtry se trénují na datech automaticky
1:19:44	a zároveň
1:19:45	zároveň je a
1:19:48	to takhle vypadají třeba té první prostě a pak jsou na další vrstvy a pak
1:19:52	sou filtry které sou aplikovali
1:19:54	a takovýhle obrázky
1:19:56	o víš neviděl ten obrázek je už neviděl
1:19:59	myslet nějaké filtrace
1:20:06	a
1:20:07	to je třeba jsou krásně jakých filtru
1:20:10	tady jenom tak abys
1:20:12	líbilo jasně co ta
1:20:14	a
1:20:15	konvoluční rozsahu nějaké neuronové síti počítá
1:20:18	ekonoma teda nějaký jádro který nenatrénovaný a to sou prostě hodnoty nula celá jedna nula
1:20:23	celá dva
1:20:24	a mínus nula celá tři
1:20:26	a testování pochválí tak neuronové sítě
1:20:30	co se dělá tak se vezme pixl toho jádra tak se vynásobí
1:20:35	s pixlama obrázku
1:20:37	takhle se to udělá pro celé jakéhokoli pro celé to jádro
1:20:41	a všechny ty
1:20:43	takhle vynásobeny hodnoty se sečtou a dej se do jednoho pixlu na výstupu
1:20:48	ta konvoluce
1:20:50	to je tam operace
1:20:51	se pak dělá
1:20:53	nejenom na jednom místě ale dá se na celý obrázku
1:20:56	ta sama
1:20:58	ad těch neuronů končí neuronových doslech pak takovýhle konvoluci je
1:21:03	no
1:21:07	a to tady mám jako ukázku actor
1:21:09	jak může vypadat ilustrace takové komerční sítě
1:21:13	to je na vstupu máte obrázek který má nějaký rozměr a tři kanály on je
1:21:19	barevné jo máte mám modrou zónou červenou
1:21:25	řešit co je znamená že i ty jádra
1:21:27	nejsou kupé tak jak jsem ukázal jsou barevný a on má třeba když budu mít
1:21:31	jádro třikrát pixly tak tuhle chvíli bude mít a tři barvy
1:21:38	ho se to spočítat dohromady na těch třeba do
1:21:42	a který s
1:21:43	a tady ty další vrstvy těch koaličních sítích
1:21:46	těch ti
1:21:48	těch kanálů těch konvoluci mají mnoho
1:21:51	no svaté jste síti té první vrstvě je čtyři taji čtyřicetosm druhu neuronů čtyřicet osum
1:21:58	různých kontrolu
1:22:00	každá třeba extrahuj
1:22:02	a
1:22:03	jindy jiných radisto obrázku který jdou jiný směr je tedy vztahu třeba barvu jaká tam
1:22:09	na tomhle místě a podobně
1:22:11	a každá ta konvoluce bitva pixl nějakou jinou informaci
1:22:17	co je pak máte obrázek dave každým kanálů máte nějaký druh takovéhle informace
1:22:24	pak když jsou další vrstvy
1:22:26	takže ty
1:22:27	konvoluční filtru jsou velký
1:22:29	špatně ono vždycky zpracovávaj všechny ty kanály té vrstvy předtím naráz
1:22:35	a to znamená že tady tyhle filtry
1:22:37	té dalším roste už třeba maji rozměr pět krát pět
1:22:40	ale sou přes všechny ty kanály té vrstvy předtím při všech těch čtyřicetosm kanál
1:22:47	a zas pak
1:22:50	takže ušlo zpracovali víc
1:22:52	a
1:22:53	mají
1:22:54	kódují vpodstatě složitější informaci
1:22:58	tak těch kanálů těch hlubších vrstvách té sítě bývá nic
1:23:02	a tady na začátku třeba jsou hrany tech těch
1:23:05	směru hran až tak tolik není
1:23:07	ale když přijdete dál jste sítí
1:23:10	tak
1:23:11	tam jsou reprezentace
1:23:12	třeba konkrétních typu objektu s třeba a
1:23:17	ok a nosu
1:23:19	první adept takových objektů že jsou tisíce
1:23:24	to znamená že těch kanálů těch různých konvoluci tam musí být mnoho prostě se nám
1:23:29	mohli naučit detekovat všechny ty různé věci které tom obraze můžou být
1:23:33	už máte na úrovni abstrakce
1:23:39	to jsi z biologie resistor jako je nějaká taková jako
1:23:42	teoretická otázka
1:23:45	existuje
1:23:46	a mozku někde neurony ktery tomu se říká grant na program modern neurony
1:23:52	stě neuron který by reprezentoval vaší babičku
1:23:57	a
1:23:58	co se týče mozku tak je
1:24:01	taková jako obecně přijímaná teorie že nám funguje podobně jako tady ty neuronové sítě
1:24:06	a to vtom smyslu jak kdyby když něco vnímáte
1:24:10	tak dopravy na začátku
1:24:12	sou
1:24:14	podobné jednoduché filtrech co tady které detekuji hrany
1:24:17	to doopravdy na sítnici
1:24:19	pak jsou a
1:24:20	se celej ten vizuální proces
1:24:22	funguje
1:24:23	dopředně to znamená že tam je třeba to detekce hrana pak je to doopravdy další
1:24:28	vrstva která už těch hran skládá něco složitějšího pak další vrstva další vrstva další vrstva
1:24:35	to se celkem ví a dopravy to odpovídá tomu jak tady ty neuronový sítě fungujou
1:24:41	a
1:24:42	co se nevím jak to je co se děje dál
1:24:46	co se děje už na takové úrovni kde čili přemýšleli o abstraktních věcech typu auto
1:24:52	můj pes babička
1:24:54	sou o mozku
1:24:56	a neurony které se aktivovaly když vidíte vaší babičku
1:25:01	pravděpodobně a na jako ukazuje se jaksi ano se na ukazuje se to samé ten
1:25:06	těch konvoluční sítí tam dopraví když něco trénujete
1:25:11	tak můžete někde najít neuron
1:25:13	kterej odpovídá automobil
1:25:16	a jí se to třeba na detekci automobilu neučil
1:25:22	tak
1:25:23	další věc která těch
1:25:24	kdyby jste někdy něco s tlakovou činnosti a začli dělat tak kromě konvoluci
1:25:29	tam budou ještě půlím vrstvy
1:25:32	což
1:25:33	přes na cizí podstatě otto že vy když
1:25:36	bude to zpracovávat nějaký obrázek
1:25:39	si představte že tam máte nějaký ty hrany i když se díváte na ty hrany
1:25:42	tak je celkem důležitý kde ta hra ne
1:25:45	se tahle
1:25:46	vlevo v obrázku pro obrázku to je docela rozdíl
1:25:49	ten tam potřebujete
1:25:50	velké rozlišení musíte vědět kde ty věci sou
1:25:54	ne ve chvíli když pudete
1:25:56	na ty abstraktní věci už budete zachycovat je tam třeba to auto nebo je tam
1:26:01	člověk takže vám jedné na kterým pixl přesně touto je
1:26:05	důležitý je třeba jestli ten člověk stojí vedle auto vedle auto nebo je přetypován autem
1:26:11	ale co když tam
1:26:13	přesná pozice není důležitá
1:26:16	co se dá v těch očích sítích tak tam postupně když se de hloubi ještě
1:26:20	vrstva jak tam se zmenšil rozlišení toho obrázku
1:26:24	a to zmenšování rozlišení jsem se dá pro právě pomocí půlím vrstvy to fakt není
1:26:30	nic jinýho než že zmenšit to zmenšit
1:26:33	velmi často se používá
1:26:35	tak zajímat půlení
1:26:37	se znamená že
1:26:38	tom obrázku z nějakého lokálního okolí se vezme maximální hodnota
1:26:44	a to se dá na výstup
1:26:46	a ten výstup se zároveň s menší
1:26:50	a ve velmi jednoduchá operace
1:26:52	se berou maximální hodnoty
1:26:55	úkoly a vy když použijete a nevím vím na zmenšený obrázku tak je to skoro
1:27:00	to samé
1:27:05	tak ta parcela je celá nějaká neuronová síť
1:27:08	může vypadat například takové
1:27:11	to je konkrétně tasí z roku dva tisíce dvanáct ty zemské další kteří vyhráli ten
1:27:17	míč net
1:27:18	a ste všechno odstartovali
1:27:21	se podíváte tak tady teda
1:27:23	jako revoluční vrstva matku link tak
1:27:26	je to menší jo to je snadněji padesát krát padesát pět krát padesát pět pixlů
1:27:31	takže půlka dvacet sedum k dvacet sedum
1:27:34	zas zase to zmenší témat spojených že ten obrázek reprezentované no jako třináct krát třináct
1:27:41	jaksi láska třináct tady projde pardon slova další matku linka pak tady jsou vrstvy které
1:27:47	se dívali na celý ten obrázek dohromady
1:27:58	sou
1:27:59	ale zamřeme to vždycky lžíce děláte
1:28:02	třeba tady tohle mám vstupní obrázky který sou rozlišení deset padesát pět krát deset padesát
1:28:06	pět
1:28:07	můžete mi menší pak to bude vypadat jinak
1:28:10	a základní ty pravidla jsou
1:28:15	používat poměrně malé končíme si na pak teda pane ty vektory ukážu
1:28:20	na používat
1:28:21	menší těmi sem ty jádra menší
1:28:26	a
1:28:26	na začátku mi těch a
1:28:29	kanál ní po přijdete hlouběji té síti
1:28:32	těch různých konvoluci těch kanálů krůčcích tam mít víc
1:28:38	a postupně prostě zmenšovat ten obrázek
1:28:41	tohle plochy třeba rozpoznávat jak se na tom obrázku je tak takhle to prostě uděláte
1:28:46	vždycky
1:28:47	ta situace ve skutečnosti jednodušší a já to pak ještě řeknu
1:28:52	když byste sami něco dělali
1:28:54	tak
1:28:56	si nejspíš nebude ten navrhovat tu neuronovou síť
1:29:01	nejlepší cenu
1:29:02	tak je stáhnul si nervously kterou šla trvá někdo přetrvává
1:29:06	já vám ukážu odkud se můžete stáhnout
1:29:09	to si
1:29:10	najít a hledej stáhnout z internetu
1:29:12	a funguje tak dobře jak prostě funguje
1:29:16	a vy to si můžete vzít
1:29:18	a adaptovat ji na váš problém
1:29:21	ad pak to bude dobře fungovat
1:29:23	a v tu chvíli nemusíte řešit
1:29:25	jak tu si tam prostě vezmete tak jak byla
1:29:29	a to je nejčastější postup je s největší šancí že
1:29:34	má to bude fungovat
1:29:40	já to jak tohle poměrně malá si tam má nějakých dva čtyři šest osum devět
1:29:46	vrstev
1:29:47	to je pro těla
1:29:53	tak jaké jsou výhody
1:29:54	a
1:29:55	pak praktické pokud by se ve koule
1:29:58	si čtyři používat wav dopravy a nebudete chtít udělat rozpoznávači jestli je hudba je jedla
1:30:05	nebo jedovatá pro mobilní telefony
1:30:08	aby se vám co nejvíc zákazník otrávil
1:30:11	tak jako výhoda je že
1:30:14	i když si koupíte počítače do kterého strčíte
1:30:17	nějaký dělník je perlička
1:30:19	tak pro dokážete přes na tom jednom počítači třeba zpracovat víc než sto fotek za
1:30:26	vteřinu
1:30:29	dá prostě
1:30:30	na síti takové jako kterých je kterou se tady ukazoval
1:30:34	obrázek
1:30:35	a zeptat se na ten výstup to můžete udělat stokrát za vteřinu na nějakým ke
1:30:39	perlička že budete mít co je poučka tak třeba desetkrát za vteřinu a pořád je
1:30:45	to relativně rychle
1:30:47	problém je
1:30:49	že když se budete snažit vytvořit svůj vlastní c tak by se tomu
1:30:53	je trochu rozumět
1:30:54	protože ve chvíli když vám to gentleman vám to nebude fungovat
1:30:59	a vy nebudete vědět jak to vevnitř funguje sám velmi těžce bude zjišťovat proč to
1:31:03	nefunguje
1:31:05	ale můžete se třicet aby jste chtěli
1:31:09	a druhé druhý problém může být
1:31:11	že
1:31:12	vytvoření testy může trvat
1:31:15	vy pokuď
1:31:16	pokud by se trénovali takový velký sítě jak ten kazil
1:31:19	úplně od začátku tak
1:31:21	tak klidně trvá na měsíc
1:31:23	a na ten na nějaký aha je dvě poučku
1:31:27	ve chvíli ale
1:31:31	jakmile ale když je teda začnete s nějakou sítí která už existuje
1:31:35	tok peněz zvládnete za hodinu
1:31:38	takže to ten problém s tím
1:31:40	že se to dlouho trénuje není až takovej hroznej že by se můžete použít už
1:31:44	existujících
1:31:48	a je na to
1:31:50	a
1:31:52	základ je
1:31:54	pokud nechcete čekat moc dlouho koupit si grafickou kartu
1:31:58	protože přece jenom ne když máte nějaké chcete učil takovýto který koupíte do deseti tisíc
1:32:04	tak jako maximální výkon má nějakej
1:32:08	kolik můžeme ject na dvě stě mega flow pust čtyři sta mega fotku něco takovýho
1:32:14	a taky hafo původu
1:32:17	když si když si koupíte nějakou devět set osumdesát a nikdy tak ta zvládne a
1:32:24	tak to je prostě a desetkrát rychlejší a ta tam a teoreticky něko někde kolem
1:32:30	votrav
1:32:33	ve při trénování tady tyhle síti
1:32:35	vy dokážete ty grafický karty využít úplně naplno
1:32:38	stejně tak jako týce počkat
1:32:42	na prostě když máte dvacet tisíc tak je lepší si koupit grafickou kartu než dct
1:32:46	loučka
1:32:48	tak
1:32:51	nemusíte si nic programovat
1:32:53	ale můžete si stáhnout nějaký
1:32:55	natočený přes ten se open source a podobně ale něco co stáhnete a můžete koho
1:33:00	tam můžete se si dělat se chcete
1:33:05	push existující který je dobře odladěný rychlý
1:33:08	flexibilní
1:33:10	a když se to přeložit a tak můžete rovno vítr ano
1:33:15	těch nástroje nikoli
1:33:17	já například používám velmi často kafe
1:33:21	cože asi největší nástroje a nejvíc používaný
1:33:26	a vtom doopravdy je nemusíte skoro nic udělat
1:33:30	jestli no vytvoříte
1:33:31	data set čeho ty data někde musíte sehnat
1:33:36	napíšete si nějakej konfigurační soubor a pustíte binární binárku tady s těma konfigurační soubory vás
1:33:42	datasetem ano se vám to na terén nemusíte nic programu
1:33:47	stejně tak skoro když pak čtu si děláte aušus a u že chcete neco použít
1:33:53	tak skoro nemusej nic programovatelnou pak ukážu a zdá který to dělá a je to
1:33:58	pět řádků pipe
1:34:02	opak tydlenty další jsem tady napsal ty vázáni krása opilý to jsou teda a frameu
1:34:08	roky pro python
1:34:10	tak je toho spoustu umí ale my se tam musíte něco do programu to není
1:34:14	skript binárka kterou byste prostě pře musíte něco napsat
1:34:19	ale zas sou na druhou stranu
1:34:21	možná flexibilnější můžete dělat pokud chcete dělat něco vtipnýho což já nevím jestli plánujete nebo
1:34:28	budete plánovat
1:34:29	tak se tam dál
1:34:31	na nějaký hraní no pokud byla zajímal chtěl byste zjistit jak to vevnitř funguje tak
1:34:37	to ty vázáni která se open typ sou možná lepší
1:34:41	pokud chcete rámec použít kafe
1:34:45	tak samozřejmě myslím se to roznese se chcete dělat jestli chcete klasifikovat dobrá s kým
1:34:50	chcete zjišťovat kde věci jsou na obrázku
1:34:52	a chcete a se s čela obrázky
1:34:57	to sem si to rozmyslet podle to ta síť musí vypadat
1:35:01	musíte si sehnat data
1:35:04	pokud byste chtěli rozpoznávat třeba
1:35:07	lidi otců tak na to těch dat moc nepotřebujete dělám stačí prostě sto fotek souhlas
1:35:13	to fotek a lidí
1:35:15	pokud použijete ušní přetrénované musí tak vám to nejspíš bude dobře fungovat
1:35:20	pokud ten problém bude složitější
1:35:22	tak samozřejmě těch dat potřebujete být
1:35:25	ale jako rozumný počty jsou tak jako
1:35:28	tisíce desetitisíce fotek na něco rozumnýho
1:35:33	minima
1:35:36	a můžete si stáhnout existuje si neuronovou síť
1:35:39	já jsem to a tady dal link na něco semene model vozu
1:35:44	cože
1:35:46	velký repozitáře sítí které jdou přímo nahrát právě do toho kafe
1:35:52	jsou natrénovaný vtom café
1:35:54	a je můžete rovnou používá většinou ty licence vývoj takže se že můžete používat a
1:35:59	její komerčně cítil ty s titanity sítě to trénuje nějaké výzkumné organizace to znamená každá
1:36:05	na rovinu licenci
1:36:08	ale většinou je můžete používat bez omezení
1:36:12	a těch ty sítě které tam jsou tak třeba uměl rozpoznávat jaksi mi lokalizovat objekty
1:36:18	umyju
1:36:19	a
1:36:20	segmentovat obrázky
1:36:22	a
1:36:23	kde co je taky
1:36:26	to je jich tam hodně
1:36:28	já jsem se dneska díval tak je tam asi dvacet pět třicet různých sítí
1:36:34	se můžete sám
1:36:39	a když se ta koule si teda stáhnete tak vy můžete jí si jako základ
1:36:45	pro vaši síť a trochu to do trénovat na vašich obrázcích
1:36:50	bude to velmi dobře fungovat
1:36:52	tato neříkám že tohle postup jednoduchej
1:36:56	a dopravy pokud máte nějaký malej souboru obrázku tak to je
1:37:02	a nejlepší postu ten postup který vám dá nejlepší slajd
1:37:06	nejenom že se to rychle na trénuje ale bude tady nevím fungovat pokud nezačnete s
1:37:10	nějakou existující neuronových sítí
1:37:14	no a jestli
1:37:22	no
1:37:30	já si
1:37:34	jo
1:37:37	a tomhle případě ta průměr a je plus minus přímá
1:37:41	na čem nic máte
1:37:44	většinou když se jo tohle budu přemýšlet jako
1:37:46	tyhle termínech tak je
1:37:49	kolik potřebuju a obrázků na jednu třídu
1:37:54	a když do duše si řeknu že
1:37:57	chtěl bych aspoň padesát obrázku na třídu tak pak bych si řeknou musim to mi
1:38:02	na každou tři takže když budu mi tisíc tříd je to padesát tisíc aspoň
1:38:07	ale
1:38:08	a u téhle utekla s ligace takhle daří jsou jiných problémů
1:38:13	a
1:38:14	mluv úplně ne
1:38:15	samozřejmě to záleží hodně na tom jak je to problém těžkej
1:38:20	no kolik
1:38:21	a jak je obtížné třeba ty dvě třídy od sebe rozeznat že budu mít to
1:38:26	jednoduše rozeznatelné přidělat sebe
1:38:28	tak ti obrázku potřebují je složitě obtížně ty objekty byl podobný tak tě obraz bude
1:38:35	potřeba víc
1:38:36	ta jedna věc druhá věc je když
1:38:39	akce se možná důležitější
1:38:42	tak je že musíte jste trénovací set zachytit veškerou ose ty variabilitu toho těch vašich
1:38:48	dát já když co bude rozpoznávat dotace to za ty z auta
1:38:53	a budu mít trénovací sebou dobrou fotky nám zepředu tak to bude fungovat jenom zepředu
1:38:59	a nebude to fungovat zezadu
1:39:01	z vrchu
1:39:03	a když budu mít ty židle
1:39:06	tak a prostě detektor šli do potřeboval mnohem víc trénovacích dat protože židle vypadají každá
1:39:14	úplně jiná tvrdit dodělat detektor aut protože auta vždycky mají světlomety mají dveře mají kola
1:39:22	ty prej plus mínus stejně
1:39:23	tady ty že nemůžou každá pro doplnění
1:39:27	a ta tam jako konkrétní odpověd nejde říct a zavřený vždycky když budete mít zdát
1:39:32	tak to bude fungovat líp
1:39:35	a většinou to funguje
1:39:37	takže
1:39:38	když budete mít že a budu mít padesát obrázků
1:39:42	a ve seženu sis to
1:39:45	tak to bude mít tak jako dosáhnu stejného zlepší jako když si myslí že vstal
1:39:49	seženu dvě stě
1:39:50	vy ste těch dvě stě čtyři sta let takhle jako wifi exponenciální žert
1:39:55	a dycky zdvojnásobím velikost ne trénovací sady tak se to o nějaký kousek zlepší
1:40:03	a je pak
1:40:05	když to pak chcete dokonalý tak ty dat tak potřebujete vědět
1:40:10	na
1:40:24	určitě
1:40:25	té pravé ten renovaci algoritmus
1:40:28	a ten vlastně všechny trénovací algoritmy pro ty neuronový sítě fungujou takže dělají graf hlavní
1:40:35	směry
1:40:36	ale prostě maji
1:40:37	teďka nějakou aktuálně natrénováno síť
1:40:41	to trochu změnil a to zas trochu změní a zas trochu změnil
1:40:44	list samozřejmě můžete dělat
1:40:47	když třeba
1:40:49	právě
1:40:50	to umožňuje to hraju přímo to že když máte nějakou existující c teďka v začnete
1:40:55	trénovat trochu něco jinýho
1:40:57	todle když máte nějaký data se řadím prostě jste to někdy na trvá a trvá
1:41:03	síť
1:41:04	nedělám přibyde tisíc další obrázku takže prostě přidáte do té datové sady a do trénujete
1:41:11	dokonce můžete dělat takový věci
1:41:13	takže
1:41:15	a už máte nějako natrvalo síť a máte to někde tužku štyry
1:41:20	jak se dá zjistit když si ten klasifikátor není ste vy můžete mít člověka
1:41:27	tady se podívá
1:41:28	to ste zkontroluje ty
1:41:30	obrázky na kde se ten klasika to není stejný
1:41:33	určitě večeře udělat to i kdybych já byl google
1:41:37	tak on to možná tak dělaj
1:41:39	jak prostě
1:41:41	a příde obrázek paní pustím neuronovou síť
1:41:45	když násilí státech řekl oukej když ne jak se to pošle do indie tam někdo
1:41:49	klikne
1:41:50	ale chvíli když na to někdo klikne jak jsem to přidali trénovací sady
1:41:55	a příště vyšší ta neuronová síť to tohle rozpozná
1:41:59	a toto let a jestli manévrování na s těma kde krásně aut
1:42:10	jo
1:42:12	a
1:42:13	to je částečně to celá sem tady ukazoval někde
1:42:17	ale jenom částečně
1:42:19	tak
1:42:20	za sem ukazoval tady
1:42:23	a to je
1:42:25	když máte malou neuronovou síť tak vono vám dokáže
1:42:28	takhle protože ona nemůže udělat nic jinýho tak ona vám spojky
1:42:32	a ty data který vidíte nějak jednoduše
1:42:36	když máte velkou neuronů si dělá se tam dokáže dělat všechny možný kejkle
1:42:41	takhle se prostě na fitu je přesně na ty data
1:42:44	ale cokoliv jinýho ten anonymní rozpoznat
1:42:47	tomu se říká přetrénovat
1:42:50	a
1:42:51	u těch konvolučních si tím o kterých mluvím já
1:42:54	tak to v podstatě nedochází
1:42:56	nebo aspoň a mnohem méně výrazně nižší kdybyste neměli končí c
1:43:02	protože
1:43:05	tak z několika důvodů
1:43:07	tehdy když máte nějaký ten filtr tak ty filtry sou poměrně malý stihne je málo
1:43:12	parametrů a jsem ti košile na obrázku
1:43:15	se znamená že voni podstatě vijou spoustu dal na to aby se to natrénovali
1:43:20	to jedna věc
1:43:22	a
1:43:24	takže korupční sítě obecně se méně před trénoval jdeš
1:43:27	jako hučí sítě
1:43:29	druhá věc je
1:43:32	že vy když vezmete už nějakou přetrvalo síť která je prostě na trénovaná na
1:43:37	a desítkách miliónů obrázku někým
1:43:41	tak nám se naučí detekovat všechny ty hrany a ty složitější věci a složitější věci
1:43:46	a ona voš podstatě na trénovaná tak dobře dokázalo rozpoznávat věci obrázcích
1:43:54	to je když by to nenapadlo trénovat a na konci tak podstatě
1:43:57	děláte něco takovýho jako že
1:44:00	a jsou jaké kousky mají být na obrázku aby mohl říct že tam pes
1:44:08	a tomu že pak poměrně jednoduchý úkol
1:44:11	a je tam menší prostor pro to aby se ty sítě přetrénovat
1:44:15	samozřejmě se to stane
1:44:17	ale ne
1:44:19	není to nějaký výrazný problém chtěl sítích
1:44:24	samozřejmě použil jsem metody jak tomu zabránit a co má nějaký regularly za cest tyhle
1:44:29	s tím o kterých mluvím já tak tam je tam jsou prostě kterým se říká
1:44:33	drop out
1:44:34	ty přitom trénování náhodně nastavují a neurony na nula
1:44:39	to znamená že ta sídle nemůže jí tu jako spoléhat na to že nějaký neuromancer
1:44:45	nenastaveny musí být robustnější a tak
1:44:48	a jako obecně to funguje relativně dobře samozřejmě čili celá teda s těmi to funguje
1:44:56	nějaký dotaz
1:45:02	tak
1:45:03	a to je rychle projdu
1:45:05	máme z tech pět minut
1:45:07	nebo něco takovýho
1:45:11	co se dá skončím asi těma dělat
1:45:14	můžete
1:45:15	detekovat objekty
1:45:16	a tady tomhle případě jste dělali nevzali
1:45:20	výřezy obrázku vždycky na to pustili neuronovou síť na ten výřez která se to wifi
1:45:25	člověk není tady člověk
1:45:28	a když to neuděláte na dostatečně počtu výřezu obrázku tak dokáže to najít děti
1:45:34	a můžete
1:45:36	ty sítě jsou konvoluční to znamená že vy se tady
1:45:39	jako spočítat všude obrázku
1:45:42	a můžete mít výstup
1:45:43	přímo jak pro každý pixl co na ně mě
1:45:47	takže nejenom
1:45:49	co je na obrázku případně kde ty objekty sou
1:45:52	ale pro každý pixl můžete mít informaci
1:45:55	co to je jakým objektu náleží
1:45:59	můžete dělat
1:46:01	úplně divně jako
1:46:02	věci které já bych řekl že můžou fungovat ale kupodivu fungují
1:46:06	můžete si říct a tenhle obrázek s člověkem
1:46:11	konvoluční sítí a řekni mi kdo má ruce nohy hlavu
1:46:15	můžete mi teda vstup obrázek a výstup klidně pozice no x y pozice kloubů
1:46:24	a
1:46:25	tohle se třeba používáte zarovnání obličejů a vstupem je obrázek obličeje výstupem sou body na
1:46:33	tom obličeji pomocí toho se to pak třeba ten většina pootočit rozeznávat
1:46:41	to sem dal například já
1:46:43	proto tu
1:46:43	tady ty pozice
1:46:45	znamená že výstupem té neuronové sítě sou nějaký
1:46:48	a reálný čísla který říkají pozice těch logů
1:46:53	a
1:46:54	sem dal hrátek
1:46:55	jsem použil to samé akorát jsem si řekl co když výstupem té sítě bude obrázek
1:47:03	hodnoty pixlu toho obrázku
1:47:05	a
1:47:07	co s tím udělat s ta koule sítí tak co třeba
1:47:11	a
1:47:12	když mám ten vstup nějaké rozmazané i ta chtít po síti aby se to rozmazaný
1:47:17	obraz dala skinu práce
1:47:19	takže já mám síť
1:47:20	kde vstup je obrázek výstupem obrázek
1:47:24	a ta síť ho od rozmazává
1:47:26	to funguje krásně vás to někoho zajímalo mám na netu tyhle sítě nahraný někde když
1:47:33	se podíváte na moje stránky
1:47:36	a pak můžete dělat takový že tady mobilem si fotit nějaký text
1:47:41	a ta síla se udělá něco co dokážete přečíst když ten zkuste přečíst životě nedokázali
1:47:49	kdyby se to někdo chtěli koupit dejte vědět
1:47:56	tráva a jak jsem říkal ten zvuk rozpoznává obličeje
1:48:00	placení dělají tak a
1:48:04	na fotce obličej najdou teda ty body
1:48:06	a uměle ten obličej otočil dopředu
1:48:11	a teď trochu složité a tom
1:48:13	můžete se podívat
1:48:15	a pak takhle na obličej které otočili a dopředu abych se díval do kamery tak
1:48:21	na to prostě ukončí neuronovou síť ste neuronové sítě
1:48:25	na konci vezmu nějaký aktivace které reprezentuje ten obličej vypadá
1:48:31	a pak maji takovéhle vektory ty deaktivaci s to ze vše z nějakého ty databáze
1:48:37	pak když přijde nová fotka s akorát podivaj tohleto vektoru databázi chce nejblíž a to
1:48:43	je ten člověk
1:48:47	dokonce můžete trénovat
1:48:49	ne sítě na rozpoznávání nebo na rekonstruovat něčeho
1:48:53	ale klidně můžete trénovat sítě
1:48:56	rovnou na tobě říkali že ten se podobný
1:48:58	jestli takzvané syrské sítě
1:49:01	se s na vstupu sou dvě věci
1:49:03	se pro ženu nějakou
1:49:04	sítí které můžou být by měl být stejně rozdílem na konci jedinou nějaké
1:49:11	vektory čísel
1:49:13	a ta sice dá trénovat tak
1:49:15	aby přímo
1:49:16	se trénoval že
1:49:19	stejný
1:49:20	obrázky holky že na těch obrazů sem třeba stejný člověk
1:49:24	tak aby ty vektory byly stejný a pro různé lidi aby ty vektory ty reprezentaci
1:49:30	byly a co nejrůznější toho se dá třeba vím že když dopravy děláte nějaké vyhledávání
1:49:36	indexaci
1:49:37	a podobně
1:49:38	a máte jako databázi
1:49:40	třeba videí
1:49:42	a budete hledat
1:49:43	nejpodobnějšími den
1:49:45	takhle domu natrénovat ty
1:49:48	fingerprint i ty obrázky patra ty vektory podle kterých viz vy vyhledávat at podobný věci
1:50:02	nejsi dělat
1:50:06	to má
1:50:15	nuly
1:50:16	málo zručný technický problém
1:50:22	tohle když kolik
1:50:26	nejsem trénovat neuronové sítě které dokonce jenomže zpracovávají celý
1:50:30	obrázek ale naučil se kam se na tom obrázku dívat
1:50:34	a tohleto při vidíte ty čtverečky
1:50:37	to dopravy ta síť se naučila že rozpoznávač číslo tak se někam dívej
1:50:44	a pak dokonce tady podle těch síti
1:50:46	toto chcete
1:50:49	a to toho trochu dýl
1:50:52	to co je tady na tomhle obrázku takže
1:50:54	že nejenom že ta síť se naučil rozpoznávat ty číslice ona se nám členy kreslit
1:51:01	no to je to stay vidíte tak to je proces kdy neuronová síť
1:51:06	generuje a
1:51:10	how snad brzd nebo takový ty čísla co na práci
1:51:15	a nedělat
1:51:16	dudy generovat i další věci
1:51:19	úplně úžasný článek ne nečekal bych že o tom
1:51:22	jo tím že čekal že
1:51:24	uvidím někde článek o generování židlí pomocí neuronových sítí a tady ti lidi natrénovali síť
1:51:30	které řekli na generuj mi síť typů pět
1:51:34	s pohledu odtud
1:51:36	a ta síť to wiki vytvořit a jít ale obrázek
1:51:39	spajdrmen
1:51:40	jak ono to vypadá tak trochu podivně a podstatě relativně dobře
1:51:44	mimo jiné co můžou dělat tak vidíte tady takže interpolovat mezi různýma ty považuji
1:51:51	se mají
1:51:52	můžou vygenerovat obrázek židle která je napůl křeslo a napůl kancelářská židle
1:52:02	a není to fotorealistickými ale
1:52:08	takové věci se dají dělat
1:52:11	a samozřejmě
1:52:14	máte náladu tak se můžete podívat na nějaká já vím
1:52:19	a seš
1:52:21	jak jsem říkal
1:52:23	postupech tohle se vytváří takže nějaká trénovaná si teda chtěl bych se vpodstatě můžete sto
1:52:28	internetu s tou malou zůstanou
1:52:31	paní lates na vstup to jestli tě nějak i obrázek
1:52:36	pro ženete to tou sítí
1:52:39	a teďka
1:52:40	si řekne řeknete jestli ti třeba
1:52:43	na
1:52:44	já bych chtěl aby ten obrázek vybral víc jako pes
1:52:49	a to je tohle informací můžete pak spát pro potom o propagovat stejně jako
1:52:54	přitom učení těchhle pomoci backpropagation místo není varech
1:52:59	může to mění ten původní obrázek
1:53:02	a to co vidíte tady
1:53:04	tak to je
1:53:06	a
1:53:08	jak
1:53:09	sem
1:53:10	kontinuální
1:53:11	to vstupního obrázku tak aby
1:53:14	a by se nějaká aktivace té neuronové sítě byla vysoká
1:53:20	a to na začátku to byli
1:53:22	jako abys
1:53:23	byly vysoké aktivacím nějaké prvním místě
1:53:26	a tohle postupně
1:53:28	a jo tam se viděli že tam byly hodně ran
1:53:31	tak jsem někde hlouběji ste síti
1:53:33	oženíte že tam jsou
1:53:35	očí
1:53:37	a vlasy
1:53:38	podstatě psů a podobně už jako takový částí objektů části tuhle chvíli zvířat
1:53:45	tady jsou a je nějaký lidský voči
1:53:48	když pude
1:53:49	a postupy když tady pro ty vím trims použijeme aktivace té hlubší ve slipech tak
1:53:55	začnete vidět větší kusy objektu a tady jsou stě hlavy
1:54:00	a
1:54:05	teda bude něco jinýho než oči
1:54:15	tady jsou nějaký monitory a podobně
1:54:19	ad to vpodstatě ta síť
1:54:21	se říká že na lucinu je
1:54:24	a vymýšlí si vytváří obrázky tak aby je hodně aktivované
1:54:31	je možný že vy když velcí ne tak to funguje podobně
1:54:35	a
1:54:39	doporučuju tady ten ničemu kdy vy můžete se můžete si večer udělat párty
1:54:49	nepouštěj malým dětem spaní
1:54:54	a tady na to zas a pro kafe
1:54:58	existují a jako peníze si můžete si stáhl python skripty které využívají kafe
1:55:04	a dělal
1:55:06	dělají přesně to
1:55:12	běžte nějaký dochází čas takže
1:55:25	existuje nějaké datasety
1:55:29	pokud budete se má končíme si těma chtít začít
1:55:32	tak se podívejte na kafe to teda obrovský projekt moudrosti relativně velký projekt
1:55:38	a je na githubu
1:55:41	nejsem můžete podívat jsem včera tímto z netu a skoro čtyři tisíce forku
1:55:47	a za poslední týden tam je
1:55:51	se merge oval opět tu půl requestu
1:55:56	prostě žije existuje kam to velká komunita
1:56:01	a vtom kafe
1:56:02	doopravdy vy si můžete vytvořit
1:56:04	textový soubor kde dáte jména souboru na obrázku a jejich třídy
1:56:09	vytvořit
1:56:10	konfigurační soubor toho trénování můžete vytvořit soubor který definuje tu síť
1:56:16	a pustit říkáte kterej ne
1:56:19	moji síť
1:56:21	ale se bude trénovat najděte uč kluk
1:56:27	ano
1:56:29	levicové pane nějaký konfigurace
1:56:32	a tady se píše o takový
1:56:35	ty konfiguraci tady prostě takhle
1:56:38	tak konfigurace trénování vypadá takhle
1:56:41	a takhle se to dá používat slajd
1:56:43	no tohle celý to
1:56:45	kde byla načtete nějakou si
1:56:48	a pustíte ji na nějaký obrázek dostanete se
1:56:53	tak já vám děkuju tady tahle tu prezentaci někam tam
1:56:56	určitě
1:56:57	a zajímá zdroje nás něco zajímalo podívejte se na

Konvoluční neuronové sítě

Sobota 7.11.2015 - D105

Michal Hradiš (FIT VUT v Brně)