Unit 6 5 Expectation Maximization knowitvideos English Polish

Unit 6 5 Expectation MaximizationYouTube↗ IA↗(long shot)
Howto & Style 18.6K views 34 likes 25 dislikes 22 Oct 2011

knowitvideos 11.8K subscribers N/A YouTube↗

Click to Play Video

So, let's now generalize k-means into expectation maximization.

Uogólnijmy teraz k-średnie jako maksymalizację oczekiwań.

Expectation maximization is an algorithm that uses actual probability distributions

Maksymalizacja oczekiwań to algorytm, który używa aktualnych rozkładów prawdopodobieństwa

to describe what we're doing, and it's in many ways more general,

aby opisać, co robimy, i jest pod wieloma względami bardziej ogólny,

and it's also nice in that it really has a probabilistic basis.

jest też przyjemny pod tym względem, że ma podstawę w teorii prawdopodobeństwa.

To get there, I have to take the discourse and tell you all about Gaussians,

W tym celu muszę podjąć dyskurs i opowiedzieć wszystko o krzywej Gaussa

or the normal distribution, and the reason is so far,

albo o rozkładzie normalnym, a powód jest taki, że do tej pory

we've just encountered discrete distributions,

mieliśmy do czynienia z rozkładami dyskretnymi,

and Gaussians will be the first example of a continuous distribution.

zaś rozkład Gaussa będzie pierwszym przykładem rozkładu ciągłego.

Many of you know that a Gaussian is described by an identity that looks as follows,

Wielu z Was wie, że rozkład Gaussowski opisuje krzywą gęstości, która wygląda tak

where the mean is called mu, and the variance is called sigma or sigma squared.

gdzie możemy określić średnią, mi, oraz wariancję zwaną sigma albo sigma do kwadratu.

And for any X along the horizontal access, the density is given by the following function:

Dla dowolnego X-a na osi poziomej, gęstość można otrzymać przy użyciu następującej funkcji:

1 over square root of 2 pi times sigma, and then an exponential function

1 przez pierwiastek z 2 pi razy sigma, a dalej funkcja wykładnicza

of minus ½ of x - mu squared over sigma squared.

od minus ½ x minus mi do kwadratu przez sigma do kwadratu.

This function might look complex, but it's also very, very beautiful.

Funkcja ta może wydawać się złożona, jednak jest również przepiękna.

It peaks at X = mu where the value in the exponent becomes 0.

Osiąga szczyt dla x=mi, gdy wartością wykładnika staje się 0.

And towards plus or minus infinity, it goes to 0 quickly.

Zaś w kierunku plus albo minus nieskończoności szybko zmierza do zera.

In fact, exponentially fast.

Z szybkością wykładniczą.

The argument inside is a quadratic function.

Argumentem w środku jest trójmian kwadratowy.

The exponential function makes it exponential.

Funkcja wykładnicza sprawia, że jest wykładniczy

And this over here is a normalizer to make sure that the area underneath

A to tutaj stanowi czynnik normalizujący, który zapewnia, że pole obszaru

sums up to one, which is characteristic of any probability density function.

pod krzywą wynosi 1, co jest własnością każdego rozkładu gęstości prawdopodobieństwa.

If you map this back to our discrete random variables,

Jeżeli odniesiemy to do naszych dyskretnych zmiennych losowych,

for each possible X, we can now assign a density value,

każdemu x-owi możemy teraz przypisać wartość gęstości,

which is the function of this, and that's effectively

będącej funkcją tego, i jest to efektywne

the probability that this X might be drawn.

prawdopodobieństwo, że ten X może zostać wylosowany.

Now, the space itself is infinite, so any individual value will have a probability of 0,

Ponieważ przestrzeń wszystkich możliwości jest nieskończona, prawdopodobieństwo wylosowania którejkolwiek wartości wynosi 0

but what you can do is you can make an interval, A and B,

ale tym, co możemy zrobić, jest wyznaczenie jakiegoś obszaru od A do B

and the area underneath this function is the total probability

zaś pole powierzchni tego obszaru stanowi całkowite prawdopodobieństwo tego,

that an experiment will come up between A and B.

że wynik eksperymentu przyjmie wartość z przedziału <A, B>

Clearly, it's more likely to generate values around mu

Widać, że bardziej prawdopodobne jest otrzymanie wartości w okolicach mi,

then it is to generate values in the periphery summary over here.

niż otrzymanie wartości gdzieś tutaj na peryferiach.

And just for completeness, I'm going to give you the formula

Dla kompletności, podam również formułę opisującą to,

for what's called the multi-variate Gaussian

co nazywa się wielowymiarowym rozkładem normalnym,

where multi-variate means nothing else but we have more than one input variable.

gdzie "wielowymiarowy" oznacza tyle, że mamy więcej niż jedną zmienną wejściową.

You might have a Gaussian over a 2-dimensional space or a 3-dimensional space.

Możemy mieć rozkład Gaussa w przestrzeni 2-wymiarowej albo 3-wymiarowej.

Often, these Gaussians are drawn by what's called level sets,

Często rysuje się takie rozkłady, używając izolinii, czyli

sets of equal probability.

linii poziomów o jednakowym prawdopodobieństwie.

Here's one in a 2-dimensional space, X1 and X2.

Oto przykład w 2-wymiarowej przestrzeni X1 x X2

The Gaussian itself can be thought of as coming out of the paper towards me

Powierzchnię Gaussa można sobie wyobrazić jako nierówność papieru wybijającą w moją stronę

where the most likely or highest point of probability is the center over here.

przy czym niewątpliwie punktem o najwyższym prawdopodobieństwie jest ten środek tutaj.

And these rings measure areas of equal probability.

A te pierścienie wyznaczają obszary o równym prawdopodobieństwie

The formula for a multi-variate Gaussian looks as follows:

Wzór dla wielowymiarowego rozkładu Gaussa wygląda następująco:

N is the number of dimensions in the input space.

N jest liczbą wymiarów w przestrzeni wejściowej.

Sigma is a covariance matrix that generalizes the value over here.

Sigma jest kowariancją macierzy, która uogólnia tę wartość tutaj

And the inner product inside the exponential

zaś iloczyn skalarny w wykładniku jest obliczany

is now done using linear algebra where this is the difference between

przy pomocy algebry liniowej, gdzie to jest odległością pomiędzy

a probe point and the mean vector mu

zmienną wektorową X i wektorem średnich mi

transposed sigma to the minus 1 times X - mu.

transponowane razy sigma do -1 razy X - mi

You can find this formula in any textbook or web page

Ten wzór można znaleźć w każdym podręczniku i na każdej stronie internetowej

on Gaussians or multi-variate normal distributions.

dotyczącej rozkładów Gaussa albo wielowymiarowych rozkładów normalnych.

It looks cryptic at first, but the key thing to remember is

Z początku wygląda tajemniczo, ale kluczowe jest, żeby pamiętać,

it's just a generalization of the 1-dimensional case.

że jest to po prostu uogólnienie jednowymiarowego przypadku.

We have a quadratic area over here as manifested by the product

Mamy podniesienie do kwadratu tutaj, które wyraża się przez iloczyn

of this guy and this guy.

tego czynnika i tego czynnika.

We have a normalization by a variance or covariance

Mamy normalizację przez wariancję albo kowariancję

as shown by this number over here or the inverse matrix over here.

tak jak to pokazuje ta liczba tutaj, albo macierz odwrotna tutaj.

And then this entire thing is an exponential form in both cases,

Ten czynnik jest w obu przypadkach wykładnikiem

and the normalizer looks a little more different in the multi-variate case,

a czynnik normalizujący wygląda trochę inaczej w przypadku wielowymiarowym,

but all it does is make sure that the volume underneath adds up to 1

ale wszystko to sprawia, że obiętość pod powierzchnią sumuje się do 1

to make it a legitimate probability density function.

dzięki czemu funkcja jest poprawnym rozkładem prawdopodobieństwa.

For most of this explanation, I will stick with 1-dimensional Gaussians,

Przy większości dalszych wyjaśnień będę korzystał z jednowymiarowego rozkładu Gaussa,

so all you have to do is to worry about this formula over here,

więc musicie się tylko przejmować tą formułą tutaj,

but this is given just for completeness.

ale ta została podana dla pełności wywodu.

Similar videos:

[ENG SUB] 110811 Mnet Wide Super Junior Interview Part 2/3
yingxuan0806
65.3K views 363 likes 5 dislikes 18 Sep 2011100% match

Unit 11 09.mp4 Stationary Distribution.mp4

12.4K views 34 likes 2 dislikes 11 Nov 2011100% match

Shift Happens 6.0
ctumini
21.6K views 38 likes 8 dislikes 31 Jul 2012100% match

Unit 3 8c Question

12.1K views 0 likes 0 dislikes 08 Oct 2011100% match

CEOS Chatter
Fernando Garcia
1.3K views 2 likes 1 dislikes 14 Mar 2012100% match

Unit 2, Topic 4, Tree Search

43.7K views 29 likes 11 dislikes 05 Oct 2011100% match

Henry VIII - documentary BBC
Iris Houbaer
46.6K views 78 likes 7 dislikes 23 Apr 2014100% match

Hoe teken je een druppel water stap voor stap? Met Nederlandse ondertitels
Brocoliesoep
10.6K views 55 likes 3 dislikes 25 Mar 2014100% match

[ENG SUB] 110811 Mnet Wide Super Junior Interview Part 3/3
yingxuan0806
38.7K views 332 likes 1 dislikes 16 Oct 2011100% match

Mr. Peabody & Sherman
TheCaptionedInternet
43.6K views 74 likes 9 dislikes 03 Mar 2014100% match

Roald Dahl's Cinderella
Pilar Moure
21K views 110 likes 13 dislikes 30 May 2013100% match

Instrucciones para llorar, de Julio Cortázar
Inés Andrés
5.9K views 10 likes 0 dislikes 10 Jan 2012100% match

Gundarr (Ep 19): Gundarr's Origin (subtitulado al castellano)
daniborr
14.3K views 53 likes 3 dislikes 15 Aug 2012100% match

Unit 10 10 Passive Temporal Difference Learning.mp4

21.8K views 228 likes 8 dislikes 05 Nov 2011100% match

Unit 3 2b Question

18.4K views 1 likes 1 dislikes 08 Oct 2011100% match

Unit 3 9d Absolute vs Conditional Independence

13.5K views 4 likes 2 dislikes 08 Oct 2011100% match

America By The Numbers with Maria Hinojosa: Clarkston Georgia
Maria Hinojosa
28.6K views 102 likes 29 dislikes 24 Sep 2012100% match

Recomendación kuentalibros - pizarra digital y niños con discapacidad auditiva
anitamc20
933 views 1 likes 0 dislikes 21 Dec 2012100% match

Unit 11 26.mp4 Particle Filter Algorithm.mp4

15.9K views 61 likes 5 dislikes 11 Nov 2011100% match

حقوقية امريكية تفضح جون برينان و الامن يقوم باعتقالها
عين اليمن
13.8K views 120 likes 5 dislikes 08 May 2012100% match

(ENG/CHI SUB) 140216 SM True Thailand Facebook EXO
Baby Xiumin
783 views 10 likes 0 dislikes 16 Feb 2014100% match

Unit 2, Topic 11, Graph Search Termination

13.3K views 11 likes 1 dislikes 05 Oct 2011100% match

Unit 6 8 Supervised vs Unsupervised Learning

20.7K views 42 likes 4 dislikes 22 Oct 2011100% match

Unit 2, Topic 19, Search Optimality Answer

14.5K views 14 likes 4 dislikes 05 Oct 2011100% match

TED & TEDx explained
Kyo young Chu
1.1K views 7 likes 0 dislikes 02 Apr 2012100% match

Unit 11 02.mp4 Hidden Markov Models.mp4

13.2K views 19 likes 1 dislikes 11 Nov 2011100% match

Papa,please, get the moon for me
Ana María
15K views 24 likes 0 dislikes 23 Nov 2014100% match

Unit 1w, 4 Terminology

75.1K views 114 likes 4 dislikes 05 Oct 201150% match

Unit 3 1 Introduction

36.6K views 95 likes 6 dislikes 08 Oct 201150% match

Unit 0w, 1 Introduction

175.6K views 487 likes 8 dislikes 05 Oct 201150% match

Settings Privacy About Contact Donate