Thứ Tư, 30 tháng 6, 2010

Guassian function

Hàm Guassian có dạng tổng quát như sau:
\[g(x, \sigma) = a e^{\frac{-(x-\mu)^2}{2\sigma}} (1)\]
do đó phân bố Gaussian sẽ có dạng hình chuông (bell). Trong công thức (1):
a : sẽ là độ cao của đỉnh phân bố
$\mu$ : là mean của phân bố, cho biết vị trí tâm của phân bố
$\sigma$: là độ lệch chuẩn (standard deviation) cho biết mức độ "bầu" của hàm chuông,
$\sigma^2$: là phương sai (variance)

I. Các tính chất của hàm Gaussian:
1. Vói $a=\frac{1}{\sqrt{2\pi\sigma}}$ thì $g(x,\sigma)$ sẽ là hàm phân bố mật độ xác suất (probability dense function) nghĩa là $\int g(x,\sigma)dx = 1$
Chứng minh:
Ta có: \[\int e^{-x^2}dx = \sqrt \pi\]
Do đó: \[\int a e^{\frac{-(x-\mu)^2}{2\sigma^2}}dx\]
Đặt $u = \frac{x-\mu}{\sqrt 2\sigma}$
\[du = \frac{dx}{\sqrt 2 \sigma}\]
Suy ra:
\[\int a e^{\frac{-(x-\mu)^2}{2\sigma^2}}dx = \int \sqrt{2}\sigma a e^{-u^2}du=\sqrt{2 \pi}\sigma a\]
Khi $a=\frac{1}{\sqrt{2\pi\sigma}}$ thì $\int a e^{\frac{-(x-\mu)^2}{2\sigma^2}}dx =1$

2. Gọi F là phép biến đổi Fourier thì khi $\mu=0$ cũng là một hàm Gaussian
\[F(g(x, \sigma))=a \sigma e^{\frac{-x^2}{2\frac{1}{\sigma ^2}}}\]
nghĩa là : $ a_f=a \sigma $ ; $ b_f =0 $ và $ {\sigma}_f = \frac{1}{\sigma} $

3. Tích hai hàm gaussian cũng là một hàm gaussian
Cho hai hàm gaussian:
\[g_1(x, \sigma _1) = a_1 e^{\frac{-(x-\mu _1)^2}{2{\sigma _1}^2}}\]
\[g_2(x, \sigma _2) = a_2 e^{\frac{-(x-\mu _2)^2}{2{\sigma _2}^2}}\]
Ta có:

\[\begin{align*}
g_1(x, \sigma _1) g_2(x, \sigma _2) & = a _1 a _2 e^{-\frac{{\sigma _2}^2(x-\mu _1)^2+{\sigma _1}^2(x-\mu _2)^2}{2{\sigma _1}^2{\sigma _2}^2}}\\
& = a _1 a _2 e^{A} e^{-\frac{(x-\frac{{\sigma _1}^2\mu_2+{\sigma _2}^2\mu_1}{{\sigma _1}^2+{\sigma _2}^2})^2}{2\frac{{\sigma _1}^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}}\\
\end{align*}
\]
với $A = {\frac{{\sigma _1}^2\mu _2 + {\sigma _2}^2\mu _1}{{\sigma _1}^2+{\sigma _2}^2}}^2 - {sigma _1}^2{\mu _1}^2- {sigma _2}^2{\mu _2}^2$

Do đó tích của hai hàm gaussian là một hàm gaussian với:
\[\mu = \frac{{\sigma _1}^2\mu_2+{\sigma _2}^2\mu_1}{{\sigma _1}^2+{\sigma _2}^2}\]
\[\sigma = \sqrt{\frac{{\sigma _1}^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}\]

4. Tích chập của hai hàm gaussian là hàm gaussian

Chứng minh:
Cách 1: Tính tích chập bình thường

Cho hai hàm gaussian :
\[g_1(x, \sigma _1) = a_1 e^{\frac{-(x-\mu _1)^2}{2{\sigma _1}^2}}\]
\[g_2(y, \sigma _2) = a_2 e^{\frac{-(y-\mu _2)^2}{2{\sigma _2}^2}}\]

Tích chập (convolution) của $g _1$ và $g _2$ được cho bởi:
\[
\begin{align*}
g _1 \star g _2 & = a _1 a _2 \int e^{-\frac{(x - \mu _1)^2}{2 \sigma _1 ^2}} e^{-\frac{(y - x - \mu _2)^2}{2 \sigma _2 ^2}} dx \\
& = a _1 a _2 \int e^{-({\frac{(x - \mu _1)^2}{2 \sigma _1 ^2}+\frac{(y - x - \mu _2)^2}{2 \sigma _2 ^2} })} dx \\
\end{align*}

\]
Ta có
\[
\frac{(x - \mu _1)^2}{2 \sigma _1 ^2}+\frac{(y - x - \mu _2)^2}{2 \sigma _2 ^2} = \frac{(\sigma _1^2 +\sigma _2^2)x^2 + 2(-\mu _1{\sigma _2}^2 + \mu _2{\sigma _1}^2-y{\sigma _1}^2)x+{\sigma _2\mu _1}^2+{\sigma _1}^2(\mu _2 - y)^2}{2{\sigma _1}^2{\sigma _2}^2}
\]

Đặt \[B = -\frac{
\frac{{\sigma _2}^2{\mu _1}^2+{\sigma _1}^2(\mu _2-y)^2}
{{\sigma _1}^2+{\sigma _2}^2}-\frac{(\mu _2{\sigma _1}^2-y{\sigma _1}^2-\mu _1{\sigma _2}^2)^2}{({\sigma _1}^2+{\sigma _2}^2)^2}
}
{2\frac{{\sigma _1}^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}\]


Khai triển rồi thu gọn B ta được:

\[

B=-\frac{(y - \mu _1 -\mu _2)^2}{2({\sigma _1}^2+{\sigma _2}^2)}

\]
do đó:
\[
g _1 \star g _2 = a _1 a _2 e ^{-\frac{(y - \mu _1 -\mu _2)^2}{2({\sigma _1}^2+{\sigma _2}^2)}} \int e^{-\frac{

(x+\frac{\mu _2{\sigma _1}^2-y{\sigma _1}^2 - \mu _2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2})^2

}{

2\frac{{\sigma _1 }^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}

}}dx
\]

đặt
\[
u = \frac{x+\frac{\mu _2{\sigma _1}^2-y{\sigma _1}^2 - \mu _2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}
{\sqrt{2\frac{{\sigma _1 }^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}}
\]
\[
du= \frac{dx}{\sqrt{2\frac{{\sigma _1 }^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}}
\]
suy ra:
\[
g _1 \star g _2 = a _1 a _2 e ^{-\frac{(y - \mu _1 -\mu _2)^2}{2({\sigma _1}^2+{\sigma _2}^2)}} \sqrt{2\frac{{\sigma _1 }^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}\int e^{-u^2}du
\]
do $ \int e^{-u^2}du = \sqrt{\pi} $ nên
\[
g _1 \star g _2 = a _1 a _2 e ^{-\frac{(y - \mu _1 -\mu _2)^2}{2({\sigma _1}^2+{\sigma _2}^2)}} \sqrt{2\pi\frac{{\sigma _1 }^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}
\]
Vậy:$(a_1 e^{\frac{-(x-\mu _1)^2}{2{\sigma _1}^2}}) \star (a_2 e^{\frac{-(y-\mu _2)^2}{2{\sigma _2}^2}}) = a e^{\frac{-(y-\mu)^2}{2{\sigma }^2}}$ với:
\[\mu = \mu _1+\mu _2\]
\[\sigma = \sqrt{{\sigma _1}^2+{\sigma _2}^2}\]
\[a=a _1 a _2 \sqrt{2\pi\frac{{\sigma _1 }^2{\sigma _2}^2}{{\sigma _1}^2+{\sigma _2}^2}}\]

Cách 2: Chuyển sang miền tần số
\[g_1(x, \sigma _1) = a_1 e^{\frac{-(x-\mu _1)^2}{2{\sigma _1}^2}}\]
\[g_2(y, \sigma _2) = a_2 e^{\frac{-(y-\mu _2)^2}{2{\sigma _2}^2}}\]
Công thức biến đổi Fourier thuận và nghịch của hàm f(x) bất kì
\[F(x) = \int f(x) e ^{-2\pi \i kx}dx\]
\[F^{-1}(F(x)) = \int F(x) e ^{2\pi \i xk}dk\]
Với hàm Guassian g _1 bất kì:
\[
F(g _1(x, \mu _1) & = \int a _1 e^{-\frac{(x - \mu _1)^2}{2{\sigma _1}^2}}e^{-2\pi \i kx}dx\\
\]

Đặt$ y = x - \mu _1$
Với hàm Guassian g _1 bất kì:
\[
F(g _1(y, \mu _1)) & = \int a _1 e^{-\frac{y^2}{2{\sigma _1}^2}}e^{-2\pi \i k(y-\mu _1)}dy\\
\]
Euler formula:
\[e^{-\i \pi} = \cos x - \i \sin x \]
\[
\begin{align*}
\Rightarrow F(g _1(y, \mu _1) ) & = a _1 e^{2\pi \i \mu _1 k} \int e^{-\frac{y^2}{2{\sigma _1}^2}}e^{-2\pi \i ky}dy\\
& = a _1 e^{2\pi \i \mu _1 k} \int e^{-\frac{y^2}{2{\sigma _1}^2}}e^{-\i (2\pi ky)}dy\\
& = a _1 e^{2\pi \i \mu _1 k} \int e^{-\frac{y^2}{2{\sigma _1}^2}}(\cos(2\pi ky) -\i sin(2\pi ky))dy\\
\end{align*}
\]
due to:
* $sin x$ is odd function so $\int e^{-\frac{y^2}{2{\sigma _1} ^2}}\i \sin(2\pi ky)dy = 0$
* $cos x$ is even function so $\int e^{-\frac{y^2}{2{\sigma _1}^2}} \cos(2\pi ky)dy = \int_0^{\infty} e^{-\frac{y^2}{2{\sigma _1} ^2}}\cos(2\pi ky)dy$
* Use matlab, we have $\int_0^{\infty} {e^{-cy^2}\cos (2by)} = \frac{1}{2}\sqrt{\frac{\pi}{c}}e^{-\frac{b^2}{c}}$
with $c = \frac{1}{2{\sigma}^2}$ and $b = \pi k$
\[
\int_0^{\infty} e^{-\frac{y^2}{2{\sigma _1} ^2}}\cos(2\pi ky)dy = \frac{1}{2}\sqrt{2\pi{\sigma}^2}e^{-{2{\sigma}^2{\pi}^2k^2}}
\]

Suy ra:
\[
\begin{align*}
\Rightarrow F _1 = F(g _1(y, \mu _1) ) & = a _1 e^{2\pi \i \mu _1 k}\sqrt{2\pi{\sigma _1}^2}e^{-{2{\sigma _1}^2{\pi}^2k^2}}\\
&= \sqrt{2\pi} a _1\sigma _1 e^{2\pi \i \mu _1 k}e^{-{2{\sigma _1}^2{\pi}^2k^2}}
\end{align*}
\]
Tương tư:
\[
F _2 = F(g _2(y, \mu _2) ) = \sqrt{2\pi} a _1\sigma _2 e^{2\pi \i \mu _2 k}e^{-{2{\sigma _2}^2{\pi}^2k^2}}
\]

\[
F _1 \times F _2 = 2\pi\sigma _1 \sigma _2 a _1 a _2 e^{2\pi \i k(\mu _1+\mu _2)}e^{-{2{\pi}^2k^2({\sigma _1}^2+{\sigma _2}^2)}}
\]
Đặt $\mu = \mu _1 + \mu _2$ ; $\sigma ^2 = {\sigma _1}^2+{\sigma _2}^2$ và $a = \frac{2\pi\sigma _1 \sigma _2 a _1 a _2}{\sqrt{2\pi}\sigma}$

\[
\Rightarrow F _1 \times F _2 = \sqrt{2\pi}\sigma a e^{2\pi \i k\mu}e^{-{2{\pi}^2k^2{\sigma}^2}}
\]


Do đó tích chập của $g _1 $ và $g _2$ sẽ là hàm Gaussian $g(x, \mu) = a e^{-\frac{(x - \mu)^2}{2{\sigma}^2}}$


II. Hàm Gaussian trong không gian hai chiều
Trong không gian hai chiều hàm Gaussian có dạng cho bởi công thức sau:
\[
f(x, y) = Ae^{-{/frac{(x-x _0)^2}{2{sigma _x}^2}+/frac{(y-y _0)^2}{2{sigma _y}^2}}}
\]
Trong đó $sigma _x$ và $sigma _y$ lần lượt cho biết bộ rộng theo chiều x và y. Khi hai giá trị này bằng nhau Gaussian có dạng hình tròn, ngược lại có dạng ellipse.
Công thức tổng quát hơn cho bởi
\[
f(x, y) = Ae^{a(x - x _0)^2 + b(x - x _0) (y - y _0) +c(y - y _0)^2}
\]
trong trường hợp
\[
a = \frac{{\cos}^2 \theta}{2{\sigma _x}^2}+\frac{{\sin}^2 \theta}{2{\sigma _y}^2}
\]
\[
b= -\frac{\sin{2\theta}}{4{\sigma _x}^2}+\frac{\sin{2\theta}}{4{\sigma _y}^2}
\]
\[
c= \frac{{\sin}^2\theta}{2{\sigma _x}^2}+\frac{{\cos}^2\theta}{2{\sigma _y}^2}
\]
thì $\theta$ là góc quay hàm Gaussian theo chiều kim đồng hồ

III. Rời rạc hóa hàm Gaussian
- Có hai cách là sampled Gaussian kernel và discrete Gaussian kernel, trong đó cách thứ 2 tốt hơn. Cách 1 có thẻ dẫn tới kết quả không tốt cho scale space implementation

IV. Ứng dụng hàm Gaussian:
Trong kĩ thuật, khoa học tự nhiên, khoa học xã hội, toán như:
- Hàm gaussian trong lý thuyết xác suất và thống kê
- Quỹ đạo của phân tử trong hóa học là sự kết hợp tuyến tính của các hàm Gaussian
- Đạo hàm của Gaussian có thể biểu diễn hàm Hermite
- Đạo hàm Gaussian dùng làm các bộ lọc trong xử lý ảnh
- Gaussian là hàm cơ bản làm smooth trong lý thuyết scale space
- Gaussian dùng định nghĩa một số hàm artificial neural network

Tài liệu tham khảo:
[1] Wikipedia
[2] P.A Bromiley - Internal Report

Không có nhận xét nào:

Đăng nhận xét