概述
UA MATH564 概率论 多元随机变量的变换 理论与应用1
- 定义法
- Jacobi行列式法
假设 X 1 , ⋯ , X n X_1,cdots,X_n X1,⋯,Xn是 n n n个一元随机变量,存在一个 C 1 ( R n ; R m ) , m ≤ n C^1(mathbb{R}^n;mathbb{R}^m),mle n C1(Rn;Rm),m≤n的映射 g g g使得 ( Y 1 , ⋯ , Y m ) = g ( X 1 , ⋯ , X n ) (Y_1,cdots,Y_m) = g(X_1,cdots,X_n) (Y1,⋯,Ym)=g(X1,⋯,Xn),则称 ( Y 1 , ⋯ , Y m ) (Y_1,cdots,Y_m) (Y1,⋯,Ym)是 ( X 1 , ⋯ , X n ) (X_1,cdots,X_n) (X1,⋯,Xn)的函数。
已知 g g g的形式,已知 ( X 1 , ⋯ , X n ) (X_1,cdots,X_n) (X1,⋯,Xn)的分布,我们最想了解的是怎么确定 ( Y 1 , ⋯ , Y m ) (Y_1,cdots,Y_m) (Y1,⋯,Ym)的分布,这就是多元随机变量的变换试图回答的问题。当 m = 1 , n = 1 , 2 m=1,n=1,2 m=1,n=1,2时,可以直接根据定义计算,这时的积分比较容易。但 m > 1 , n ≥ 3 m>1,n ge 3 m>1,n≥3时就不太容易直接根据定义计算了,这时比较常用的有两种方法:Jacobi矩阵法和矩母函数法,下面分别介绍这两种方法。需要注意的是随机变量的变换在实际应用中就不是个问题,已知X的分布和变换 g g g,非常容易就能生成 Y Y Y的随机数;所以实际应用中反而更关心的是知道 X , Y X,Y X,Y的分布,但 X X X的分布非常简单,而 Y Y Y的分布形式过于复杂,有没有可能通过某个变换 g g g通过生成 X X X的随机数来获得 Y Y Y的随机数。
定义法
这部分介绍两个可以直接根据定义计算的例子。
例1
X
∼
μ
+
Γ
(
1
,
1
/
σ
)
X sim mu + Gamma(1,1/sigma)
X∼μ+Γ(1,1/σ),求
e
−
X
/
σ
e^{-X/sigma}
e−X/σ的分布。
X
X
X服从的是做了位置变换的指数分布,它是尺度参数族,尺度参数为
1
/
σ
1/sigma
1/σ,因此
X
/
σ
X/sigma
X/σ服从
μ
+
Γ
(
1
,
1
)
mu+Gamma(1,1)
μ+Γ(1,1),记
Y
=
X
/
σ
Y=X/sigma
Y=X/σ,则
f
Y
(
y
)
=
e
−
(
x
−
μ
)
,
x
>
μ
f_Y(y) = e^{-(x-mu)},x>mu
fY(y)=e−(x−μ),x>μ
记
Z
=
e
−
Y
Z = e^{-Y}
Z=e−Y,则
F
Z
(
z
)
=
P
(
Z
≤
z
)
=
P
(
e
−
Y
≤
z
)
=
P
(
Y
>
−
log
z
)
=
1
−
F
Y
(
−
log
z
)
f
Z
(
z
)
=
F
Z
′
(
z
)
=
1
z
e
−
(
−
log
z
−
μ
)
=
e
μ
F_Z(z) = P(Z le z) = P(e^{-Y} le z) = P(Y>-log z) = 1 - F_Y(-log z) \ f_Z(z) = F'_Z(z) = frac{1}{z} e^{-(-log z - mu)} = e^{mu}
FZ(z)=P(Z≤z)=P(e−Y≤z)=P(Y>−logz)=1−FY(−logz)fZ(z)=FZ′(z)=z1e−(−logz−μ)=eμ
所以 Z ∼ U ( 0 , e − μ ) Z sim U(0,e^{-mu}) Z∼U(0,e−μ)。
例2
X
1
,
X
2
∼
i
i
d
N
(
0
,
1
)
X_1,X_2 sim_{iid} N(0,1)
X1,X2∼iidN(0,1),求
Y
=
X
1
/
∣
X
2
∣
Y=X_1/|X_2|
Y=X1/∣X2∣的分布。
F
Y
(
y
)
=
P
(
Y
≤
y
)
=
P
(
X
1
/
∣
X
2
∣
≤
y
)
=
P
(
X
1
≤
y
∣
X
2
∣
)
=
∫
0
∞
f
∣
X
2
∣
(
x
2
)
d
x
2
∫
−
∞
y
x
2
f
X
1
(
z
)
d
z
f
Y
(
y
)
=
F
Y
′
(
y
)
=
∫
0
∞
x
2
f
∣
X
2
∣
(
x
2
)
f
X
1
(
y
x
2
)
d
x
2
F_Y(y) = P(Y le y) = P(X_1/|X_2| le y) = P(X_1 le y|X_2|) \ = int_{0}^{infty} f_{|X_2|}(x_2)dx_2 int_{-infty}^{yx_2}f_{X_1}(z)dz \ f_{Y}(y) = F_Y'(y) = int_{0}^{infty} x_2f_{|X_2|}(x_2)f_{X_1}(yx_2)dx_2
FY(y)=P(Y≤y)=P(X1/∣X2∣≤y)=P(X1≤y∣X2∣)=∫0∞f∣X2∣(x2)dx2∫−∞yx2fX1(z)dzfY(y)=FY′(y)=∫0∞x2f∣X2∣(x2)fX1(yx2)dx2
其中
f
∣
X
2
∣
(
x
2
)
f
X
1
(
y
x
2
)
=
2
2
π
e
−
x
2
2
2
1
2
π
e
−
y
2
x
2
2
2
=
1
π
e
−
(
y
2
+
1
)
x
2
2
2
f_{|X_2|}(x_2)f_{X_1}(yx_2) = frac{2}{sqrt{2pi}}e^{-frac{x_2^2}{2}} frac{1}{sqrt{2pi}}e^{-frac{y^2x_2^2}{2}} = frac{1}{pi}e^{-frac{(y^2+1)x_2^2}{2}}
f∣X2∣(x2)fX1(yx2)=2π2e−2x222π1e−2y2x22=π1e−2(y2+1)x22
下面计算积分
∫
0
∞
x
2
e
−
(
y
2
+
1
)
x
2
2
2
d
x
2
=
−
1
y
2
+
1
∫
0
∞
e
−
(
y
2
+
1
)
x
2
2
2
d
(
−
(
y
2
+
1
)
x
2
2
2
)
=
−
1
y
2
+
1
e
−
(
y
2
+
1
)
x
2
2
2
∣
0
∞
=
1
y
2
+
1
int_{0}^{infty} x_2e^{-frac{(y^2+1)x_2^2}{2}}dx_2 = -frac{1}{y^2+1}int_{0}^{infty} e^{-frac{(y^2+1)x_2^2}{2}}dleft(-frac{(y^2+1)x_2^2}{2} right) \ = -frac{1}{y^2+1} e^{-frac{(y^2+1)x_2^2}{2}}|_0^{infty} = frac{1}{y^2+1}
∫0∞x2e−2(y2+1)x22dx2=−y2+11∫0∞e−2(y2+1)x22d(−2(y2+1)x22)=−y2+11e−2(y2+1)x22∣0∞=y2+11
所以
f
Y
(
y
)
=
1
π
(
1
+
y
2
)
,
y
∈
R
f_Y(y) = frac{1}{pi(1+y^2)},y in mathbb{R}
fY(y)=π(1+y2)1,y∈R
这是标准Cauchy分布。
Jacobi行列式法
当
m
=
n
m=n
m=n时考虑Jacobi行列式法。假设
X
X
X为分布函数为
F
X
F_X
FX的多元随机变量,
X
∈
D
X
X in mathbb{D}_X
X∈DX,随机变量
Y
=
g
(
X
)
Y=g(X)
Y=g(X),
Y
∈
D
Y
Y in mathbb{D}_Y
Y∈DY,
g
g
g为有界连续函数,且Jacobi行列式
J
g
≠
0
Jg ne 0
Jg=0,定义
h
=
g
−
1
h=g^{-1}
h=g−1,根据
F
X
F_X
FX的归一化条件
∫
D
X
f
X
(
x
)
d
x
=
1
int_{mathbb{D}_X} f_X(x) dx = 1
∫DXfX(x)dx=1
根据积分换元公式,等式左边等于
∫
D
Y
f
X
(
h
(
y
)
)
∣
d
x
d
y
∣
d
y
=
∫
D
Y
f
X
(
h
(
y
)
)
∣
J
h
(
y
)
∣
d
y
=
1
=
∫
D
Y
f
Y
(
y
)
d
y
int_{mathbb{D}_Y} f_X(h(y)) |frac{dx}{dy}|dy = int_{mathbb{D}_Y} f_X(h(y)) |Jh(y)|dy =1= int_{mathbb{D}_Y} f_Y(y) dy
∫DYfX(h(y))∣dydx∣dy=∫DYfX(h(y))∣Jh(y)∣dy=1=∫DYfY(y)dy
因此
f
Y
(
y
)
=
f
X
(
h
(
y
)
)
∣
J
h
(
y
)
∣
f_Y(y) = f_X(h(y)) |Jh(y)|
fY(y)=fX(h(y))∣Jh(y)∣
例3
X
∼
Γ
(
1
,
a
)
,
Y
∼
Γ
(
1
,
b
)
X sim Gamma(1,a),Y sim Gamma(1,b)
X∼Γ(1,a),Y∼Γ(1,b),
X
X
X与
Y
Y
Y独立,判断
X
+
Y
X+Y
X+Y与
X
/
Y
X/Y
X/Y是否互相独立。
记
U
=
X
+
Y
,
V
=
X
/
Y
U=X+Y,V=X/Y
U=X+Y,V=X/Y,则
X
=
U
V
V
+
1
,
Y
=
U
V
+
1
X = frac{UV}{V+1},Y=frac{U}{V+1}
X=V+1UV,Y=V+1U,
∂
(
X
,
Y
)
∂
(
U
,
V
)
=
∣
V
V
+
1
1
V
+
1
U
(
V
+
1
)
2
−
U
(
V
+
1
)
2
∣
=
−
U
(
V
+
1
)
2
frac{partial (X,Y)}{partial (U,V)} = left| begin{matrix} frac{V}{V+1} & frac{1}{V+1} \ frac{U}{(V+1)^2} & -frac{U}{(V+1)^2}end{matrix} right| = -frac{U}{(V+1)^2}
∂(U,V)∂(X,Y)=∣∣∣∣∣V+1V(V+1)2UV+11−(V+1)2U∣∣∣∣∣=−(V+1)2U
X
,
Y
X,Y
X,Y的联合概率密度为
f
X
,
Y
(
x
,
y
)
=
a
b
e
−
(
a
x
+
b
y
)
,
x
,
y
>
0
f_{X,Y}(x,y) = abe^{-(ax+by)},x,y>0
fX,Y(x,y)=abe−(ax+by),x,y>0
则
U
,
V
U,V
U,V的联合概率密度为
f
U
,
V
(
u
,
v
)
=
a
b
u
(
v
+
1
)
2
exp
(
−
a
u
v
+
b
u
v
+
1
)
,
u
v
u
+
v
>
0
,
u
v
+
1
>
0
f_{U,V}(u,v) = abfrac{u}{(v+1)^2}exp left( -frac{auv+bu}{v+1} right),frac{uv}{u+v}>0,frac{u}{v+1}>0
fU,V(u,v)=ab(v+1)2uexp(−v+1auv+bu),u+vuv>0,v+1u>0
显然这个概率密度对于 u , v u,v u,v是可分的,根据下面的引理1, X + Y X+Y X+Y与 X / Y X/Y X/Y是否互相独立。
判断变换后的随机变量是否独立貌似是一个重要的问题,我们可以尝试从这两个例子中归纳一些可用的性质。
引理1
X
,
Y
X,Y
X,Y的联合概率密度是
f
(
x
,
y
)
f(x,y)
f(x,y),如果
∃
g
(
x
)
,
h
(
y
)
exists g(x),h(y)
∃g(x),h(y)使得
f
(
x
,
y
)
=
g
(
x
)
h
(
y
)
f(x,y)=g(x)h(y)
f(x,y)=g(x)h(y),则称
f
(
x
,
y
)
f(x,y)
f(x,y)关于
x
,
y
x,y
x,y是可分的,并且此时
X
,
Y
X,Y
X,Y互相独立,
g
(
x
)
,
h
(
y
)
g(x),h(y)
g(x),h(y)与他们的边缘密度只差一个常数。
证明
f
X
(
x
)
=
∫
−
∞
∞
f
(
x
,
y
)
d
y
=
∫
−
∞
∞
g
(
x
)
h
(
y
)
d
y
=
g
(
x
)
∫
−
∞
∞
h
(
y
)
d
y
f
Y
(
y
)
=
∫
−
∞
∞
f
(
x
,
y
)
d
x
=
∫
−
∞
∞
g
(
x
)
h
(
y
)
d
x
=
h
(
y
)
∫
−
∞
∞
g
(
x
)
d
x
f_X(x) = int_{-infty}^{infty} f(x,y)dy = int_{-infty}^{infty} g(x)h(y)dy = g(x)int_{-infty}^{infty} h(y)dy \ f_Y(y) = int_{-infty}^{infty} f(x,y)dx = int_{-infty}^{infty} g(x)h(y)dx = h(y)int_{-infty}^{infty} g(x)dx
fX(x)=∫−∞∞f(x,y)dy=∫−∞∞g(x)h(y)dy=g(x)∫−∞∞h(y)dyfY(y)=∫−∞∞f(x,y)dx=∫−∞∞g(x)h(y)dx=h(y)∫−∞∞g(x)dx
从这两个计算可以看出,
f
X
(
x
)
f_X(x)
fX(x)与
g
(
x
)
g(x)
g(x),
f
Y
(
y
)
f_{Y}(y)
fY(y)与
h
(
y
)
h(y)
h(y)的确是只差一个常数的。根据归一性,
∫
−
∞
∞
∫
−
∞
∞
f
(
x
,
y
)
d
x
d
y
=
1
=
∫
−
∞
∞
∫
−
∞
∞
g
(
x
)
h
(
y
)
d
x
d
y
=
∫
−
∞
∞
h
(
y
)
d
y
∫
−
∞
∞
g
(
x
)
d
x
int_{-infty}^{infty}int_{-infty}^{infty} f(x,y)dxdy = 1 =int_{-infty}^{infty}int_{-infty}^{infty} g(x)h(y)dxdy = int_{-infty}^{infty} h(y)dyint_{-infty}^{infty} g(x)dx
∫−∞∞∫−∞∞f(x,y)dxdy=1=∫−∞∞∫−∞∞g(x)h(y)dxdy=∫−∞∞h(y)dy∫−∞∞g(x)dx
因此
f
X
(
x
)
f
Y
(
y
)
=
g
(
x
)
h
(
y
)
∫
−
∞
∞
h
(
y
)
d
y
∫
−
∞
∞
g
(
x
)
d
x
=
f
(
x
,
y
)
f_X(x)f_Y(y) = g(x)h(y)int_{-infty}^{infty} h(y)dyint_{-infty}^{infty} g(x)dx = f(x,y)
fX(x)fY(y)=g(x)h(y)∫−∞∞h(y)dy∫−∞∞g(x)dx=f(x,y)
所以
X
,
Y
X,Y
X,Y互相独立。
证毕
引理1可以直接推广到
n
n
n个随机变量的情况,并且是一个充要条件(上面证明了充分性,必要性非根据独立的定义可以直接得到)。基于引理1,我们讨论多元随机变量的函数互相独立的条件。假设
(
X
1
,
⋯
,
X
n
)
(X_1,cdots,X_n)
(X1,⋯,Xn)互相独立,Jacobi行列式方法给出了
Y
=
(
Y
1
,
⋯
,
Y
n
)
=
g
(
X
)
Y=(Y_1,cdots,Y_n)=g(X)
Y=(Y1,⋯,Yn)=g(X)的密度:
f
Y
(
y
)
=
f
X
(
h
(
y
)
)
∣
J
h
(
y
)
∣
f_Y(y) = f_X(h(y)) |Jh(y)|
fY(y)=fX(h(y))∣Jh(y)∣
我们来不严谨地分析一下
Y
1
,
⋯
,
Y
n
Y_1,cdots,Y_n
Y1,⋯,Yn独立的条件。要让
f
Y
(
y
)
f_Y(y)
fY(y)可分,需要
f
X
(
h
(
y
)
)
f_X(h(y))
fX(h(y))与
∣
J
h
(
y
)
∣
|Jh(y)|
∣Jh(y)∣均可分。
(
X
1
,
⋯
,
X
n
)
(X_1,cdots,X_n)
(X1,⋯,Xn)互相独立说明
f
X
(
x
)
f_X(x)
fX(x)对于
x
x
x的分量是可分的,因此
f
X
(
h
(
y
)
)
f_X(h(y))
fX(h(y))可分需要
h
(
y
)
h(y)
h(y)对
y
y
y的分量可分。如果
h
(
y
)
h(y)
h(y)对
y
y
y的分量可分,很自然的可以猜测它的Jacobi矩阵也对
y
y
y的分量可分。用
n
=
2
n=2
n=2的情况验证一下:假设
h
=
(
h
1
,
h
2
)
T
h = (h_1,h_2)^T
h=(h1,h2)T,
h
(
y
)
h(y)
h(y)对
y
y
y的分量可分说明
h
1
(
y
1
,
y
2
)
=
g
1
(
y
1
)
k
1
(
y
2
)
h_1(y_1,y_2) = g_1(y_1)k_1(y_2)
h1(y1,y2)=g1(y1)k1(y2),
h
2
(
y
1
,
y
2
)
=
g
2
(
y
1
)
k
2
(
y
2
)
h_2(y_1,y_2) = g_2(y_1)k_2(y_2)
h2(y1,y2)=g2(y1)k2(y2)
∣
J
h
(
y
)
∣
=
a
b
s
∣
g
1
′
k
1
g
2
′
k
2
g
1
k
1
′
g
2
k
2
′
∣
=
∣
g
1
′
g
2
k
1
k
2
′
−
g
1
g
2
′
k
1
′
k
2
∣
|Jh(y)| = absleft| begin{matrix} g_1'k_1 & g_2'k_2 \ g_1k_1' & g_2k_2'end{matrix} right| =|g_1'g_2k_1k_2'-g_1g_2'k_1'k_2|
∣Jh(y)∣=abs∣∣∣∣g1′k1g1k1′g2′k2g2k2′∣∣∣∣=∣g1′g2k1k2′−g1g2′k1′k2∣
显然右边这项不一定对 y 1 , y 2 y_1,y_2 y1,y2可分。这说明对一组独立随机变量做变换之后的随机变量是否独立的确是很复杂的问题!
例4
X
1
,
X
2
∼
i
i
d
β
(
n
,
1
)
X_1,X_2sim_{iid} beta(n,1)
X1,X2∼iidβ(n,1),判断
X
(
1
)
/
X
(
2
)
X_{(1)}/X_{(2)}
X(1)/X(2)与
X
(
2
)
X_{(2)}
X(2)是否独立。
先写出
β
(
n
,
1
)
beta(n,1)
β(n,1)的概率密度,
f
(
x
)
=
Γ
(
n
+
1
)
Γ
(
n
)
Γ
(
1
)
x
n
−
1
=
n
x
n
−
1
,
x
∈
(
0
,
1
)
f(x) = frac{Gamma(n+1)}{Gamma(n)Gamma(1)}x^{n-1} = nx^{n-1},x in (0,1)
f(x)=Γ(n)Γ(1)Γ(n+1)xn−1=nxn−1,x∈(0,1)
所以
X
1
,
X
2
X_1,X_2
X1,X2的联合概率密度为
f
X
1
,
X
2
(
s
,
t
)
=
n
2
(
s
t
)
n
−
1
,
s
,
t
∈
(
0
,
1
)
f_{X_1,X_2}(s,t) = n^2(st)^{n-1},s,t in (0,1)
fX1,X2(s,t)=n2(st)n−1,s,t∈(0,1)
记
U
=
X
(
1
)
,
V
=
X
(
2
)
U = X_{(1)},V=X_{(2)}
U=X(1),V=X(2),则
U
,
V
U,V
U,V的联合概率密度与
X
1
,
X
2
X_1,X_2
X1,X2相同,记
Y
=
U
/
V
,
Z
=
V
Y = U/V,Z= V
Y=U/V,Z=V,则
U
=
Y
Z
,
V
=
Z
U = YZ,V = Z
U=YZ,V=Z,
∂
(
U
,
V
)
∂
(
Y
,
Z
)
=
∣
Z
0
Y
1
∣
=
Z
frac{partial (U,V)}{partial (Y,Z)} = left| begin{matrix} Z &0 \ Y & 1end{matrix} right| = Z
∂(Y,Z)∂(U,V)=∣∣∣∣ZY01∣∣∣∣=Z
因此
f
Y
,
Z
(
y
,
z
)
=
n
2
y
n
−
1
z
2
n
−
1
,
y
>
0
,
z
∈
(
0
,
1
)
f_{Y,Z}(y,z) = n^2y^{n-1}z^{2n-1},y>0,z in (0,1)
fY,Z(y,z)=n2yn−1z2n−1,y>0,z∈(0,1)
这个概率密度关于 y , z y,z y,z可分,因此 X ( 1 ) / X ( 2 ) X_{(1)}/X_{(2)} X(1)/X(2)与 X ( 2 ) X_{(2)} X(2)独立。
最后
以上就是狂野羽毛为你收集整理的UA MATH564 概率论 多元随机变量的变换 理论与应用1定义法Jacobi行列式法的全部内容,希望文章能够帮你解决UA MATH564 概率论 多元随机变量的变换 理论与应用1定义法Jacobi行列式法所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
发表评论 取消回复