Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

【第14章概率图模型】待推导或待解析公式征集+答疑专区 #73

Open
Sm1les opened this issue Jul 25, 2019 · 16 comments
Open

Comments

@Sm1les
Copy link
Contributor

Sm1les commented Jul 25, 2019

在这里,你可以:
1.评论留下西瓜书第14章你觉得需要补充推导细节或者解析的公式编号,我们看到后会尽快进行补充;
2.评论留下你对南瓜书第14章里相关内容的疑问,我们看到后会尽快进行答疑。

@AriessHosizora
Copy link

公式14.1都看不懂,是不是没救了。。。

@Sm1les
Copy link
Contributor Author

Sm1les commented Aug 16, 2019

@BOBOJUNLI 多研读几遍公式14.1上面的那段话然后结合图14.1应该不难理解公式14.1,实在看不懂可以去看李航老师的《统计学习方法》里面讲的隐马尔可夫模型,那里讲得比西瓜书要清楚。

@AriessHosizora
Copy link

回复的太快了吧。很感谢,最近很迷茫。感觉看啥都懂不了,一度怀疑自己。我会找那本书看。再次感谢。

@jieyugithub
Copy link

请问公式14.5第一行,分母中P(x_C)=sigma_{x'A}sigma{x'_B}P(x'_A,x'_B,x_C)是怎么得到的

@Sm1les
Copy link
Contributor Author

Sm1les commented Oct 22, 2019

@KrisWentaoWong 同学你好,这是根据联合概率的基本性质得出来的,因为对任意的两个随机变量A和B来说,P(A)=sigma_{B}P(A,B)恒成立,同理扩展到3个甚至n个随机变量,这个公式依旧恒成立。

@Chenxr1997
Copy link

公式14.40里面的(9)中,第一行最后的那个dz_j是不是多余的

@shanry
Copy link
Contributor

shanry commented Feb 4, 2020

@Chenxr1997 你说得对,那个dz_j是多余的,是我笔误。

@shanry
Copy link
Contributor

shanry commented Feb 4, 2020

@KrisWentaoWong 可参考维基百科:边缘分布(Marginal Distribution)

@shanry
Copy link
Contributor

shanry commented Feb 4, 2020

@BOBOJUNLI 图14.1中每一个箭头都对应式14.1中的一个条件概率,各个条件概率之间 相互独立。

@NiYueLiuFeng
Copy link

图模型章节的公式 14.5 中 x'A 和xA 有什么不同的喔? x' 是 x 的补集吗? 还是仅仅只是为了将 x‘ 和 x 区分开,每什么其他意义?

@NiYueLiuFeng
Copy link

公式14.11 中 j 和 k 分别表示的是什么意思喔? j是指转移特征函数的 种类吗? k 是指状态特征函数的种类 吗?

@Sm1les
Copy link
Contributor Author

Sm1les commented Apr 23, 2020

@NiYueLiuFeng 同学你好,这两个角标应该理解为第j个和第k个特征函数,通常转移特征函数和状态特征函数是自己根据具体业务场景来定义的,可以有任意多个,西瓜书在这里表述的可能比较简略,CRF这一节建议你结合李航老师的《统计学习方法》来看会比较清晰 :)

@byby221b
Copy link

您好,在(14.26)的证明中,$p(x^t)$应该指的是t时刻的状态分布,而$\pi$表示的是极限下的状态分布,即
$$
\pi(j)=\lim_{n\rightarrow\propto}P_{ij}^n
$$
请问从$t$时刻到极限情况是如何推导的呢?怎样确定这个极限一定存在呢?
image
多谢了!

@archwalker
Copy link
Member

archwalker commented Aug 2, 2020

您好,在(14.26)的证明中,$p(x^t)$应该指的是t时刻的状态分布,而$\pi$表示的是极限下的状态分布,即
$$
\pi(j)=\lim_{n\rightarrow\propto}P_{ij}^n
$$
请问从$t$时刻到极限情况是如何推导的呢?怎样确定这个极限一定存在呢?
image
多谢了!

您好,首先我想你所说的极限是指:
$\pi=\lim _{n \rightarrow \infty} P^{n}\pi$
从线性代数的视角来看,因为转移矩阵P是实对称阵,因此P必可对角分解为 $P=QDQ^{-1}$,其中$D$是对角阵,那么$lim _{n \rightarrow \infty} P^{n}$可以转化为$lim _{n \rightarrow \infty} QD^{n}Q^{-1}$,因此你的两个问题就是$lim _{n \rightarrow \infty} D^{n}$为什么是收敛的,收敛到何值。因为转移矩阵P的特殊性,其最大特征值为1,因此对角阵必收敛。篇幅原因,不具体展开,可以参考 https://blog.csdn.net/baimafujinji/article/details/6472660 或者任意一本线性代数或矩阵论的书籍。

@SeanZChen
Copy link

您好,想问一下第14行中公式14.11中的j和k分别是什么意思?

@shanry
Copy link
Contributor

shanry commented Dec 29, 2020

可以认为势函数分为两类,即转移特征函数和状态特征函,每一类都有若干个具体函数。公式14.11对每个具体的函数进行遍历求和,其中 j 代表转移特征函数的索引,k代表状态特征函数的索引。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

9 participants