优化的贝叶斯网络结构要保证它产生的序列从头到尾的可能性最大 ， 如果用概率做度量 ， 就是后验概率最大 。 当然可以搜索所有可能的路径 ， 但是会是一个NP-Hard问题 。 一般采用贪心算法 ， 在每一步时沿着箭头方向寻找有限步 ， 贪心容易陷入局部最优 。 为防止局部最优 ， 采用蒙特卡洛方法 ， 用许多随机数在贝叶斯网络中试试 ， 看看是否陷入局部最优 ， 但计算量较大 。 最近 ， 新的方法是利用互信息 ， 只保留互信息较大的节点的直接连接 ， 然后再对简化的网络进行完备的搜索 ， 找到全局优化的结构 。
而节点之间弧的权重确定可以通过最大后验估计来得到 ， 使用EM（expectation-maximization process）过程来解决 。
一般的 ， 参数和结构的交替训练的 ， 先优化结构 ， 再优化参数 ， 然后再优化结构...直至得到收敛或者误差足够小的模型 。
参考文献：
吴军 《数学之美》
张洋 《算法杂货铺——分类算法之贝叶斯网络(Bayesian networks) 》
—THE END—
? 劝你别再闷头自学NLP了！！！请收下这套自然语言处理(NLP)算法学习路线！
? 数学家比10个师更有威力？| 美国在第二次世界大战中胜利的原因之一
? 耶鲁校长：这才是判断一个人受过教育的铁证！
? 趣文 | π里包含了所有可能的数字组合吗？
? 我们计划招收300名数学算法爱好者 ， 免费系统学习傅立叶变换
? 泰勒级数的物理意义
推荐阅读
- 星链|石豪：在太空，马斯克和美国当局是如何作恶的
- 历史|科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 空间|（科技）科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 人物|马斯克承认输给了巴菲特：曾尝试挑战喜诗糖果，但最终放弃
- Tesla|最高涨幅21088元：特斯拉Model 3/Y入门车型价格调整
- 人物|马斯克谈特斯拉人形机器人：有性格 明年底或完成原型
- 四平|智慧城市“奥斯卡”揭晓！祝贺柯桥客户荣获2021世界智慧城市治理大奖
- Tesla|特斯拉新款Model S电池体积小能量密度高 外媒揭秘三大关键技术
- Tesla|特斯拉因两处安全缺陷召回近50万辆电动汽车 承诺免费修复
- Tesla|特斯拉在美国召回约47.5万辆汽车 接近其去年全球交付总量