[資訊理論基礎]互信息計算公式如何推導的?

請問第三個等號的公式到第四個等號的公式是如何推導的? p(x) 和 p(y) 如何變成 p(x, y)?


全概率公式,p(x) = sum_y p(x,y)


嗯,下意識看了下提問時間,這個時候題主大概已經弄懂了吧。剛好也在推這個公式,那就隨便答一下吧,如果有錯請務必告訴我!!=_=||||


log a+log b=log a×b

log a-log b =log a/b


推薦閱讀:

GAN在自然語言處理方面有哪些有趣的文章和應用?
漢語中「著」「了」「過」等,處理成詞尾還是處理成助詞對漢語的詞法分析有什麼影響?
谷歌翻譯原理是什麼,從語言A到B,中間是否要翻譯成中介語言C(如英語)?
如何使用「爬蟲/數據挖掘」自動尋找某「話題」的「父話題」?
推薦系統中的推薦理由實現,有什麼好的思路嗎?

TAG:數學 | 自然語言處理 | 資訊理論 |