是時候開始啃PRML了 - CMU MechE 階段總結

來自專欄 關山鐵匠鋪第一學期差不多也1/3了，這學期作死地選了54 credit的課，包括

• 15-513，CMU不能再經典的ICS，現在看來選這門課是一門極其正確的決定，不僅lab出奇地有意思，而且對於計算機系統的硬體層面的理解深入了很多，目前正講到Memory Hierarchy，馬上要開始據說是真正進入狀態的Cache Lab。然而之前的Data Lab，Bomb Lab，Attack Lab基本上是在新奇和焦慮中度過的，總之還是很有意思，第一次的Data Lab題目貌似是大換血，完成時間在20小時左右，第二次的Bomb我認為是目前為止最難的，主要是寄存器名稱太多不太容易分清楚。Attack Lab的主要任務是Code Injection Attack，不僅要對沒有保護機制的棧溢出漏洞進行代碼注入式攻擊，也要應對目標程序的棧隨機化(Stack randomnization)保護機制進行相應攻擊。
• 10-601B，也就是 Introduction to Machine Learning。這門課上得極端痛苦，並不是因為難度很大，而是老師的講課水品實在是...算不上好，甚至與生動活潑的513的TA小哥形成了鮮明的對比（笑）。10-601B要求有比較好的概率學和統計學知識才能學得比較順利，課程使用Matlab還是比較人性化的，雖然已經聽到了很多抱怨說Matlab不是很好用....這門課在第二個Topic - 樸素貝葉斯分類器的時候老師就沒有能夠很清楚地解釋Posterior和Prior分別對應什麼情況，至於後來翻了很多概率的資料才比較順暢地理解了。這門課作業難度還比較大，其實很多時候不能說是大，而是費時間，TA資源不足，作業的描述也經常出現confusion....感覺有點背離學ML的初衷了所以已經準備要Drop了... 而且在選了本系兩門課+513+下半學期的Data Structure之後真的是剛不住。但這門課有個Section A，與B不同的是Section A是用的Python，而且是神級老師Roni Rosenfield教，不過據說十月初還在講decision tree，那是Section B第一節課講的東西（笑）。
• 24-771，Linear System，可以說是Mech E同學傾向於Robotics和Control的必備課程。這門課主要關注於線性系統，前半學期除了講述系統的狀態空間之外，很大一部分時間在講解線性代數和矩陣論的一些知識，例如相似變換啊SVD啊之類的，個人覺得這門課的Mark Bedilion教授還是講得挺好的，語氣抑揚頓挫（笑），作業什麼的也不會特別難，而且如果之後要學Non-linear control的話，24-771是少不了的先修要求之一。
• 24-780，Engineering Computation，轉碼的同學必備的一門課吧。老師是個日本人叫Soji Yamakawa，是個代碼狂魔（笑），上課的時候說自己妻子有時候很無聊，他就寫了個遊戲給他妻子玩2333。老師本人很nice，課程也不push，這門課對於c++和opengl基礎特別好的同學也沒必要上了，quiz的話時間有點緊
• 08-671，Data Structure for Application Program，好像是這個名字因為還沒上，老師據說是個很有意思的韓國人，講得還是很好的，還是很期待自己下半學期能受這課的洗禮的2333

CMU的ME這邊很多老師都在做Robotics和Control，這也是學生最熱衷的方向之一，很多老師也在做deep Learning的方向，自己也對這個比較感興趣（雖然好像什麼都不回），所以說如果想在下學期之前找到合適的Research Advisor的話，就得硬剛Machine Learning了。10-601和10-701的老師都推薦了些書，例如大名鼎鼎的PRML - Pattern Recognition and Machine Learning，701的老師，也是一個本科清華博士UCB的教授說這是他見過的最適合初學者的淺顯易懂的一本書了，但不少人說PRML比較難啃，不啃不知道，那還是得自己試一試。畢竟要看到歷史的行程，還是要先經過自我奮鬥的吧（笑）。

接下來很可能會發布PRML的一些學習筆記，若是有一起開始啃PRML的同學，不如多交流交流。畢竟開始接觸Machine Learning之後，才發現概率學原來可以這麼美（惡）妙（心）。

推薦閱讀：