二十來分鐘后,大家鍛煉完畢,回寢室稍作整頓,盥洗一番之後,就去了食堂。
由於早起運的關係,每個人都多吃了一個饅頭,神頭也好了不。
飯後溜達了一會兒,幾個人就結伴回班,上早讀。
江寒端正地坐在座位上,拿出一個嶄新的筆記本,開始寫論文的第一稿。
先寫下標題:《知機:大腦信息存儲和組織的概率模型》。
然後是摘要:「本文探討了生神經元的工作機制,並建立了一個簡單的數學模型,以及探索了如何在機學習中運用這個模型……通過對生神經元的模擬,來解決線可分的二分類問題。」
寫完摘要后,又設了幾個關鍵字,接下來就進了正文。
第一部分是背景介紹,主要討論生神經元。
「要了解智能對知覺識別,泛化,回憶和思考的能力,首先我們要回答三個問題:生系統如何知或檢測理世界的信息?以什麼形式存儲或記住信息?存儲或記憶中的信息如何影響識別和行為?
第一個問題屬於生理學領域,而且人們對它已經有了可觀的認識。第二和第三個問題,目前仍然只有大量的猜測,而且神經生理學提供的一些相關事實,還沒有被整合為一個可以被人們接的理論……」
開宗明義之後,接下來,就可以詳細討論生神經元的工作機制了。
足足用了兩千來字,才寫完這些羅里吧嗦的東西,最後下了結論。
「綜上所述,不管什麼信息被保留,都必須以某種方式,存儲為特定響應的偏好,即信息包含在連接或關聯中!」
接下來,進下一環節,建立數學模型。
對於很多人來說,這是論文寫作之中,最為困難的地方。
就算拿出「知機」這種大殺,江寒也並不擔心,會被人懷疑是重生者。
除非屢見不鮮,否則誰會一到厲害的人,就懷疑是穿越、重生來的?
網上關於劉秀和王莽的段子,只是調侃和玩笑罷了。
但江寒仍然決定,將數學部分簡一下,盡量不涉及太高深的東西。
很多高等數學的東西,大學生學起來都費勁,自己一個普通高中生,憑啥能練運用?
除非能證明自己,的確是個不世出的天才,不然很難解釋。
如果得到足夠的學點,將七維屬都加到10以上,那自己不想當天才都不可能。
可現在是起步階段,還是穩一點的好。
「知機」的工作邏輯很簡單,本來也不是什麼複雜的東西,只是表述上要稍微嚴謹一點。
前世刷過的那篇同名論文,大部分容都是枯燥的論述,數學推導並不多,關於如何在計算機上實現,則基本沒怎麼講。
這也不怪原作者,那個年代的計算機科學,本來就不怎麼發達。
而且那篇論文的華,也就是一個模型,一個原理。
至於編程實現,有了模型之後,那還不是Soeasy嗎?
但現在是2012年,計算機技已經取得了長足進步,足夠將機學習技,運用於生產生活實踐了。
所以,江寒將這篇論文的重點,放在了原理解析,以及如何實現上。
除了開頭第一段,江寒並沒有照抄原文,事實上,他也沒那個本事。
那麼長的論文,能記住大概思路,就相當不錯了。
一個字不差背下來?江寒做不到啊!
據自己對該技的理解,江寒開始自由發揮。
先從最簡單的況,也就是單變數開始討論。
「對於只含有1個輸信號xi的樣本集T,我們期找到一個線函數y=wx+b,通過輸的數據xi和標籤yi,確定其中的權重w和偏置b,其中權重w控制輸信號的重要,而偏置b可調整神經元被激活的難易程度……」
江寒越寫越順,下筆如飛。
「……
我們定義損失函數如下:L(w,b)=(1||w||)∑yi(wxi+b),據預設的學習率η,不斷調整權重w和偏置b,直到損失函數到達極小點,即可得到可用的函數模型。
綜上所述,學習演算法如下:
首先選定訓練數據集T=(x1,y1),(x2,y2),...,(xN,yN),yi∈{1,+1}並指定一個學習率η(0<η<1);
1、任意選定權重w和偏置b;
2、讀數據點(xi,yi);
3、判斷該數據點是否為誤分類點,如果yi(wxi+b)≤0則更新w=w+ηyixi;b=b+ηyi;
4、重複進行2、3步,直到沒有誤分類點。
此時,我們就獲得了最佳的w和b,把它們代y=wx+b,就得到了一個數學模型。」
知機的學習過程,有個非常形象的比喻。
假設在一個棋盤上,有一堆黑子,和一堆白子,它們不相混合。
下面,拿一細放上去。
我們希這子,能恰好將黑子和白子分開,子的一邊全是黑子,另一邊全是白子。
先把子隨機扔到棋盤上,如果恰好將黑子和白子分開了,那就皆大歡喜,否則的話,就平移和調整子的角度,直到所有白子和黑子恰好分開……
那子就是知機,而挪子的過程,就是知機在學習。
子的角度和平移量,就是要尋找的參數w和b,也就是直線(子)在平面直角坐標系(棋盤)里的函數解析式。
瞧,夠通俗易懂吧?
可惜寫論文就不能這麼寫了。
知機是人工神經網路的雛形,其中有個關鍵概念,激活函數,它決定了一個神經元是否有輸出。
江寒在這裡,用一個階躍函數sign(x)作為激活函數,其定義為:x<0時函數取值-1;x≥0時函數值為1。
只要將sign換sigmoid或者其他非線函數,就是真正的單層前饋神經網路了。
但江寒並沒有著急將sign之外的函數拋出去。
在第一篇論文里,最重要的是提出概念,其他東西完全可以在下一篇論文中再討論。
能多水幾篇,豈不更加滋滋?
搞定了輸空間是1維的況,接下來,就可以擴展到N維。
「對於一般況,當有n個輸信號時,假設輸空間是x∈Rn,輸出空間是y∈{+1,-1}。輸x∈X表示實例的特徵向量,對應於輸空間的點;輸出y屬於Y表示實例的類別。
由輸空間到輸出空間的如下函數:Ψ(x)=rsign(w1x1+w2x2+……+wnxn+b)=rsign(wTx+b),就可以稱之為知機,其中w∈Rn,b∈R為知機演算法的參數……」
在討論完n個輸信號的況后,江寒指出:
「模型建立之後,經過訓練,就可以得到一組權重和偏置,這些參數確定了一個分離超平面(定義為n維空間上的一個n-1維子空間),此超平面可以將訓練集中的數據,完全正確地分兩份,一份為正,一份為負(或者0,可以自己定義)。」
取得了模型的參數后,就可以把測試數據放進去,據模型函數運算的結果,就能對數據進行分類。
知用很廣泛,幾乎所有二分類問題,都可以用它來試一試。
當然,必須是線可分的問題,線不可分的問題,是不能用單層知解決的。
例如年齡和有沒有生活經驗,就不存在線關係;長得帥不帥和學習好不好,也沒有線關係……
關於如何高效地判斷數據是否線可分,江寒還真研究過,只是這個題目比較大,三言兩語說不清楚。
嗯……好像又能多水一篇或幾篇SCI?。
超級兵王蘇辰,卸甲歸田重回都市,掀起八方風雲曾經揚名世界的兵王,讓所有人為之折服。
一條龍魂,一副鐵軀,踏遍玄龍大陸! 一身虎膽,一絲柔情,尋找蒼穹冥界! 一縷執念,一腔熱血,走出天地乾坤! 天上地下,吾道獨尊!
簡介: 葉天穿越到三千道洲,竟然被生靈忌憚的無人禁區內葉氏一族的少爺,一家子全是仙帝!本以為開局即是巔峰,可以好好享受生活,卻萬萬沒有想到,一家子的大帝,自己這個唯一的男丁居然不可以修煉!前身不願當溫室裏的花朵,獨自外出尋找修煉方法,現在正前往道洲聖地,欲要拜聖人為師,這讓穿越過來的葉天十分無語。躺平當鹹魚不爽嗎?正準備起身回家的葉天,腦海中突然響起係統的聲音。這係統名為真誠係統,隻要說實話,就能變強。……聖地入門考核。“你來自何處?”葉天:“回女帝,晚輩來自無人禁區,葉氏仙族一脈。”眾人:???【恭喜宿主實話實話,獲得金烏至尊體。】……演武場。“你不是說你是一個凡人,不可能修煉嗎?”葉天:“哦,我剛剛激活了一個外掛,送了一個變態的神體。”眾人:“外掛?什麽玩意?神體還能贈送?”【恭喜宿主實話實話,獲得仙王臨九天法相。】
《被全家剝奪生命後,她們後悔了》楚離穿越到玄幻小說的世界,發現劇情出現了改變,本應是團寵主角的他備受家人嫌棄,哪怕拼盡全力討好,也只會遭受白眼,反而是養子楚明受盡寵愛,享受著本應屬於他的一切。十六歲的家族大比,楚離擊敗了楚明,可本屬於他的武神骨卻被父親與三個姐姐剝奪,轉而送給了楚明取樂,使他只剩下五年壽命!生命被奪,人生只剩最後五年的楚離看淡一切,再不奢求那可笑的親情,毅然與家族斷絕關係,獨自踏上斬妖之路,可不久後,她們卻後悔了