中國如何發展自主可控和開放的科技產業

神經網絡加速器：智能計算機的復興

當代智能計算機本質上是基于神經網絡加速器和通用計算部件建立起來的計算機系統。它的復興取決于?3?個條件：①深度神經網絡理論體系的完善；②計算能力的快速增長和專業領域數據的積累；③通用計算機體系結構發展遇到技術障礙。

現代神經網絡的數學基礎是統計學。在統計學的學習方法（Learning Method）基礎上，現代神經網絡發展為成熟的非線性建模工具。通過統計學的標準數學方法，可以獲得大量可以用函數來表達的局部結構空間，這比依賴領域專家編寫?if－then?規則進行邏輯推理更容易，成本更低。

計算力的增長使得復雜神經網絡計算成為可能。實際上，在?20?世紀?90?年代已經出現了大量的神經網絡加速器的工作。然而，受制于當時有限的計算能力和匱乏的專業領域數據，神經網絡的成功應用乏善可陳，神經網絡加速器缺少足夠的市場需求，未能獲得發展。

通用計算機體系結構發展遇到的技術障礙也為神經網絡加速器的發展創造了條件。2017?年，圖靈獎獲得者?John L． Hennessy?和?David Patterson?指出通用計算機體系結構發展遇到巨大技術障礙，如芯片的性能增長比摩爾定律預測的緩慢；串行程序的并行遇到結構化的限制；芯片散熱受到物理極限因素的制約。在這些條件的綜合約束下，針對特定領域應用開展軟件和硬件的協同設計成為國際學術界的共識。這種學術趨勢可謂返璞歸真，馮?·?諾伊曼結構出現之前的數字計算機就是為每個程序設計一個計算機結構。當然從直覺上來說，應用越單一，系統效率越高。然而新的趨勢并不是放棄馮?·?諾伊曼結構，而是采用一種異構的體系結構來提高效率：保留基于馮?·?諾伊曼結構的通用計算部件，再增加針對特定領域應用開發的加速器，如神經網絡加速器。

深度學習在圖像識別、語音識別等眾多領域取得成功，甚至在單一問題上超過人的平均能力。與此同時，基于深度學習的應用領域越來越廣。如藥物篩選、疾病診斷等。有理由相信，在深度學習加速器（所謂智能芯片）、智能系統、算法和行業應用基礎上有希望發展出一個大規模的智能計算產業。