Facebook跨界打造AI深度學習晶片
2018年9月17日Rick Merritt, EE Times矽谷採訪中心主任
Facebook證實目前正在招聘晶片工程師,成立晶片部門並展開ASIC設計。這家社交網路巨擘預計很快地將有5家晶片公司支援其Glow深度學習編譯器…
據Facebook一位高層證實,該公司目前正在招聘晶片工程師,並展開至少一款ASIC設計。在日前於美國加州舉行的Facebook @Scale 2018大會上,這家社交網路巨擘宣佈,預計將有五家晶片公司支援其Glow——一款開放來源的深度學習編譯器。
Facebook基礎架構副總裁Jason Taylor說,Facebook「確實成立了一支專門與晶片供應商合作的晶片團隊,同時,我們也在打造自家晶片。不過這當然不是我們的首要關注重點。」他表示,這款晶片「並不等同於Google TPU」深度學習加速器,但他並未提供與這款晶片有關的更多細節或時間表。
Facebook的新晶片部門工作重點之一在於與大約50家設計人工智慧(AI)加速器的公司合作。Taylor指出,「市場上將出現許多加速器晶片。但最大的問題在於他們針對的工作負載是否是當前最重要的。」
在主題演講中,Taylor將Glow描述為一種通用編譯器,讓開發人員能夠針對雲端或網路邊緣中任何新興深度學習加速器進行推論任務。它並不針對智慧型手機等客戶端系統。
「我們預期[推論加速器]市場將會出現硬體零碎化的情況。我們開發Glow的目的在於協助機器學習專家設計神經網路,而不必面對調整『每個特定晶片』所需的工作。」
「我們知道硬體零碎化即將發生,因為沒有人知道哪一種[硬體]資源的組合——例如晶片上記憶體區塊和乘法累加陣列——將會勝出,因此我們讓開發人員專注於高層級的圖形,而無需為硬體規格手動編碼。」
Taylor解釋,Glow採用由TensorFlow或Caffe2等架構產生的AI圖形,並將其渲染為硬體加速器的位元程式碼。根據Facebook的一篇部落格文章,該編譯器內含幾種工具,包括為晶片特定記憶體配置產生有效程式碼的指令排程器、線性代數最佳化器與記憶體分配器,以及用於測試硬體精確度的CPU參考建置。
益華電腦(Cadence)、Esperanto Technologies、英特爾(Intel)、Marvell和高通(Qualcomm)等公司都表示未來的晶片將支援Glow。Taylor則表示希望進一步擴展支援名單。「這是Glow作為開放來源的優點之一。」
一位資深晶片專家將Glow描述為在生產系統中部署神經網路的架構。其輸入是在TensorFlow或Caffe2等架構中創建的圖形。
幾家既有的晶片製造商已經提供了類似的軟體。例如,輝達(Nvidia)的Tensor RT自架構中提取圖形,並為其GPU輸出Cuda程式碼。
傳統上,編譯器針對特定晶片進行嚴密的最佳化。但是,Taylor說:「近來的編譯器範圍比過去的更加廣泛——Glow中的最佳化必須能辨識可以渲染到硬體加速器的大部份圖形。」
轉型AI的前兆?
在快速發展的深度學習領域,Glow可說是致力於填補軟體和硬體之間差距的最新例證。例如,Nvidia Tensor RT雖然在一年多前才首次發佈,至今已進展到第五個版本了。但有些加速器新創公司對於支持各種軟體架構及其變化所要求的工作程度也無能為力。
Facebook、微軟(Microsoft)和其他公司則都支援ONNX——一種以權重表現圖形的標準方法。去年12月,Khronos Group還發佈了用於深度學習加速器的硬體抽象層NNEF。
Glow是Pytorch 1.0的一個組成部份。Pytorch 1.0是一個開放來源計劃組合,包括合併的Caffe2和Pytorch架構。Pytorch 1.0的第一個開發者大會將於今年10月在舊金山舉行。
Facebook工程經理Kim Hazelwood在另一場活動中展示Facebook使用的十幾種不同深度學習工作負載,其中至少使用了四種不同類型的神經網路。每天,該AI應用程式(App)產生超過200兆個推論,翻譯超過50億個文本,同時也自動刪除至少100萬個假帳戶。
她說,Facebook的一些推論任務需要的運算量是其他任務的100倍。如今,Facebook在其設計的一小部份CPU和GPU伺服器上執行這些任務。
Hazelwood在接受《EE Times》訪問時說,從通用硬體轉向客製硬體,必須為那些仍在定義中的工作負載量身打造晶片。但她拒絕透露Facebook對於使用任何自定義AI加速器的想法。
Facebook neural nets在至少十幾種深度學習app中,僅Facebook本身就採用了至少5種神經網路
一位觀察家推測,Glow可說是一款理想的工具,有助於讓公司採用適合其工作負載的加速器。Facebook的晶片團隊還能協助精選晶片,或許還可以為其提出客製化晶片的建議。
此外,Facebook的一篇部落格文章描述它所開發的一款全新軟體工具,使用深度學習來除錯程式碼。SapFix可以自動產生針對特定錯誤的修復程式,然後提交給工程師進行審核並部署至生產中。
目前,Facebook已經使用SapFix,加速為使用Facebook Android App的數百萬裝置發送程式碼更新的過程。Facebook表示將發佈該工具的一個版本,但未具體說明時間表。
附圖:
Jason Taylor GlowFacebook基礎架構副總裁Jason Taylor形容Glow是一款為雲端和邊緣網路進行推論的編譯器(來源:Facebook)
Facebook Glow
資料來源:https://www.eettaiwan.com/…/20180917NT01-Facebook-Builds-Ch…
代數 乘法 在 辣媽英文天后 林俐 Carol Facebook 的精選貼文
Wow! 滿滿滿的會考數學重點吔😍
來來來,紙筆趕快準備好!
數學科會考精華重點,
帶你一手掌握致勝關鍵!
數學科會考30天衝刺重點
考前最後30天,
建議同學,調整好生理時鐘,
讓自己的大腦習慣
在10:30到11:50這段時間算數學。
切記每次考試前都花10分鐘的時間快速總複習,
把公式、重要性質、常忘常錯的地方,
用這個關鍵10分鐘掃過一遍。
考前最後30天以算新題
培養對沒看過的題目的臨場反應為主,
有錯的題目訂正完,
把關鍵寫在考前10分鐘的快速總複習筆記上,
下次考前再複習一次!
以下是會考精華重點,
這些重點不只會在選擇出現,
還可能出現在非選!
好好把握下列重點,
拿到數學滿分的成績單時別太意外!😂
1.正負數與數線:
「絕對值」代表「到原點的距離」、
「相減取絕對值」代表「兩點距離」
這種代數轉幾何的考法總是考不膩;
科學記號的應用問題通常都會搭配四則運算;
新舊數線轉換切記「差成比例」!
2.因倍數與公因倍數:
質數的判定、互質的判定還有短除法請熟練;
難題用標準分解式處理!
3.分數:
四則運算切記「先乘除,後加減,但次方優先!」,
還有括號的處理務必「由小到大」且小心變號!
4.一元一次方程式:
一元一次式的「化簡」切記「只能通分,不能同乘」;
應用題考列式也很常見。
5.二元一次方程式:
基本的分式解聯立請小心隱形的括號;
近年來也常考三格漫畫的應用問題,命中不用太訝異!
6.坐標平面:
基本的象限考正負;點的移動x右加左減,y上加下減;
「點到x軸的距離」=「y坐標取絕對值」,
「點到y軸的距離」=「x坐標取絕對值」;
水平線y相同,鉛直線x相同;
還有最常考的二元一次直線方程式畫圖!
7.比與比例:
雙比例問題考到爛,務必調整到符合題意。
8.函數:
線型函數應用問題可以利用「差成比例」處理!
9.一元一次不等式:
有基本的一元一次不等式求x範圍;
進階有天平問題和水量的應用問題。
10.乘法公式與多項式:
利用乘法公式求值請用力觀察數字之間的關聯性;
多項式長除法也很愛考;因式倍式關係要會看。
11.二次方根與勾股定理:
基本的化成最簡根式、有理化、四則運算要熟;
進階的根號估計也是大熱門;
勾股定理近年來都搭配後面幾何一起考。
12.因式分解:
通常喜歡考提公因式因式分解,再搭配次方的運算請小心。
13.一元二次方程式:
基本的十字交乘、配方法解x;
給兩根求方程式用倒帶;
觀念題小心消去未知數可能會減根。
14.等差數列:
基本的循環用除法看餘數、
等差數列換首項公差處理、
等差數列求和都是基本款;
近幾年等差數列喜歡搭配不等式請小心!
15.平面幾何:
對稱圖形不難;
外角定理在角度的計算超常用;
中垂線性質到兩端點等距、
角平分線性質到兩夾邊等距考到爛!
30度 - 60度 - 90度 邊長比「1:根號3:2」必考!
多邊形內角和、正多邊形內角和外角
要算到不小心背起來;
正六邊形、正八邊形、正12邊形
都是近年來考試重點。
16.三角形:
三角形兩邊之和大於第三邊、
大角對大邊小角對小邊偶爾會出;
三角形的全等證明要有考非選的心理準備。
17.平行與四邊形:
遇平行線延長會比較容易看;
平行時,同位角、內錯角相等,
同側內角互補超常用;
遇梯形常做的幾種輔助線要複習。
18.相似形:
常見的相似三角形組合要複習;
解題利用相似形的
「對應角相等」、「對應長成比例」、
「面積比等於對應長度平方比」這些性質;
要宣告三角形相似用相似性質,
要宣告非三角形的多邊形相似
則要一一檢查每一個對應角都相等,
每一個對應邊都成比例!
19.圓形:
考扇形、弧長、弓形算是基本款;
考相切要想到(1)垂直(2)切線段等長;
圓周角、圓內角、圓外角、弦切角也都很常考;
兩圓相切要連接兩圓圓心和切點;難題想到對稱性!
20.三角形的三心:
(1)外心:
到三頂點等距;
直角三角形外心在斜邊中點;
等腰三角形的R要會求;
角度可以利用圓周角和圓心角關係,
或是等腰三角形處理。
(2)內心:
到三邊等距;
r 的兩種求法請複習;
長度還可考求切線段長;
角度可利用角平分令x、x、y、y;
面積的兩種考法請複習。
(3)重心:
長度想到2比1,
面積想到六塊小三角形面積相等
21.二次函數拋物線:
開口的方向和大小要會看;
配方法求頂點求最大最小值必考!
考平移要想到
(1)看頂點的移動(2)開口不變a不變;
難題想到對稱性!
22.立體圖形:
近年來喜歡考空間觀念中的展開圖;
考角柱算是中規中矩;
靈活考題可能會搭配水量甚至考不等式!
23.統計:
給原始資料、給表、給直方圖、給圓餅圖,
中位數都要會求!
盒狀圖和圓餅圖也很常考,
特別是盒狀圖常會問四分位距的相關問題!
進階喜歡考圖形的轉換;
還有對稱圖形的平均數和中位數會相等!
24.機率:
列表討論、畫表格、畫樹狀圖必可解!
代數 乘法 在 尹俐 Julia Facebook 的最讚貼文
來來來,紙筆趕快準備好!
數學科會考精華重點,
帶你一手掌握致勝關鍵!
數學科會考30天衝刺重點
考前最後30天,
建議同學,調整好生理時鐘,
讓自己的大腦習慣
在10:30到11:50這段時間算數學。
切記每次考試前都花10分鐘的時間快速總複習,
把公式、重要性質、常忘常錯的地方,
用這個關鍵10分鐘掃過一遍。
考前最後30天以算新題
培養對沒看過的題目的臨場反應為主,
有錯的題目訂正完,
把關鍵寫在考前10分鐘的快速總複習筆記上,
下次考前再複習一次!
以下是會考精華重點,
這些重點不只會在選擇出現,
還可能出現在非選!
好好把握下列重點,
拿到數學滿分的成績單時別太意外!😂
1.正負數與數線:
「絕對值」代表「到原點的距離」、
「相減取絕對值」代表「兩點距離」
這種代數轉幾何的考法總是考不膩;
科學記號的應用問題通常都會搭配四則運算;
新舊數線轉換切記「差成比例」!
2.因倍數與公因倍數:
質數的判定、互質的判定還有短除法請熟練;
難題用標準分解式處理!
3.分數:
四則運算切記「先乘除,後加減,但次方優先!」,
還有括號的處理務必「由小到大」且小心變號!
4.一元一次方程式:
一元一次式的「化簡」切記「只能通分,不能同乘」;
應用題考列式也很常見。
5.二元一次方程式:
基本的分式解聯立請小心隱形的括號;
近年來也常考三格漫畫的應用問題,命中不用太訝異!
6.坐標平面:
基本的象限考正負;點的移動x右加左減,y上加下減;
「點到x軸的距離」=「y坐標取絕對值」,
「點到y軸的距離」=「x坐標取絕對值」;
水平線y相同,鉛直線x相同;
還有最常考的二元一次直線方程式畫圖!
7.比與比例:
雙比例問題考到爛,務必調整到符合題意。
8.函數:
線型函數應用問題可以利用「差成比例」處理!
9.一元一次不等式:
有基本的一元一次不等式求x範圍;
進階有天平問題和水量的應用問題。
10.乘法公式與多項式:
利用乘法公式求值請用力觀察數字之間的關聯性;
多項式長除法也很愛考;因式倍式關係要會看。
11.二次方根與勾股定理:
基本的化成最簡根式、有理化、四則運算要熟;
進階的根號估計也是大熱門;
勾股定理近年來都搭配後面幾何一起考。
12.因式分解:
通常喜歡考提公因式因式分解,再搭配次方的運算請小心。
13.一元二次方程式:
基本的十字交乘、配方法解x;
給兩根求方程式用倒帶;
觀念題小心消去未知數可能會減根。
14.等差數列:
基本的循環用除法看餘數、
等差數列換首項公差處理、
等差數列求和都是基本款;
近幾年等差數列喜歡搭配不等式請小心!
15.平面幾何:
對稱圖形不難;
外角定理在角度的計算超常用;
中垂線性質到兩端點等距、
角平分線性質到兩夾邊等距考到爛!
30度 - 60度 - 90度 邊長比「1:根號3:2」必考!
多邊形內角和、正多邊形內角和外角
要算到不小心背起來;
正六邊形、正八邊形、正12邊形
都是近年來考試重點。
16.三角形:
三角形兩邊之和大於第三邊、
大角對大邊小角對小邊偶爾會出;
三角形的全等證明要有考非選的心理準備。
17.平行與四邊形:
遇平行線延長會比較容易看;
平行時,同位角、內錯角相等,
同側內角互補超常用;
遇梯形常做的幾種輔助線要複習。
18.相似形:
常見的相似三角形組合要複習;
解題利用相似形的
「對應角相等」、「對應長成比例」、
「面積比等於對應長度平方比」這些性質;
要宣告三角形相似用相似性質,
要宣告非三角形的多邊形相似
則要一一檢查每一個對應角都相等,
每一個對應邊都成比例!
19.圓形:
考扇形、弧長、弓形算是基本款;
考相切要想到(1)垂直(2)切線段等長;
圓周角、圓內角、圓外角、弦切角也都很常考;
兩圓相切要連接兩圓圓心和切點;難題想到對稱性!
20.三角形的三心:
(1)外心:
到三頂點等距;
直角三角形外心在斜邊中點;
等腰三角形的R要會求;
角度可以利用圓周角和圓心角關係,
或是等腰三角形處理。
(2)內心:
到三邊等距;
r 的兩種求法請複習;
長度還可考求切線段長;
角度可利用角平分令x、x、y、y;
面積的兩種考法請複習。
(3)重心:
長度想到2比1,
面積想到六塊小三角形面積相等
21.二次函數拋物線:
開口的方向和大小要會看;
配方法求頂點求最大最小值必考!
考平移要想到
(1)看頂點的移動(2)開口不變a不變;
難題想到對稱性!
22.立體圖形:
近年來喜歡考空間觀念中的展開圖;
考角柱算是中規中矩;
靈活考題可能會搭配水量甚至考不等式!
23.統計:
給原始資料、給表、給直方圖、給圓餅圖,
中位數都要會求!
盒狀圖和圓餅圖也很常考,
特別是盒狀圖常會問四分位距的相關問題!
進階喜歡考圖形的轉換;
還有對稱圖形的平均數和中位數會相等!
24.機率:
列表討論、畫表格、畫樹狀圖必可解!