YT傳送門:
https://youtu.be/LxIMCdlZKkE
市井小民大企劃 !
邀請民眾齊唱【塔綠班之歌】
歡迎投稿至:[email protected]
贊助專區
Paypal傳送門： https://paypal.me/HsuehHeng
綠界傳送門： https://p.ecpay.com.tw/706363D
歐付寶傳送門： https://reurl.cc/eENAEm
這幾天翁P在參加美國政治學年會討論台灣議題，十分之辛苦，但他還是來跟我們討論美國和世界的政治現況啦~~~~ft.美國德州Sam Houston州立大學政治系副教授 #翁履中
不會吧，美國政府又要關門了，你在開我玩笑嗎?根據天下雜誌網路版的報導，【本週五中午，也就是美國時間週四午夜，華府可能迎來「關門時刻」。
9月30日是美國聯邦政府財政年度的結束日，如果沒有通過法案或找到其他方法，聯邦政府就會被迫部份停止運作，這將是最近10年來的第三次。先前分別是在歐巴馬和川普任內。
#美國政府關門 這件事，投資人不需要過度恐慌，以歷史經驗來看，自1980年代以來，美國政府停擺了14次，標普500指數在關門期間並沒有太劇烈的震蕩。在最近一次，川普時代美國政府關門了34天，標普500指數還上漲了10%。
避險基金經理人理萊米德斯（Charles Lemonides）樂觀認為，只要這件事情喬好了，不管是基建法案或大撒幣的紓困方案，都會成為驅動市場更好的利多，市場將迅速反彈。】後續的投資市場會不會跟著變得更動盪不安，甚至影響到美國的正常運作呢?為什麼共和黨反對民主黨要提高債務上限，這樣不是大家一起完蛋嗎?
不過美國為債務解套的方式，竟然是發行萬億美元面值紀念幣？根據香港01報導，【面對國會共和黨人拒絕支持提升國債上限，美國財長耶倫（Janet Yellen）9月28日在參議院銀行委員會聽證上警告，如果國債上限不能在10月18日前提高，美國將面臨史上首次的債務違約。另一邊廂，眾議院議長佩洛西（Nancy Pelosi）則稱民主黨眾議院老將納德勒（Jerrold Nadler）想要有一個「不必國會批准的萬億美元硬幣」。有趣的是，在法律上，拜登當局的確可以鑄造一個面值萬億美元的紀念幣去繞過國會的國債上限。】
美國軍方自從上次的川普任內偷打電話給中方將領問題之後，最近又出了另外一個狀況，在面對聽證會的時候，參謀首長聯席會的將領作證時的說法跟拜登完全不同，根據世界新聞網的報導:【美國自阿富汗撤軍混亂招致國會調查，參謀首長聯席會議主席密利(Mark Milley)28日在參院作證時說，長達20年的阿富汗戰爭是「戰略失敗」(strategic failure)，並表示其實美國應該在阿富汗保留數千駐軍，才能避免美方支持的喀布爾政府垮台，防止民兵組織神學士(Taliban)迅速奪權。先前有消息傳出，密利曾建議拜登總統不要將所有美軍從阿富汗撤出；同時出席28日參院軍事委員會(Senate Armed Services Committee)聽證會的國防部長奧斯丁(Lloyd Austin)、美軍中央司令部司令麥肯齊(Kenneth McKenzie)在會上證實消息為真。】軍令和政令系統講的說法顯然不同，因為拜登在接受電視訪問的時候說軍方沒有建議他要留駐軍在阿富汗!這下子阿富汗戰爭的難堪結果到底要怎麼收拾呢?
被關押許久的華為長公主 #孟晚舟 被釋放了，同時在中國被逮捕的兩名加拿大人也可以回家了，但是這一連串的動作還是中美對抗的一部分，到底是怎麼一回事呢?根據BBC的報導:【審理孟晚舟案的加拿大法官原定於10月21日確定最後裁決日期，卻在不到一個月時突然把人釋放了，為何會有這麼大的轉變？
簡單來說，孟晚舟獲釋是基於她與美國紐約布魯克林聯邦法院達成的一項交易。
孟晚舟承認參與了一些不當行為，作為交換，檢察官延遲了對她進行的電匯和銀行欺詐罪等四項刑事指控，美國政府也同意撤回向加拿大提出的引渡要求。
這一所謂交易在美國法律上稱為「延期起訴協議」（Deferred Prosecution Agreement，簡稱DPA）。
這份協議附帶一份事實陳述，其中詳細說明了孟晚舟如何向一家金融機構做出了故意虛假陳述。該協議要求孟晚舟不發表與該事實陳述相矛盾的聲明，不違反美國法律。
從技術上講，對孟晚舟的指控依然存在，但如果她遵守該協議的要求，這些指控將在在四年內（從被捕日算起，即到2022年12月）撤銷。
從去年年底開始，就有消息傳出，稱美國法院正與孟晚舟就一項協議達成共識。《紐約時報》、《華爾街日報》等國際媒體引述知情人稱，雙方都有此意願，部分原因是他們都不能完全確信能在引渡官司中獲勝。】但這是法律角度的解讀，可是中美雙方各自有甚麼打算呢？
不過美國究竟不是吃素的，從幾件新聞事件可以看出端倪，根據法國國際廣播電台報導：【歐盟：台灣是理念相近重要經濟夥伴但不承認其國家地位】，文中指出：【歐中外長第11界戰略對話在9月28日舉行視訊會議並談及台灣議題，歐盟外交和安全政策高級代表博雷利（Josep Borrell）表示台灣是理念相近的重要經濟夥伴，歐盟及其成員國有興趣與台灣發展合作，但不承認國家地位。】而在華爾街日報的報導：【美國和歐盟將攜手解決晶片短缺和技術問題】。加上風傳媒的報導，【「你們台積電跟我們三星都受影響！」韓媒爆料，美國恐以法令逼迫交出機密？】美國這陣法到底在布局些甚麼呢？
根據聯合報的報導：【日本自民黨主席選舉結果出爐，前外務大臣 #岸田文雄 兩輪投票都以最高票，取得完全勝利。第二輪投票，岸田以257票對170票，勝過河野太郎當選。他也將成為日本第100任總理大臣。岸田將在台北時間傍晚5時舉行記者會。在外交與安保方面，岸田提出「信賴」與「三覺悟」，三覺悟包括誓死捍衛民主主義、誓死守護日本和平與安定、主導能為人類未來有所貢獻的國際社會。岸田主張，強化美日同盟，推進島嶼防衛合作；強化海上保安廳的能力與自衛隊的合作，為了應對中國海警船入侵日本領海，將研議修正海上保安廳法、自衛隊法制定經濟安全保障推進法。】日本的新首相對台灣和對全球的政治狀況會有甚麼影響呢？
另外，北韓最近不是一直謠傳它們的疫情跟經濟狀況都很不好，為什麼又可以發射新型飛彈啦！根據風傳媒的報導：【北韓（朝鮮）又有軍事大動作，13日宣佈已成功試射「遠程巡弋飛彈」，精準命中目標。南韓《韓聯社》指出，這是北韓今年以來第4次軍事挑釁。北韓先後在美國總統拜登就任後的1月22日和3月21日試射巡弋飛彈，3月25日首次進行違反聯合國安理會決議的短程彈道飛彈試射。
北韓官媒《朝中社》13日報導，朝鮮國防科學院於9月11日和12日成功試射最新研製的遠程巡弋飛彈，飛彈沿朝鮮領土和領海上空的預定軌道飛行7580秒（2小時06分20秒），精準命中1500公里外的預定目標。試射結果，最新研製的渦輪風扇發動機的推力等技術指標、飛彈的飛行控制性能、採用複合制導結合方式的末端制導的命中精度全部滿足設計要求，總體武器系統運營有效性和實用性卓越。】這到底是希望達成甚麼目的？總不可能是飛彈射了之後糧食大米都夠了吧？
Dennis 的全球政治筆記 - 履行中庸，筆寫諍言
阿宅萬事通語錄貼圖上架囉 https://reurl.cc/dV7bmD
【Facebook傳送門】 https://www.facebook.com/Geekfirm
【Twitch傳送門】 https://www.twitch.tv/otakuarmy2
【加入YT會員按鈕】 https://reurl.cc/raleRb
【訂閱YT頻道按鈕】 https://reurl.cc/Q3k0g9
購買朱大衣服傳送門： https://shop.lucifer.tw/
晶片短缺解決方法 在 Re: [新聞] AI晶片競爭開跑，谷歌公布第四代TPU，宣- 看板Stock 的必吃
※ 引述《ynlin1996 (.)》之銘言：
: 原文標題：
: AI晶片競爭開跑，谷歌公布第四代TPU，宣稱比輝達A100晶片更快更節能
: 原文連結：
: https://bit.ly/3meYAG8
: 發布時間：
: 2023.4.6
: 記者署名：
: 茋郁
: 原文內容：
: 谷歌於2023年4月5日公佈了其用於訓練AI模型的超級電腦的新細節，稱該系統比輝達的同類型系統A100更快、更節能。雖然現今大多數涉足AI領域的公司的處理能力都來自輝達的晶片，但谷歌設計自己客製化晶片Tensor Processing Unit（TPU）期望能夠推動其在AI研究。
: 谷歌是在COVID-19大流行高峰期間宣布了其Tensor晶片，當時從電子到汽車的企業面臨晶片短缺的困境。由於谷歌看到蘋果在客製化晶片的投入，幫助了iPhone以及其他產品的開發。因此最初該晶片是為其Pixel智慧型手機提供動力，可是歷經幾年之後，谷歌將TPU延伸至更多領域，可見得其開發方面取得了長足的進步。
: 如今谷歌90%以上的AI訓練工作都使用這些晶片，即通過模型提供數據的過程，使它們在諸如類似人類的文字查詢或生成影像等任務中發揮作用。
: 谷歌TPU現在已經是第四代了。之所以世代晶片發展那麼迅速的關鍵在於，谷歌使用AI來設計其TPU晶片。谷歌聲稱，與人類花費數月時間設計晶片相比，使用AI設計晶片僅需要6小時即可完成設計過程。
: 一旦採用AI設計晶片，產品迭代都在迅速發生，這就是TPU進入第四代的原因。未來隨著生成式AI的快速發展，將造成大型語言模型的規模呈現爆炸式成長，這意味著它們太大而無法儲存在單顆晶片上。所以谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起成為一台超級電腦，以幫助連接各個機器。此外，微軟也是將晶片拼接在一起以滿足OpenAI的研究需求。
: 谷歌指出，PaLM模型其迄今為止最大的公開披露的語言模型通過在50天內將其拆分到4,000顆晶片超級電腦中的兩個來進行訓練。更重要的是，其超級電腦可以輕鬆地動態重新配置晶片之間的連接，有助於避免出現問題並進行調整以提高性能。
: 谷歌除了自己使用TPU之外，一家新創公司Midjourney使用該系統訓練其模型，該模型在輸入幾句文字後即可生成新影像。
: 可是谷歌並沒有將其第四代晶片與輝達目前的旗艦H100晶片進行比較。谷歌暗示它可能正在開發一種新的TPU，它將與輝達H100展開競爭。
: 總之，隨著生成式AI的崛起，AI晶片的開發腳步將成為下一個廠商積極介入的領域，以搶奪未來商機。
: 心得/評論：
: Google公布第四代TPU，並宣稱比NVIDIA A100更快更節能，其客戶Midjourney利用TPU訓練其模型再輸入文字後生成圖片。
周末下班閒聊,
發現tech版沒有這篇文章,
那就在這裡討論好了,
其實我說的東西都是網路 google+wiki 就有的東西,
先簡單說明一下現代化的ML DeepLearning的基本概念,
其實就是用暴力法把整個model 放進去 GPU/TPU 裏頭training/inference,
這會有兩個最大的限制,
硬體速度跟GPU/TPU記憶體容量,
硬體太慢跑不動或跑太久,
GPU/TPU記憶體容量太小的話是連跑都不能跑,
我幾年前在板上分享的TQQQ DeepLearning 預測股價的模型,
需要8GB 的 GPU VRAM
維基小百科之後就回到主題: ChatGPT,
目前所有的聊天機器人模型通通都是LLM,
https://en.wikipedia.org/wiki/Wikipedia:Large_language_models
GPT-3 需要VRAM 175GB,
股歌微軟OpenAI 這幾家的模型一定遠遠超過這個大小,
大上數百倍都有可能,
我是做硬體晶片的,
不要問我model 這塊的問題,
所以現在這些聊天機器人模型最大的問題是整個系統無法塞下model training,
所以這篇文章的重點在這句話:
"谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起",
只能這麼做才有辦法塞下這麼大的model training,
Nvidia 也有類似的技術叫做 NVLink,
可以把電腦上數個Nvidia 顯卡串聯運算,
但是如果模型大到一台電腦顯卡全部插滿都塞不下運算的話,
我就不知道Nvidia 如何解決,
但是我相信Nvidia 一定有解決的方法
所以現在問題已經提升到整個系統端,
而不是我的晶片跑多快這麼簡單的問題,
軟體跟模型要如何切割如何分配塞入多台超級電腦,
硬體方面如何塞入最大的模型做運算
說個題外話,
我幾年前做了一個project, AI 晶片與系統研發的project,
最近拿到公司的大獎,
不是新聞這個TPU,
我跟開發model 的對口同事討論過,
是否能夠拿我們開發的這個系統來跑Chat model,
得到答案是否定的,
至少現階段還無法做到,
原因很簡單, VRAM 不夠大, 塞不下model,
但是他們model 部門也有在想辦法要細切 model 看可不可以塞進去這個系統,
所以速度已經不是最重要的考量了,
至於速度,
兩年前應該是全世界最快的晶片+系統,
可惜 VRAM 不夠大,
原本運用方向就不是要做chat
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.5.140.41 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680851343.A.8CF.html
也就是原文裏頭說的客製化開發的光訊號交換器,
不然你無法做到多台電腦同步運算同一model,
另外一個做法就是用純軟體的方式細切model 分別塞到個別機器,
也就是我的對口同事正在嘗試要做的solution
※ 編輯: waitrop (24.5.140.41 美國), 04/07/2023 15:20:49
我只能說在電腦歷史上單一超級電腦或是分散運算小電腦,
這兩個方向已經吵了五六十年以上,
目前Chat model 的確是只有單一超級電腦才能運算,
但是我相信以後一定有解決方法可以用分散運算小電腦,
當年我在做這個AI project的時候,
也是公司兩派立場的爭論: 單一超級或是分散小電腦,
我的project 的研發方向是用分散運算方式去解決AI問題,
可是現在卡關在chat model,
但是我相信未來一定是分散運算的方式,
因為觀看人類電腦歷史,
沒有例外都是分散運算小電腦最後得到勝利
※ 編輯: waitrop (24.5.140.41 美國), 04/07/2023 15:45:24
只有這兩家可以做出chat 的系統,
只是Nvidia 真的股價有點高
... <看更多>