上星期心血來潮有個諗法:「不如請大家分享嘅自己想睇但又無時間睇嘅書。」
點解咁做?一來,係因為我想更深入咁認識呢度嘅朋友。二來,我亦想借呢個機會,擴闊下自己嘅眼界。
最終,我執咗十七本書;其中十三本係 Patreon 會員提名,另外有四本係我自己嘅推介。希望 2021 嘅上半年,可以寫起晒以下呢十七本書嘅精讀掫要同評論,同 Patreon 嘅會員分享。
加入 Room 101 by 利世民
https://www.patreon.com/join/LeeSimon/checkout?rid=6507958
=== 我 是 分 隔 線 = = =
【#1|Benoit Mandelbrot, The (MIs)Behavior of Markets 】 點解市場咁唔穩定,不可測?當一個系統裡面有好多互為因果嘅關係,其實好自然就係唔穩定同不可測。知道咗喇,咁又點呢?相信大家最想知嘅答案係:「假如明知市場嘅特點,又可以點樣征服市場?最低限度,點樣先至唔會轟烈陣亡?」最後,雖然多數人見到呢個題目都會諗到財經金融,但其實一理通,百理明,任何社會現象背後嘅演變軌跡,亦大同小異。
【#2 |Timothy Brook, Great State: China and the World 】 呢本書嘅重點係:「目前我哋見到嘅中國,其實延伸自被蒙古征服之後所建立嘅大國家結構(Great State)。」書裡面十三個單元,可以單獨去睇,但串埋一齊,又有個更大嘅故事。最重要係,歷史書,睇落好似講過去,但作者好多時都係講緊目前;當然,更值得大家推敲嘅,係究竟從作者所鋪陳嘅歷史,究竟 Great State 嘅未來又會點。
【#3 |Steven Pinker, The Better Angels of Our Nature: Why Violence Has Declined 】 雖然我哋成日都覺得,兩次世界大戰好暴力,死好多人;有啲社會,好似美國,槍械泛濫,日日都有人死。但實際上,今時今日嘅世界,人與人之間嘅暴力,少過以前好多。人類文明嘅定義,就係唔再講打打殺殺,係咪?但點解會有呢個現象呢?如果話人性本來就係殘酷惡毒,又係乜嘢原因令人嘅獸性受到壓抑呢?又或者,過去幾十年來相對嘅非暴力,其實只係異數?
【#4 | Neil Postman, Amusing Ourselves to Death: Public Discourse in the Age of Show Business 】 呢本書最初出版係 1985年,當時最主流嘅娛樂係睇電視。但到今時今日仍然有人話,呢本書嘅講法一樣可以用來分析 social media 。當一個觀念可以貫穿唔同嘅時空,佢就符合經典呢個定義。究竟 The medium is the metaphor 呢句說話,係乜嘢意思?假如話電視係「公仔箱」,咁手機又應該係乜嘢呢?
【#5 | Ray Dalio, Principles, Life and Work 】 Ray Dalio 搵好多錢,好叻,我最初留意佢,亦都係因為 Bridgewater Associates 旗下基金曾經跑贏大市。不過,如果因為佢搵好多錢就睇佢寫嘅嘢,就好容易失望,因為我唔相信成功可以複製。好多年前,Principles 仍然係一份可以免費 download 嘅 pdf,我都已經搞過讀書會討論分享。Ray Dalio 係個有諗法嘅人,佢亦都好落力去宣揚佢相信嘅價值觀。Principles 裡面所描繪嘅做人態度,我形容係「極端理性主義」;究竟咁理性嘅人,係咪好不近人情呢?當然,我咁講得,就梗係覺得唔係喇!我甚至乎覺得,極端理性主義,先係真正嘅大情大性。
【#6 | Simon Sebag Montefiore, Jerusalem: The Biography 】 話說有種心理病叫「耶路撒冷症候群」(Jerusalem Syndrome),去到耶路撒冷嘅人,會忽然感覺到聖靈嘅感召,做出一啲好怪異嘅行為。但生活響耶路撒冷嘅人,又會點呢?呢本書嘅作者野心好大,用一個地方嘅人同事,去刻劃三大宗教三千年嘅歷史。其實,過去我一直有個疑惑:明明地球咁大,大把地方嘅條件好過耶路撒冷,點解幾千年來,呢班人究竟係爭緊啲乜嘢?
【#7 | Eric Hobsbawm, Fractured Times: Culture and Society in the 20th Century 】 因為想從一個馬克斯主義者嘅角度睇現代資本主義社會嘅歷史,所以其實我一直都想開始讀 Hobsbawm 嘅著作。既然有朋友提名呢本書,就不如由呢本開始喇。
【#8 | Michael Sandel, The Tyranny of Merit: What’s Become of the Common Good 】 好多人鍾意 Michael Sandel ;佢嘅 Justice 同 What Money Can’t Buy 我都有認真去讀。坦白講,我認為 Sandel 叻在將知識普及,但就唔算得有咩個人又或者創新嘅構想。不過,就算係唱「別人的歌」,只要唱得好都值得欣賞嘅。Meritocracy,粗粗地咁可以解做「有能者居之」究竟 Sandel 會點樣去反對?
【#9 | Robert Greene, The 48 Laws of Power 】 Greene 嘅書,我淨係睇過佢寫嘅 Mastery。如果無記錯,當時應該係睇完 Malcolm Galdwell 嘅 Outliers 之後,順手睇埋。我對 Greene 嘅評價係:「一個好識得將唔同嘅故事炒埋一碟上枱嘅作者。」
【#10 | David Benatar, Better Never to Have Been: The Harm of Coming into Existence 】 呢個提名好特別;雖然我只係好簡略咁睇過些少背景資料,但直覺已經話我知,呢本書個種離經叛道嘅程度,係 handle with care 嘅級數。
【#11 | Niall Ferguson, The Square and the Tower: Networks and Power from the Freemasons to Facebook】 呢本書其實都係我自己嘅書單上面好耐;我想睇呢本書係因為佢嘅主題係 Network (The Square) vs Hierarchy (The Tower) 。但令我有少少猶豫嘅係呢本書有少少標題黨;我都幾肯定,有人以為本書係講 Freemasons 同 Facebook 嘅秘聞就衝咗去買。
【#12 | Matthew Walker, Why We Sleep: Unlocking the Power of Sleep and Dream 】 提名呢本書嘅朋友,問我有冇話一定要咩範圍。其實我近年嘅興趣都好雜;好似之前 James Nestor 嘅 Breath ,我唔單止有睇,做埋實驗㗎。
【#13 | Jane Mayers, The Dark Side: The Inside Story of How the War on Terror Turned Into a War on American Ideals】
【#14 | Jane Mayers, Dark Money: The Hidden History of the Billionaires Behind the Rise of the Radical Right 】 呢兩本書,The Dark Side 係講 911 後嘅美國,Dark Money 係講 Obama 年代共和黨嘅分裂同變異。一睇就知,作者好唔鍾意共和黨;但我又睇吓,究竟呢個本書可以有幾咁深入,有幾多大家未聽過嘅秘聞。
【#15 | Kate Fox, Watching the English: The Hidden Rules of English Behavior 】 似乎係本輕鬆小品;既然呢期咁多香港朋友都諗住去英國,又或者已經身在英倫,寫呢本書嘅推介,應該有市場啩。
【#16 |Kevin Kelly, What Technology Wants 】Kevin Kelly 我嘅形容係「奇男子」「先知」;先知,其實都係早過你知,但佢就早過我哋知一啲好重要嘅嘢。例如早在 2008 年佢就提出,話有 1000 個真正 fans 就可以做一個專業嘅 creator;呢個講法,比起依家大行其道嘅 passion economy,早咗十年。但我認為 Kevin Kelly 嘅真正代表作,係呢本 What Technology Wants。Kevin Kelly 對科技嘅發展,好樂觀;就算終有一日,機器嘅智能,將會做到甚至超越人類,但咁又點?汽車快過人類,咁你係咪打跛雙腳吖?工具嘅存在,被動咁睇係解決問題,但主動咁睇係去增加我哋嘅可能性。Kevin Kelly 用嘅例子係:如果莫扎特出生早一百年,當時冇鋼琴,咁佢仲係唔係咁偉大?雖然呢本書係十年前嘅作品,但先知嘅預言,就梗係要攤一陣先至可以公道咁評論,係咪?
【#17 |Garry Kasparov, Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins 】今季壓軸係 Kasparov 講返佢象棋事業高山低谷嘅自傳。雖然呢本書唔少篇幅講佢對 Deep Blue 嘅對弈。但就算你唔識,又或者唔鍾意捉棋,都不得不配佩 Kasparov 嘅 insight:「既然人類遲早都會輸比電腦;我寧願做歷史上第一個輸畀電腦嘅世界冠軍。」當然,輸咗棋之後,佢一定好多反省,但佢嘅結論係唔應該抗拒電腦,反而係要諗點樣用電腦令人腦嘅功能更強大。Kasparov 都有講到 Singularity,但佢比 Kevin Kelly 更樂觀;唔好忘意,Kasparov 曾經當住全世界面,畀電腦活生生咁蹂躪,連佢都話人工智能是個好東西,或者我哋都應該趁早了解其實呢個係一個咩心態。
同時也有2部Youtube影片,追蹤數超過24萬的網紅暗網仔 2.0,也在其Youtube影片中提到,Instagram: https://www.instagram.com/dw_kid12/ Facebook: https://www.facebook.com/deepwebkid/?modal=admin_todo_tour 訂閱: https://www.youtube.com/chann...
「singularity意思」的推薦目錄:
- 關於singularity意思 在 利世民 Facebook 的最佳解答
- 關於singularity意思 在 余海峯 David . 物理喵 phycat Facebook 的精選貼文
- 關於singularity意思 在 李開復 Kai-Fu Lee Facebook 的最佳貼文
- 關於singularity意思 在 暗網仔 2.0 Youtube 的精選貼文
- 關於singularity意思 在 Mickey Peng Youtube 的最佳解答
- 關於singularity意思 在 【防彈音樂解說】BTS《Singularity》聽起來這麼迷幻都是因為 ... 的評價
- 關於singularity意思 在 Singularity有奇特或是唯一的意思... - 防彈:: Born Singer x Born ... 的評價
singularity意思 在 余海峯 David . 物理喵 phycat Facebook 的精選貼文
【立場轉載】【2020 諾貝爾物理學獎】廣義相對論與宇宙最黑暗秘密
打風落雨留在家,為何不試試學習黑洞的理論呢?😹😹😹
//諾貝爾獎有三個科學奬項,我們在學校也習慣以「物理、化學、生物」等不同科目去區分不同科學領域。這種分界當然能夠方便我們以不同角度去理解各種自然現象,但大自然其實是不分科目的。科學最有趣的是各種自然現象環環相扣,我們不可能只改變大自然的某一個現象而不影響其他。就好像蝴蝶效應,牽一髮而動全身。
廣義相對論間接推論暗物質存在的必要
廣義相對論是目前最先進的重力理論,它能夠解釋迄今為止所有實驗和觀測數據。然而,天文學家發現銀河系的轉速和可觀測宇宙的物質分佈,都顯示需要比觀測到的物質更加多的質量。這是物理學的其中一個未解之謎,有時會被稱為「消失的質量」問題。那些「應該在而卻看不到」的物質,就叫做暗物質 (dark matter) 。
有些物理學家猜測,會否根本沒有暗物質,而是廣義相對論需要被修改呢?他們研究「修正重力 (modified gravity) 」理論,希望藉由修正廣義相對論去解釋這些觀察結果,無需引入暗物質這個額外假設。可是從來沒有修正重力理論能媲美廣義相對論,完美地描述宇宙一切大尺度現象。
天文學研究向來難以得到諾貝爾獎,因為天文發現往往缺乏短期實際應用。然而過去十年之間,有關天文發現的研究卻得到了五個諾貝爾物理學獎。換言之,過去幾十年間改變人類對宇宙的基本認知的,有一半是來自於天文現象。其中有關廣義相對論的包括 2017 年的重力波觀測、 2019 年的宇宙學研究,以及 2020 年的黑洞研究。
不過很少人提及這三個關於廣義相對論的發現其實同時令暗物質的存在更加可信。因為這些發現測量得越精確,就代表廣義相對論的錯誤空間更小。換句話說,物理學家越來越難以靠修正重力去解釋「消失的質量」問題,所以暗物質的存在就越來越有其必要了。
換句話說,如果證明黑洞存在,其對科學的影響並不單止是為愛因斯坦的功績錦上添花,而是能夠加深人類對構成宇宙的物質的理解。
描述四維時空的圖
談黑洞之前,我們首先要理解一下,物理學家是如何研究時空的。研究時空的一種方法,就是利用所謂的時空圖 (spacetime diagram) 。一般描述幾何空間的圖,在直軸和橫軸分別表示長和闊,形成一個二維平面。有時更可按需要加多一條垂直於平面的軸,代表高度。長、闊、高,構成三維空間。但如果要再加上時間呢?那麼就再在垂直於長、闊、高的第四個方向畫一條軸吧。咦?
怎麼了,找不到第四個方向嗎?這是當然的,因為我們都是被囚禁在三維空間之中的生物。如果有生活在四維空間裡的生物,牠們會覺得我們很愚蠢,問我們:「為什麼不『抬頭』?第四個方向不就在這邊嗎?」就像我們看著平面國的居民一樣,在二維生物眼中,牠們的世界只有前後左右,沒有上下。到訪平面國的我們也會問:「為什麼不『抬頭』?第三個方向不就在這邊嗎?」但牠們無論如何也做不到。
宇宙是三維空間,另外加上時間。如果要加上時間軸這個「第四維」的話,我們就必須犧牲空間維度。物理學家使用的時空圖就是個三維空間,直軸代表時間(時間軸)、兩條水平的橫軸代表空間(空間軸)。當然,把本來的三維空間放在二維的平面上,我們需要一些想像力。在時空圖上,每個點都代表在某時某地發生的一件事件 (event) ,因此我們可以利用時空圖看出事件之間因果關係。一個人在時空中活動的軌跡,在時空圖上稱為世界線 (world line) 。
由於時間軸是垂直的,並且從時空圖的「下」向「上」流動。一個站在原地位置不變的人的世界線會是平行時間軸的直線。由於光線永遠以光速前進,光線的世界線會是一條斜線。而只要適當地選擇時間軸和空間軸的單位,光線的世界線就會是 45 度的斜線。因為沒有東西能跑得比光快,一個人未來可以發生的事件永遠被限制在「上」的那個由無數條 45 度的斜線構成的圓錐體之間,而從前發生可以影響現在的所有事件則永遠在「下」的圓錐體之間。這兩個「上」和「下」的圓錐體內的區域稱為那個人當刻的光錐 (light cone) ,而物理學家則習慣以「未來光錐 (future light cone) 」和「過去光錐 (past light cone) 」分別表示之。
所有東西的世界線都必定被位於未來和過去光錐之內。在沒有加速度的情況下,所有世界線都會是直線。如果涉及加速,世界線就會是曲線。而廣義相對論的核心概念,就是重力與加速度相等,兩者是同一種東西。因此我們就知道如果在時空圖上放一個質量很大的東西,例如黑洞,那麼附近的世界線就會被扭曲。不單是物質所經歷的事件,連時空也會被重力場扭曲,因此時空圖上的格網線和光錐都會被扭曲往黑洞的方向。換句話說,越接近黑洞,你的越大部分光錐就會指向黑洞內部。因為你的世界線必須在光錐之內,你會剩下越來越小的可能逃離黑洞的吸引。
2020 年的諾貝爾物理學獎一半頒給了彭羅斯 (Roger Penrose) ,以表揚他「發現黑洞形成是廣義相對論的嚴謹預測」。在彭羅斯之前的研究,大都對黑洞的特性作出了一些假設,例如球狀對稱。這是因為以往未有電腦能讓物理學家模擬黑洞,只能用人手推導方程。但廣義相對論是非線性偏微分方程,就算不是完全沒有可能也是極端難解開的,所以物理學家只能靠引入對稱和其他假設去簡化方程。因此許多廣義相對論的解都是帶有對稱假設的。這就使包括愛因斯坦在內的許多物理學家就疑惑,會不會是因為額外加入的對稱假設才使黑洞出現?在現實中並沒有完美的對稱,會不會就防止了黑洞的出現?
黑洞只是數學上的副產品嗎?
彭羅斯發現普通的高等數學並不足以解開廣義相對論的方程,因此他就轉向拓撲學 (topology) ,而且必須自己發明新的數學方法。拓撲學是數學其中一個比較抽象的分支,簡單來說就是研究各種形狀的特性的學問。 1963 年,他利用一種叫做共形變換或保角變換 (conformal transformation) 的技巧,把原本無限大的時空圖(因為空間和時間都是無限延伸的)化約成一幅有限大小的時空圖,稱為彭羅斯圖 (Penrose diagram) 。
彭羅斯圖的好處除了是把無限縮為有限,還有另一個更重要的原因:故名思義,經過保角變換後的角度都不會改變。其實在日常生活中,我們經常都會把圖變換為另一種表達方式,例如世界地圖。由於地球表面是彎曲的,如果要把地圖畫在平面的紙上,就必須利用類似的數學變換。例如我們常見的長方形或橢圓形世界地圖,就是利用不同的變換從球面變換成平面。有些變換並不會保持角度不變,例如在飛機裡看到的那種世界地圖,在球面上的「直線」會變成了平面上的「曲線」。
扯遠了。回來談彭羅斯圖,為什麼他想要保持角度不變?因為這樣的話,光錐的方向就會永遠不變,我們可以直接看出被重力影響的事件的過去與未來。彭羅斯也用數學證明,即使缺乏對稱性,黑洞也的確會形成。他更發現在黑洞裡,一個有著無限密度的點——奇點 (singularity) ——必然會形成。這其實就是彭羅斯-霍金奇點定理 (Penrose-Hawking singularity theorem) ,如果霍金仍然在世,他亦應該會共同獲得 2020 年諾貝爾物理學獎。
在奇點處,所有已知物理學定律都會崩潰。因此,很多物理學家都認為奇點是不可能存在宇宙中的,但彭羅斯的計算卻表明奇點不但可以存在,而且還必定存在,只是在黑洞的內部罷了。如果黑洞會旋轉的話(絕大部分都會),裡面存在的更不會是奇點,而是一個圈——奇異圈 (singularity ring) 。
黑洞的表面拯救了懼怕奇點的物理學家。黑洞的表面稱為事件視界 (event horizon) ,在事件視界之內,你必須跑得比光線更快才能回到事件視界之外。因此沒有任何物質能夠回到黑洞外面,所以黑洞裡面發生什麼事,我們都無從得知。就是這個原因給予了科幻電影如《星際啟示錄 (Interstellar) 》創作的空間——在黑洞裡面,編劇、導演和演員都可以天馬行空。只要奇點永遠被事件視界包圍,大部分科學家就無需費心去擔心物理學可能會分崩離析了。甚至有些科學家主張,研究黑洞的內部並不是科學。
雖然如此,卻沒有阻礙彭羅斯、霍金等當代理論天體物理學家,利用與當年愛因斯坦所用一樣的工具——紙和筆——去研究黑裡面發生的事情。雖然或許我們永遠無法證實,但他們的研究結果絕非無中生有,而是根據當代已知物理定律的猜測,即英文中所謂 educated guess 。利用彭羅斯圖,我們發現不單奇點必定存在,而且在黑洞裡面,時間和空間會互相角色。
但這是什麼意思?數學上,時間和空間好像沒有分別,但在物理上兩者分別明顯:在空間中我們可以自由穿梭,但在時間裡我們卻只能順流前進。彭羅斯發現,帶領掉入黑洞的可憐蟲撞上奇點的並非空間,而是時間,因此我們也說奇點是時間的終點。亦因為在黑洞裡面掉落的方向是時間,向後回頭是不可能的,所以一旦落入黑洞,就只能走向時空的終結。
看見黑洞旁的恆星亂舞
另一半諾貝爾獎由 Reinhard Genzel 和 Andreas Ghez 平分,以表揚他們「發現銀河系中心的超大質量緻密天體」。銀河系中心的確有一個超大質量的物體,而且每個星系中心都有一個。這些質量極大的物體,就是所謂的超大質量黑洞 (supermassive blackholes) 。
上世紀 50 年代開始,天文學家陸續發現了許多會釋放出無線電輻射的天體,稱為類星體 (quasars) 。之後其中一個類星體 3C273 被觀測確認是銀河系外的星系中心。根據計算, 3C273 釋放出的無線電能量是銀河系中所有恆星的 100 倍。起初,天文學家認為這些能夠釋放巨大能量的類星體,必然是些比太陽重百萬倍的恆星。但是理論計算結果卻表明,這麼重的恆星會是極不穩定的,而且壽命會非常短,因此類星體不可能是恆星。
為什麼這些類星體不可能是恆星?因為恆星的發光度是有極限的,而且正比於恆星的質量。這個極限稱為愛丁頓極限 (Eddington limit) 。如果恆星的發光度超出愛丁頓極限,光壓(radiation pressure ,即光子對物質所施的壓力)就會超過恆星自身的重力,恆星就會變得不穩定。因此,天文學家逐漸改而相信類星體是位於星系中心的超大質量黑洞。這也令類星體多了一個名字:活躍星系核(active galactic nucleus)。
每個黑洞旁邊都有一個最內穩定圓形軌道 (innermost stable circular orbit) ,依據黑洞會否旋轉而定,大概是黑洞半徑的 3–4.5 倍。比最內穩定圓形軌道更接近黑洞的範圍,環繞黑洞運行的物質都會因不穩定的軌道而墜落黑洞之中,並在墜落的過程中釋放出 6–42% 的能量,因此可以解釋活躍星系核的強大發光度。
另一方面,彭羅斯在 1969 年亦發現一個旋轉的黑洞能夠把能量轉給物質,並且把物質拋出去,這個過程稱為彭羅斯過程 (Penrose process) 。換言之,從黑洞「偷取」能量是有可能的。科學家估計,科技非常先進的外星文明有可能居住於黑洞附近,並利用彭羅斯過程從黑洞提取免費的能源。這個過程亦進一步支持超大質量黑洞能夠釋放巨大能量的理論。
由於 E=mc2 ,能量即是質量,因此被偷取能量的黑洞的質量就會減少。霍金在 1972 年發現一個不會旋轉的黑洞的表面積不可能減少。黑洞質量越大,其表面積就越大,因此不會旋轉的黑洞不會有彭羅斯過程。他亦發現,如果是個會旋轉的黑洞,其表面積是有可能減少的。因此霍金的結論支持了彭羅斯的理論。
Genzel 和 Ghez 兩人的研究團隊已經分別利用位於智利的歐洲南方天文台 (European Southern Observatory) 的望遠鏡和位於夏威夷的凱克望遠鏡 (Keck Telescope) 監察了距離地球約 25,000 光年的銀河系中心區域將近 30 年之久。他們發現有很多移動速度非常快的恆星,正在環繞一個不發光的物體轉動。這個不發光的物體被稱為人馬座 A* (Sagittarius A*, 縮寫為 Sgr A*) 。 Sgr A* 會放出強大的無線電波,這點與活躍星系核的情況相似。
他們不單確認了這些恆星的公轉速率與 Sgr A* 的距離的開方成反比, Genzel 的團隊更成功追蹤了一顆記號為 S2 的恆星的完整軌跡。這兩個結果都表明, Sgr A* 必然是一個非常細小但質量達 400 萬倍太陽質量的緻密天體。這樣極端的天體只有一種可能性:超大質量黑洞。
霍金輻射 黑洞的未解之謎
諾貝爾物理學委員會在解釋科學背景的文件中亦特別提及霍金的黑洞蒸發理論以及霍金輻射 (Hawking radiation) 。現時仍然未能探測到霍金輻射的存在,未來若成功的話除了將再一次驗證廣義相對論以外,更會對建立量子重力理論 (quantum gravity theory) 大有幫助。就讓我們拭目以待吧!
重力波研究、宇宙學研究、黑洞研究,都是直接檢驗廣義相對論預言的方法。加上 2019 年 4 月 10 日公布的黑洞照片,大自然每一次都偏心愛因斯坦。相信愛因斯坦在天上又會伸出舌頭,調皮地說:「我早就知道了!」//
singularity意思 在 李開復 Kai-Fu Lee Facebook 的最佳貼文
近日,我與阿萊克斯·彭特蘭教授(Alex Pentland)展開了一場”AI如何重塑人類社會”的精彩對話。
《連線》雜誌的資深撰稿人威爾·奈特(Will Knight)主持了這場對話。
阿萊克斯·彭特蘭教授任教于麻省理工學院,為全球大資料權威專家之一,現任MIT連接科學研究所主任、MIT媒體藝術與科學教授,擁有“可穿戴設備之父”、《福布斯》“全球七大權威大資料專家”、《麻省理工科技評論》“年度十大突破性科技”兩度桂冠獲得者等頭銜,曾參與創建MIT媒體實驗室,是全球被引述次數最多的計算科學家之一。
對話金句:
李開復:
AI最大的機會蘊藏在與傳統企業的結合中,這種價值的產生極其迅速,只需要幾個月,甚至短短幾周。
未來突破很難預測,對奇點、超級智慧的爭辯,在我看來都過於樂觀了。
小型AI公司與巨頭競爭,我的建議是找准巨頭沒有平臺優勢的細分領域,為某個針對性產業創造價值,不要與巨頭核心業務正面硬碰。
阿萊克斯·彭特蘭:
AI絕非試圖取代人類,而是促進多元文化之間的相互連接、團隊合作,讓人們更好的進行社交和連接彼此。
最困難的其實是說服人們改變商業流程去使用AI,因為大多數人是墨守成規的。
人工智慧有朝一日可以取代人類所有的能力,但是這個過程會非常漫長,可能需要上百年或更久。
我在對話中表示,當我們試圖解決AI問題時,應該用技術來解決技術的問題,可以尋求與監管部門協作,而不只是丟給他們,“新技術會衍生新的問題,我們應該多方嘗試用更進階的技術性解決方案,就像電腦病毒剛出現時,殺毒軟體隨之誕生。”
彭特蘭教授認為,人工智慧的核心,是促進多元文化之間的相互連接。不只是工程師或科學家,連經濟學家、政治家都必須參與進來。“國家之間應該促進合作、制定互通標準,就像TCP/IP互聯網協定那樣,避免AI冷戰。” 我們都贊同,AI發展從來不是單打獨鬥,跨學科思維、跨領域合作尤為重要。 這場對話是麻省理工學院中國創新與創業論壇(MIT-CHIEF) 組織的高峰對話系列活動,主題是《計算與未來: AI與資料科學如何重塑人類社會》。
麻省理工學院中國創新與創業論壇(MIT-CHIEF)由麻省理工學院的中國留學生創立,至今已有十年,是北美歷史最悠久的、由高校學生組織的中國創新創業論壇。系列高峰對話邀請了頂級科學家、投資人及創業者,共同探討科技創新及商業化過程中面臨的挑戰。
以下是我們對話的核心內容,由我的同事整理、分享給大家:
Part I 主題演講
▌李開復:各方應協作,讓AI 更務實
非常榮幸再次受到MIT-CHIEF的邀請,對於人工智慧的看法,這次我主要想講四點。
第一點是我書裡的主題,人工智慧的超能力。我們已經從人工智慧的發明期步入應用期階段,從應用落地層面來說,正迎來了AI發展最大的機遇。
很多科技公司目前已對人工智慧進行了多樣化佈局,從視覺、語言、觸覺和其他感知技術,到自動化機器人、無人駕駛等,對很多領域開啟了深遠的影響。雖然眼下所見的AI應用仍有局限性,但我預測未來的格局會非常龐大,依據統計,各行各業採用AI的程度目前不到5%,AI應用的中長期增長曲線相當可期。
第二點是我很欣喜看到的一點,AI正在和傳統行業深度融合。隨著人們對人工智慧的瞭解越來越多,更多的AI公司湧現出來。
AI最大的機會蘊藏在與傳統企業的結合中,創新工場也正在説明金融、製造、物流、零售、醫療等行業的公司進行AI變革。
作為AI投資人,我認為在這些行業如果找到正確的AI應用方向,就能帶來上千萬的回報。這種商業價值的產生是極其迅速的,通常只需要幾個月,甚至短短幾周就能看到成果。
現在人工智慧在傳統產業的滲透率仍在個位數,仍然有很大的提升空間。然而對於很多公司來說,它們需要的是高度定制化的方案,而非通用型AI方案,所以融合的過程中,不可避免會遇到不少挑戰和痛點。
第三,我早年做過很多科研工作,很高興能看到關於系統一和系統二(System One, System Two)的討論,我們期待人工智慧技術從系統一升級為系統二,即從識別、決策、優化等能力,升級到感知、認知等進階智慧的能力。
有不同的學派都在努力讓人工智慧更接近人類智慧,其中一個流派主張回歸經典的AI理念,甚至重新構建嶄新的模型結構,在深度學習技術的基礎上利用人類的知識。但我更支持另一個理論——深度學習的潛力還沒有完全釋放。
回看人工智慧過去60多年的歷程,最大的突破來自於計算能力和資料量大增而產生的可擴展演算法。我們看到了卷積神經網路(CNN)帶來的喜人成績,還有預訓練自然語言處理模型(Pre-Trained Models for Natural Language Processing)的廣泛運用。
預訓練模型與人類語言學習的模式類似,不管是英語還是中文,在習得這些語言之後,再去學習程式設計、藝術、化學。在無人監督的學習環境中,這種模式比我們想像得還要強大,就像阿爾法圍棋(AlphaGo)一樣。
最後一點我想說的是,如何讓AI變得更務實。
AI有很多問題,例如隱私、資料安全、治理和監管,在此就不一一討論了。當我們試圖解決這些AI難題時,有人認為讓監管部門加強管理是唯一辦法,其實不然,我們是否也可以朝著研發更厲害的技術性解決方案去努力?
就像電腦病毒剛出現時,殺毒軟體隨之誕生;面對千年蟲難題時,也迅速找到了技術應對方案。我們可以通過研發新技術,應對DeepFake深度換臉程式的挑戰;或者通過聯邦學習技術,在保證資料私密性的同時,滿足深度學習訓練需求。
作為握有技術能力的群體,我們需要與監管部門一起協作,而不只是把工作丟給他們。相信有了各方的助力,我們可以讓AI的應用變得更有深度,更加務實,更高效地克服現在面臨的種種問題。
▌阿萊克斯·彭特蘭:國家間應建立互通標準,避免“AI冷戰”
我對當前的深度學習技術不太樂觀。
最為主要原因是,深度學習不僅需要龐大的資料來源,而且要求這些資料長時間恒定不變,以保證模型訓練結果的可靠性,例如人類的面容、語言,就是相對穩定不變的資料來源。
但深度學習卻沒法應對快速變化的真實情況。亞馬遜在新冠疫情蔓延速度暴增時,出現了倉庫貨物緊缺,不得不停止送貨服務。這種經過深度學習高度優化後的系統發生崩潰,就是因為快速變化的疫情,和深度學習對恒定資料來源的需求是矛盾的。
另外,我想談談如何通過聯邦學習,促進資料的流通。
大多數公司沒有足夠豐富的資料,需要聯合不同的資料來源。基於這種需求,出現了很多新商業模式,比如“資料經紀人”——他們不出售資料,而是把資料借出去,作特定需求的使用。
“資料經紀人”業務湧現了很多,他們促進了資料的流通,也加強了資料的隱私性。因此,像聯邦學習這樣的技術和商業策略結合,有效解決了資料在合規性和所有權方面的難題。
聯邦學習也依賴於新的基礎設施建設,為資料應用和深度學習提供基礎環境,比如區塊鏈技術。現在世界上很多國家在做相關系統的建設實驗,新加坡等國家設置了一種相互競爭的區塊鏈系統,來解決支付和物流問題。我們最近也幫助瑞士做了類似的實驗,涉及不同資料的互通性和連貫性問題。
我們仍在研究如何用儘量少的資料,實現人工智慧的目標。少量資料是指不斷更新的短期資料,這些資料能使AI應對迅速變化的情況,並及時做出調整。
我們打算將AI與其他基礎科學結合,例如阿爾法圍棋(AlphaGo)就是這類結合的初步嘗試。這些方法不依賴于大量恒定資料,可能會比深度學習更加強大。
除此之外,我們在探討用AI保障聯邦學習過程中不同資料方的權益,這是實現不同國家之間的互通性、支付信任度、物流運輸等方面合作的關鍵前提。
另一方面,我們探索如何將AI技術應用於加密資料上。我們和大公司以及政府密切合作,找出解決系統入侵和保障網路安全的方法。
我同時花了很多時間研究與政府的合作。政府很多時候不知道如何通過大資料做決策,也不知道如何進行資料優化。而AI能夠幫助政府實現更高的效率,比如聯合國現在已經有了很多可持續發展目標的相關評估指標,世界經濟論壇也可以為會員國提供不同的標準測算。
基於我們已有的多中繼資料庫,現在可以利用AI實現全新的資料優化方式,將貧困、不平等這種之前無法量化的指標,通過可量化的指標進行評估。
同時,要真正實現這個目標,我們還需要制定統一的互通性標準。如果沒有這個標準,國家之間就不會相互信任去合作,就可能出現AI冷戰。
因此我們需要找到促進合作的方式,就像TCP/IP互聯網協議那樣。而之前我提到的,新加坡、瑞士等現在正在嘗試的區塊鏈系統,將有希望解決國家間缺乏互通標準的問題。
Part II 對話
▌ 美國線上教育發展難度更大,只在ZOOM上講課是不夠的
Q1:疫情加速了行業的改變,遠端醫療、線上教育開始蓬勃發展,這只是AI對人類社會產生影響的冰山一角。想請兩位談一談,目前看好AI在哪些領域應用的未來前景?
李開復:疫情的確對整個社會產生了實質性的影響,人們行為習慣發生了很多改變,更願意接受線上學習和工作了。
這種新的行為習慣產生了大量資料流程,為AI應用帶來了更多可能性。比如大健康領域以及遠端醫療中所產生的資料,可以訓練更智慧的模型。同時更多人開始在基因組學、新藥研發方面結合新的AI技術進行研究,因此我相信AI在醫療健康領域的潛能是非常巨大的。
AI與教育的結合也很值得期待。一方面可以説明老師處理重複性的日常事務,例如批改作業,讓老師得以將時間精力投入到更有創造性的事情上,能更悉心地為孩子提供優質教學。另一方面可以提高學生的課堂參與度和積極性,比如設置卡通版AI虛擬老師,讓課程充滿趣味性。
在中國,有很多線上教育公司在疫情之前就已經發展迅速,像創新工場投資的VIPKID,讓國外的純正英語老師線上上教授中國學生。目前,中國的線上教育已經擴展到了更多科目,包括體育、舞蹈、書法等素質教育課程。
相比之下,美國線上教育發展的難度會更大。畢竟只在ZOOM上講課是不夠的,好的線上教育必須要有好的內容。
▌AI核心是增強人際互聯,應注重文化多樣性
阿萊克斯·彭特蘭:李開復博士提到的教育案例,我不是很認同。
MIT大約20年前就在教育中使用AI,重點根本不是內容,我們甚至提倡將內容免費開放給大眾。
AI絕非試圖取代人類的作用,我們更強調用AI增強人與人之間的互動,讓人們更好的社交和連接彼此。比如手機上人工智慧技術,不是要取代你,而是讓你高效地找到最適合的工作、最正確的人,讓你更容易的獲取資訊,並進行創新。
我們可以利用資料激發更強的創新力,培養領導力。只有基於這樣的宗旨,才能促進更有創造力的教育和學習,這比關注教育內容本身重要得多。
在加拿大,有家創業公司正在訓練普通民眾學習AI,比如水管工,教學效果非常不錯。他們的教育方式不是簡單的教授基本知識,而是以一種能夠激發人們互動思考的方式。
我們之前在中國調研了3000多個孵化器,發現創業公司成功的要素裡,第一個是文化多樣性,也就是說創始團隊背景的複雜性和多樣性。第二個是團隊成員專業的多樣性,他們能否發揮自己所長,並很好地進行團隊合作。
1956年,馬文·明斯基 (Marvin Minsky)提出了人工智慧這個詞。但我們對於人工智慧的理解,不應該只停留在“人工”層面,而應擴展到多元文化之間的相互連接、團隊合作,我把它叫做延伸智能(Extended Intelligence)。這也是我想強調的,人工智慧這個名詞有一定的偶然性,但它的核心點是增強人與人之間的互聯性。
▌AI未來突破難預測,奇點、超級智慧過於樂觀
Q2:未來十年AI有沒有可能取得重要突破?比如GPT-3近期展現驚人的能力。兩位認為未來的突破方向是什麼?
李開復:過去60多年來,深度學習是唯一的重大突破。在這之後,卷積神經網路(CNN)和GPT-3等都算是重要的改善,我對於人工智慧的漸進式改善保持樂觀。
對科學家來說,他們更期待著技術上的突破式進展。但我覺得未來十年基礎科研或許不會有大的突破。但模型相對容易,只要有大量的資料,就可以從實驗室進入到行業應用,CNN和GPT-3都是模型加海量資料的成果。
我是務實派的,雖然持有樂觀態度,但並不是一位“未來學家”。未來的突破很難預測,對奇點(Singularity)的爭辯,甚至預測超級智慧的出現,在我看來都過於樂觀了。
阿萊克斯·彭特蘭:我同意李博士的觀點。很多生物機制很難解釋,包括用感知認識事物、理解聲音、尋找食物等,是深度學習演算法做不到的。但深度學習可以研究科學、制定規則、研究理論,並進行實踐。
從務實的角度來說,我最感興趣的就是聯邦學習。就醫療而言,我們有這麼多醫院,在新冠疫情期間做了很多的實驗,為什麼這些實驗資料不能進行聯合呢?
儘管資料有不相容的地方,但這也是一個很好的機會去探究不同的資料之間的關聯性。在未來,我們對資料的需求也許會越來越少,外科醫生或者物理學家或許不需要太多資料,因為他們對規則已經瞭若指掌了。
▌不要墨守成規,要跨領域、跨學科應對挑戰
Q3:人工智慧會有什關鍵挑戰?對於想從事這個行業的人,有什麼是需要瞭解的關鍵點?
李開復:首先,大背景在改變,新科技層出不窮,我們每年都需要學習新的東西。
其次,人工智慧可能引起各種問題,包括偏見、歧視、倫理道德等,是否危害人類的身體健康,無人駕駛技術該何去何從等等。
第三,人工智慧的研發需要深刻地理解技術對社會、生活與人類健康會產生的影響。我非常欣賞斯坦福和MIT這樣的高校,能夠把AI教育擴展到各個學科,讓研發人員及早意識到自己的責任和價值。
阿萊克斯·彭特蘭:是的,我朋友做過一個有關電的趣味類比,電動馬達最初在工廠裡用於生產的時候,並沒有發揮出多大的作用,因為大家並不知道如何改造生產流程。
AI在一些領域發揮的作用是顯著的,但應用到其他領域時,就需要改造流程。很多情況下,最困難的就是說服人們改變商業流程去使用AI,因為大多數人是墨守成規的。
而有意思的是,就像李博士提到的,像MIT和斯坦福這樣的高校確實在認真嚴肅地對待這個問題。
比如,我今天早上正好就這個話題跟G20領導人對話,大家一致認為我們必須從跨領域、跨學科的角度去面對這個問題,不能只是工程師或者社會科學從業者們在做,經濟學家,政治家等等都必須參與進來緊密合作。
隨著AI的應用領域越來越廣,除了必須具備強有力的技巧來建立社會規則,還需要對研究經費、企業投入等進行各種調整。
▌雖然大公司實力不容小覷,但依舊對小公司抱有期待
Q4:AI研究會消耗大量的資源,我們是否應該將資源往學術界平衡?現在已經發生資源的重新分配和平衡了嗎?
李開復:就人才而言,現在已經有重新平衡的跡象了。
過去,頂尖大學的學者基於待遇和種種考量,不少選擇去企業界工作。而近期,曾任職於百度、海爾、位元組跳動等公司的數位優秀AI科學家已經回歸高校。
但像GPT-3這樣的技術,仍然不是大學和小公司能支付得起的。支撐GPT-3運行的電腦是世界算力第五的超級電腦。每進行一次演算法訓練,就要花費460萬美金,只有像騰訊、穀歌、微軟這個級別的公司才能負擔得起如此強大的算力。
我觀察到,近年的AI創業公司已經和5年前截然不同了。它們一般由AI科學家和商業人才共同創建,為了解決特定問題而生,並非紙上談兵做突破性科研,切入的領域也往往是巨頭公司忽略的地方。
例如,為製造業進行AI賦能,不是一件輕鬆的事,需要去工廠實地勘查,瞭解運作方式。大公司因為賺錢很容易,不願意做這些性價比低的苦活累活。這些小公司的努力一旦有了成果,就會給產業界帶來革命性的影響。所以,雖然大公司的實力不容小覷,但我依舊對小公司抱有期待。
阿萊克斯·彭特蘭:大學和公司是一種融合的關係,不僅體現在人才流動上,也會進行資訊資源分享,彼此是整體性的合作態勢。
當然這也不是絕對,產業界的保密需求還是存在的,只是從學校的出發點來說,我們願意毫無保留地為大家提供更好的研究成果,並與企業合作,形成標準化平臺。
▌人工智慧取代人類需要上百年或更久
Q5:兩位認為什麼是AI不能取代的?
李開復:一類是創造力、分析能力、邏輯辯論能力,瞭解自己知道什麼不知道什麼,這些是人工智慧無法取代的。另外一類是同理心,人類之間的信任、友誼,自我認知、意識等。
阿萊克斯·彭特蘭:人工智慧有朝一日可以取代人類所有的能力,但是這個過程會非常漫長,可能需要上百年或更久。
▌AI創業建議I:找到小切入點,不要與巨頭正面硬碰
Q6:李博士提到了AI在小企業中的運用,可否再舉例說明是如何運用的?
李開復:這個問題分兩部分:一個是小型AI公司與巨頭競爭,我的建議是找准巨頭沒有平臺優勢的細分領域,為某個針對性產業創造價值,並且不要與巨頭核心業務正面硬碰。
對於那些中小型非AI、但想應用AI的公司,需要確保有足夠的資料,以訓練與核心商業價值掛鉤的AI模型,並且有願意變革的開放性公司文化。
所以,早期應用AI的公司可能規模較大,因為他們有足夠大的資料,和可相容變革的商業模型。每個例子都不同,不是任何一家公司都要應用AI。
阿萊克斯·彭特蘭:如果我們放寬AI的定義,或許水管工、合同工都有資料,通過一些簡單的分析、整合,AI也可以在很大程度上改進他們的工作。
這些都是很小的切入點,基於簡單的AI分析、機器學習,依舊可以產生巨大的潛力。
▌ AI創業建議II:知曉技術,同時理解商業
Q7:兩位再分享一下最後的建議?
李開復:我們在步入一個AI開始滲透到方方面面的令人振奮的時代,我希望所有的學生們都能參與到這個改革浪潮中。要深刻地理解人工智慧的商業落地,而不僅僅鑽研技術本身。
阿萊克斯·彭特蘭:不要太較真於深度學習或者冗長的演算法,一切始於要解決的現實問題。不要止步於技術本身,要明白資料類型、形態和規律,關注商業流程。
感謝葉樂斐、劉諾、藍萱、張昊、陳冬傑、劉子昂、張梓煜、錢淩寒、水一方、沈雍在校譯和審閱上對本文的貢獻。
singularity意思 在 暗網仔 2.0 Youtube 的精選貼文
Instagram: https://www.instagram.com/dw_kid12/
Facebook: https://www.facebook.com/deepwebkid/?modal=admin_todo_tour
訂閱: https://www.youtube.com/channel/UC8vabPSRIBpwSJEMAPCnzVQ?sub_confirmation=1
鬼故事: https://www.youtube.com/watch?v=H4rmkFI1ik0&list=PLglqLngY6gv5BCwaoP-q6DOwUmw1lIusF
我最高觀看次數的影片 (我為何不再拍暗網? 只說一次): https://www.youtube.com/watch?v=jbihKaqEEQw&t=127s
曼德拉效應: https://www.youtube.com/watch?v=OMutzRIE_uE&list=PLglqLngY6gv5BCwaoP-q6DOwUmw1lIusF&index=17&t=5s
我的100K成長故事: https://www.youtube.com/watch?v=Kdhtp6A6YJE
破解Kate yup事件是假的! 不是綁架! 不要被騙! (Facebook上的證據): https://www.youtube.com/watch?v=2NJVt56ORWo&t=2s
日本最殘酷的直播節目: https://www.youtube.com/watch?v=7E81OKVX7wc
網上最可怕的一個字 (Ft. HenHen TV): https://www.youtube.com/watch?v=tLedkSHc7Os&t=145s
皮克斯動畫工作室電影中的神秘訊息
Pixar卡通電影中恐怖的A113是什麼?
Pixar卡通電影中A113是什麼? | 恐怖毀童年
Pixar迪士尼卡通電影中A113是什麼? | 恐怖毀你童年 | 神秘訊息
A113 Pixar conspiracy
(Show all Pixar movies with this code)
大家覺得這幾張相片有什麼相似的地方?
1, 他們都是pixar出品的電影.
2, 就是他們當中是隱藏了一段字
看到了嗎?
A113. 每一套Pixar電影也出現A113這幾個數字.
那這一集的Simpsons呢? 美國卡通American dad, South Park,
甚至Tom cruise的mission impossible, Hunger games和Avengers.
為什麼這麼多部影視作品也出現A113這個秘密密碼呢?
大家字又是我暗網仔, 我們一起找A113的真相看一看.
密碼, 象徵: 是人類用來溝通理念的重要工具. 國旗用來代表一個群體, 而記號可以安全地治理國家.
但這麼多年最不解用意, 是迪士尼多個兒童卡通片中的成人笑話. 有指這些都是背後動畫師互相傳遞的笑話, 也算解釋到.
那A113的笑點在哪?
A113一個有關 ‘敵基督’ 的堆測建基於2013年 ‘怪獸大學’ 這一幕和2012年動畫Brave這一幕.
怪獸大學這一幕薩利和麥克準備正式上堂. 右邊門上有A113之外薩利有角的野獸形象有指是代表啟示錄第13章提到有關 ‘戾龍同兩隻野獸’ 講
戾龍 (既是撒但的化身) 兩位手下: 一個從海裡來的野獸,
而一個就是有角的陸地上的野獸. 也是會帶來世界末日.
拱門亦是洪juy會開啟人通往天堂潛力的象徵.
Brave裡面對恐怖預言更明目張膽. 畫面中可以看到A113已 ‘AC XIII’ 的型式寫出來. ‘AC’ 有指是敵基督的英文縮寫.
但所有Pixar電影中A113唯一對故事劇情有所影響的是2008年的 ‘機器人總動員’ Wall-E. 至上映以來Wall-E故事藍本已公認參考聖經裡面伊甸園: 亞當與夏娃的故事. 但故事更黑暗是講述2805年人類過份yi lai AI科技導致世界滅亡, 所有人民要乘坐Axiom飛船離開地球. A113正正是讓飛船永不回來地球的指令.
在電影世界中A113除了代表人類未來的新方向同時是對科技的一個警告.
陰謀論家指其實Wall-E有另一個地方也出現了A113, 如果看Wall-E poster上的標題, 拿走前面的 ‘W’ ‘Alle’ 可以讀成 A113.
如果再張A113 tou落整體電影的主題, A1大可以leun想到AI artificial intelligence, 而13’ 可以用來代表2013年. W=World, AI=artificial intelligence 13=2013年.
當年2013年世界科技發展到底有沒有發生什麼大的juen jeen呢?
據知2013年之前Apple的Siri是gook限於女聲cho jung.
到13年6月增加了一個男聲版本. 是否就像聖經中的亞當與夏娃一樣呢? 有男又有女。 而伊甸園裡面的蘋果又是否跟Apple logo咬了的蘋果代表同一樣東西呢? 聖經中蘋果代表的是慾望但又是知識. 科技就是正正帶給我們這樣東西.
Time magazine指出2045年人類好有機會能與電腦機械2合為1. 到了那個時候人類就能夠長生不死. 但同時估計這件事情的 ‘未來主義者’ gim科學家Ray Kurzweil在自己書中 ‘The singularity is near: when humans transcend biology” 提出 ‘singularity’這個概念. 該概念就是對人類未來一種改變我們生活的假設. 就是我們雍有的科技到達一個聰明到我們控制不了的一個點.
到了那個時刻我們人類習慣也會被全面改變. 而到了這個科技全面爆炸的時刻一個超級智能superintelligence就會誔生超越人類.
所以動畫師在多個作品加入A113的原因是不是又是警告所有人類即將來臨的災難呢?
...
應該不是.
其實A113是美國uy soot學院California institute of arts?面的一間班房.
1979年的時候Calarts當中學生有: John lasseter, Brad bird, Andrew Stanton, Tim Burton. 你可能對這些名字感到muk生, 但他們是末來disney和pixar幾位最有名的動畫大師.
當年由迪士尼投資的Calarts動畫program是收gik少最有天份的學生.
而有指當年他們還在讀書的時候就決定把A113這個班房放入自己作品中作為友情的gey nim. 而自此A113就擴傳開了, 甚至出現在其他的hollywood作品中. 邊成hollywood其中一個最大的inside joke. 亦同時變成觀眾心目中的一個陰謀論.
singularity意思 在 Mickey Peng Youtube 的最佳解答
[Teaser 1] 371040 60
Release on 2018.03.17 FRI 00:00
By 米奇
嗨 人類們! 好久不見
371040 60 預告1 終於誕生! 好感動 奇異TRILOGY 最後一集要來哩!
"371040 60" 是什麼意思勒~?
奇異TRILOGY
1. 一共十人口可
(https://www.youtube.com/playlist?list=PLMkjkSMxpLG54AB_rQwt1rskS6mKMFf2E)
2. THE JOKE TV
(https://www.youtube.com/playlist?list=PLMkjkSMxpLG7DxOJo86dcHmhQ-8AlxkMB)
3. 371040 60
(https://www.youtube.com/playlist?list=PLMkjkSMxpLG42Ugm70XhKyX5EProI95AP)
奇異筆女孩兒 Facebook : @mickeypeng0309
奇異筆女孩兒 Instagram : @mickeypeng0309
singularity意思 在 Singularity有奇特或是唯一的意思... - 防彈:: Born Singer x Born ... 的必吃
Singularity 有奇特或是唯一的意思MV的氛圍很符合歌名有點詭異可是我喜歡哈哈哈(只要是防彈沒有不喜歡過😂 我真的超愛泰亨坐在牆角旁邊有花的場景他 ... ... <看更多>
singularity意思 在 【防彈音樂解說】BTS《Singularity》聽起來這麼迷幻都是因為 ... 的必吃
... <看更多>