AI 如何為公司創造更多價值？專家：2 個缺陷，要先由人類來修補
2021/05/13
採訪‧撰文
盧廷羲
張凱崴
美國人工智慧國家安全委員會（NSCAI）今年 4 月建議，國防部每年應至少分配 3.4% 的預算投入科技領域，並提撥 80 億美元研發 AI。企業方面，微軟（Microsoft）4 月宣布，將以 197 億美元收購語音辨識開發商紐安斯通訊（Nuance Communications）；後者是雲端與 AI 軟體的先驅。
從企業到國家，都愈來愈重視人工智慧，知道要想辦法運用 AI 創造更好的生活。不過，目前 AI 發展到底處於什麼階段？我們又該如何應用？
美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴形容，目前人工智慧技術已經可以幫助人類完成很多事，像是疫情來襲，電腦可以從大數據中篩選條件，自動搜尋、判讀潛在病例，幫助醫生大幅減少檢查時間，但 AI 也並非萬能，要先認知它的局限。他研究如何讓 AI 更符合人性，獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。
AI 局限1. 資料寬廣度不足時，就會複製人類偏見
張凱崴認為，電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考，如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差，「你跟電腦講清楚 input（輸入）、output（輸出），提供足夠的數據資料，它可以對應、學得很好，但還有很多面向 AI 做不到。」
舉例來說，亞馬遜（Amazon）2014 年推出智慧音箱（Amazon Echo），使用者口頭下指令給語音助理 Alexa 就能放音樂、查資訊。然而，有些人口音較罕見，或是用字較特殊，智慧音箱的資料庫沒有「不同口音」「不同用詞」的檔案，就可能失靈，這是當前 AI 的其中一大問題。
張凱崴進一步解釋，AI 另一項挑戰是，它無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別，只是從資料統計出要學的東西，無法像人類一樣進行邏輯思辨。
AI 的運作方式，第一步是輸入資料，第二步是分析，但這過程容易出現偏見。例如電腦在理解「總統」這個字，會去看四周有什麼字詞，來學習總統這個詞，由於許多總統都是男性，電腦就會「覺得」總統是男性。
這也是為什麼，如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄）。「你可以跟人類說，任何職業、性別都是平等的，但對電腦來講，這很困難，」張凱崴說明，一旦資料的寬廣度受限，電腦就容易產生偏見。
就像在自然語言處理（Natural Language Processing，讓電腦把輸入的語言變成有意義的符號）領域，張凱崴說明，AI需要知道代名詞指的是「哪個名詞」，才能運算下去。但如果資料受限，使用男性的「他」，電腦可能判斷這個代名詞是指總統、總理、執行長；但換成女性的「她」，由於數據不足，電腦就會混亂，出現系統性誤差。
他再舉一例，美國人工智慧研究組織 OpenAI 提出「生成式預先訓練」系統（GPT，Generative Pre-training），推出到 GPT3 版本，屬於書寫類 AI，電腦能夠揣測人們說完上一句話，下一句可能會講的句子，自動完成後半段。
好比有人上一句寫下「我正在和教授聊天」，系統可能推導出「我們在研究室討論學術問題」，因為電腦藉由蒐集來的語料資料中判讀出「教授」和「學術」具高度相關。但研究也顯示，GPT2（前一代版本）系統也從資料中學習到許多偏見，像是如果句子前半談論白人男性，系統傾向產生正面評價；如果句子前半是黑人女性，系統竟會產生負面句子。對企業來說，許多組織接觸 AI，想讓它們取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。
AI 局限2. 即便條件相同，也無法每次都做出正確判斷
「其實，現在的 AI 就像一台原型飛機，還缺乏穩定性。」張凱崴說，現行的 AI 就好比萊特兄弟（Wright brothers）剛發明飛機，看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。
紐西蘭的簽證系統曾鬧出笑話。人們上傳簽證照片，AI 掃描後，確認是不是本人，但當時系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。
張凱崴說，在這個例子中，凸顯出 AI 的穩定性不足，「系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開。」所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策，這也是使用 AI 時，須留意的第二個挑戰。
他再舉例，許多模型可以準確分析，一則影評對電影的評價是正面或負面。然而研究顯示，有時只要將影評中一些字換成同義詞，例如把電影（movie）換成影片（film），或改寫句子，即使意思並未改變，系統卻把原本判斷為正面的影評標註成負面。這顯示AI系統還未真正了解語言的含義。
在設計這些程式時，人們必須注意到 AI 可能有局限，設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。
餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆
經理人雖然不一定具備 AI 方面的專業知識，但只要掌握觀念，再透過 AI 領域專才協助，也能優化系統。張凱崴指出，最直接的方法是，設計 AI 模型時，要把來源群組不同的資料分門別類測試，在測試階段讓群體多元化，並確保不同特色的使用者，用起來都沒有問題。
舉例來說，一套 A 系統擁有來自各地的使用者，如果設計者是台北人，設計系統的思維容易以台北生活為主，很可能因為當地習慣不同，導致花蓮使用者操作不順。
另一個方法，則是用不同的「語意」，去測試 AI 有沒有徹底學會一個概念。例如，有一套餐廳評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷每個顧客對於餐廳的評比是高分或低分。那麼要如何確認這套系統的穩定性？張凱崴建議，可以利用「抽換詞面」的方法。
比如，把詞彙換成同義字，再看 AI 是否能運算出相同結果，「你可能會發現，原本評比結果是食物很美味，但如果美味換成比較困難的詞，AI 就會分不出這則評比是好是壞。」因此在訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。
第三種方式更進階：改變句型、重寫句子。張凱崴指出，同樣一句話，如果換成不同說法，電腦可能判讀錯誤，將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」，明明兩句話意思一樣，但 AI 很可能因為穩定性不足，搞混兩者的差別。如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。
張凱崴表示，經過這些測試，讓 AI 接受更多元化的訓練，得到更廣的學習範圍，往後碰到同義詞、相似資訊，才能有效判讀。
張凱崴總結，AI 還在快速發展，或許可以創造更多工作機會、新的職位，但現行階段，它只是輔助角色。AI 並非魔術盒子，使用它就一定有更好結果，人們還是要保持高度耐心，先認識它的缺陷，才能在技術更迭下，發揮出最好的結果。
張凱崴
台灣大學資訊工程系碩士、美國伊利諾大學（UIUC）電腦科學博士。美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授，研究領域包括人工智慧、機器學習、自然語言處理。2021 年獲得史隆研究獎（Sloan Research Fellowship），研究團隊開發的運算方法，使人類語言處理的程序更有效率、更多元，同時兼具公平性。
附圖：優化AI系統的3方法
資料來源：https://www.managertoday.com.tw/articles/view/62902?fbclid=IwAR2jI1bhg1anqct0AZZR_3LKKJqIsvG0wz2whSN8iniROZApHt-_qpD7dis
訊崴評價 在 [心得] 職場第二次轉職心得(影像演算法) - 看板Tech_Job 的必吃
以下給予跟我一樣一直腳麻的朋友參考
背景
小弟從事影像演算法RD工作 約11年 國內碩
第一份工作是在一代拳王服務國防役 結束後就投入待了六年半的IC龍頭
起因
2017年初 適逢主管換人 拿了一個不太好的績效 開始萌生退意
2017年中 看了而且分享離職同仁的SWAG 被主管叫去新人面談室羞辱
問我是不是想當網紅 還有沒有當過兵 一直要我負責 說什麼道歉沒用
甚至要我交daily status
開始正式啟動轉職計畫
準備
履歷部份大概2016年自己就有默默在準備Resume的部份
以因應有可能未來要當台勞的趨勢 所以這次就是一份Resume打天下
除了唯一投的一間104外 其他都是靠這份Resume就夠了
Resume部分 剛好投的第一份職缺是HH介紹的 所以HH有順便給了一些建議
在此感謝那位無緣的獵頭美女
在面試到某一間公司的時候 學弟建議我準備一份投影片
而且HR mail上也真的有寫要準備
因此我就自己在google投影片上 在家自己準備一些資料 然後印出來
後來發現這樣十分方便 不管是面對面講
或是concall 直接拿到鏡頭前面 都很好用
職缺
這次因為幾乎是被逼著走的狀態 所以窮盡力氣找工作 一定要在2017年底離職
總共面試了 PHMRPHIA 8間公司 到後面其實自己都快累死了
裡面有一半是靠Linkedin&HH 另外一半是人脈
只有唯一一間是自己死命要投104想去看看
面試心得
有點雜 但就當隨筆寫一寫
對岸公司效率很快 獵頭拿到Resume 沒幾天就要我微信帳號
找一個安靜的地方 開起手機就面試了 10天內就面了三次 但最後沒上
獵頭說 我似乎有提到對原公司不滿的地方 加上對方是系統廠覺得我經驗有差
這部份一度讓我覺得是不是別太容意批評公司比較好
另外一間con-call 是要跟美國時間的 一早八點就要連線
面談過程滿硬的三位中國人 一位都一個小時 這是所有面試最硬的一次
鏡頭拍到我跟白板 我就話白板 跟拿我投影片在鏡頭前面說明
我自己104投的那間是最搞笑的 要面談時HR先跟我要了成績單跟自傳
我心想你們是唯一一間需要這東西的 我說我只有Resume那份
然後就開始做性向測驗 這也是唯一一間要我做這東西的
最後最扯 進來面試兩個看起來超年輕的 後來才知道這兩位是研替
跟我說 他們主管出差 OS:那還浪費我請假來跟你們聊天
最扯的是 我後來居然還又跟這公司面了兩次..... 我真的很缺工作阿 XD
每間公司都會問我的一個問題是 你為什麼會想離開原公司
婉轉的我會說主管不愛我 不婉轉的我會把所有事情都一五一十說清楚
聽到對方都覺得不可思議 差點連結要交出去了
建議從我原公司想找工作的 這個問題真的要先準備好
離職時間也要考慮一下 我還被問說為什麼不等領完二月再走
我自己會建議 還是別說真話比較好
(但我自己做不到 說謊 我兒子都知道 拖線說:我如果說謊會被車撞)
這次事件 還遇到某CEO在臉書放話說 要搞死我 要我一輩子後悔
我一開始還真的有點怕 我會不會要回南部種田了
但那時候有朋友說 別忘了敵人也是會有敵人的
走完這一趟 我只能說清者自清 你沒做過的事情就不用怕他抹黑
他越黑你 你就越大聲宣傳 公理自在人心
某一間外商在reference後 還直接問我 聽說我在原公司很會替同仁爭取福利
我大概就把星巴克 彈休假 停車證等等大概說明 也說了我的出發點是什麼
疑~~ 結果最後還是有要給offer的
OFFER
有三間拿到offer 一間說要不到缺 三間感謝函 一間一個屁都沒回
原公司就拿我2017拿到的當基準
原公司 本土IC 外商1 外商2
月薪 M M-10K M-15K M+10K
簽約金 v v
RSU v v
現金分紅 v v v
Total K K-10W K+20W K+30W
不去談真的不會知道外面還有不錯的機會 衷心感謝這次驅動我轉職的兩位
小弟沒齒難忘
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.176.219.79
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1521471438.A.A97.html
... <看更多>