七大風險聽起來好慘
不到一年前，因為從台灣人工智慧學校學到很多，因此就自告奮勇到AIA第一屆校友會上台分享AI應用上可能遭遇的風險，並嘗試提出一些可能的解決之道。
天下沒有白吃的午餐，世界經濟論壇所發布的Global Risk Report 2017內，十二項新興科技中，AI雖然可以帶來非常大的好處，但也同時產生了最負面的影響。
綜合了各方報告與個人的觀察，以下整理出七大AI（或是導入AI後）可能為企業帶來的風險。
- 歧視偏見
2009年5月，華裔美國人Jocelyn Wang買了Nikon Coolpix S630相機作為母親節禮物，在幫家人拍照時，螢幕上卻一直出現「是否有人眨眼？」的警告訊息，即使大家眼睛都努力張到最大了，相機仍繼續警告。Joz把這個相機的「特異功能」發表到網路上，並宣稱是「種族歧視相機」後，掀起一片譁然。
無獨有偶， 2016年紐西蘭一名華裔DJ Richard Lee，因為要更換紐西蘭護照，透過網路上傳照片至紐西蘭內政部時，網頁上居然出現了「相片中人物閉上眼睛」的錯誤訊息，不管他怎麼換照片都過不了網站的檢查。（眼睛小到底得罪誰了…）
照相機一直出現警告訊息，或是上傳照片常常失敗，看起來只是有點好笑，亞洲人可以當作自嘲笑話，不會嚴重影響人生。但如果法官量刑所參考的軟體存在歧視，那就真的笑不出來了。
美國司法制度中，法官承擔了刑事量刑（也就是決定要判幾年）的責任，而這個被告是否再犯機率的高低，很大程度影響了法官的量刑（越容易再犯當然關久一點不要出來害人）。在科技發達的今天，許多法官都參考了COMPAS這套軟體背後演算法所提供的再犯風險。非營利媒體Pro Publica在2016年就曾提出一個調查報告，指出COMPAS的演算法存在嚴重的歧視，特別是對於黑人是否再犯有著非常嚴重的高估（當然對白人就是低估）。
2. 道德兩難
AI在自鴐車的領域發展迅速，也引起了許多道德上的爭議。MIT推出道德機器（Moral Machine）網站，原本希望透過一系列的自駕車失控情境，彙總出一個犧牲「誰」（老人／年輕人、男性／女性、胖子／瘦子、高社經／低社經、動物／行人等）對社會比較好的普世價值。
不過，研究團隊分析近4000萬樣本後發現，不同國情、區域與地理文化，偏好的答案不盡相同。一般來說，全世界大多願意拯救人類，而非動物，但是東方文化的國家比較會拯救長者（敬老尊賢？），而西方文化的國家則比較願意拯救年輕人；而即使同屬東方文化，日本人比較傾向保護行人，而中國則多半支持保護車內乘客。
那麼自駕車的設計者，在遇到這樣的兩難時，汽車內的程式該怎麼指導車子做出「符合社會大眾道德期待」的決定，特別是在沒有放諸四海皆準的道德標準情況下呢？
3. 負面意外
聊天機器人是另一個AI應用的熱區，不少大廠都搶著推出，對岸的騰訊也不例外，推出了Baby Q聊天機器人，迅速引起廣大民眾嘗鮮。結果，一個鄉民問它什麼是「愛國」，沒想到Baby Q誠實到不行，居然回應「 即使隨著裸官的增多，官商勾結，政府稅收的增加…政府對普通人民壓迫的嚴重，依然還願意做一個中國人，這就叫愛國。」
過不久，Baby Q就被關閉了，我想他們老闆應該也被抓去喝咖啡了吧…
4. 威脅加劇
沒有人規定，壞人／駭客不能用AI吧？
Adam做了一個小小的實驗，他把左邊波斯貓的原圖，偷偷改成了右邊的樣子（肉眼根本看不出來差在哪），然後把這兩張圖片都丟給目前很受歡迎也很強悍的影像辨識模型Inception V3來檢查。原圖不意外地被辨識成波斯貓，改圖卻意外地被辨識成烤土司機！
修改後的照片網址如下，實際試過後你會發現，人工智慧現在還是處於非常脆弱的階段！把波斯貓辨識為烤土司機好像無傷大雅，但如果把員工辨識成老闆，把恐怖分子辨識成擁有核彈發射密碼的總統呢…
https://miro.medium.com/max/299/1*xNGCocsmmxysEr1kuxgjCA.png
Adam Geitgey5. 個人隱私
AI除了有演算法，還需要質優量夠的資料，而怎麼蒐集並使用這些資料，就成了個人隱私保護的重要議題。
想像你正在規劃出國旅行，用手機正在閱讀幾篇旅遊部落客的文章，發現在歐洲被搶的機率很高，很多證件要補辦又很麻煩，這時手機內的軟體透過你滑動與按壓銀幕的力量與頻率，偵測出你很害怕的情緒，加上知道你正在閱讀旅遊網站，於是投放了旅平險的廣告給你。
手指偵測情緒不是科幻小說，而是已實作的論文。看到這，你會覺得這軟體真貼心，還是感覺很恐怖呢？
6. 不導淘汰
我們總是引以為傲的精緻型農業，在AI與機器人的協助下，已經慢慢受到原屬粗放地區的威脅了。
Mashable與雪梨大學合作，開發一系列的智慧農業機器人，可以自己計算最好的剪枝方式、辨識哪些水果熟了可以摘、在不傷害水果的情況下摘果、甚至白天儲存太陽能，晚上持續巡田。
如果台灣每年都還是在吵政府要不要補貼、中間商又賺了多少，而不是趕快引進這種新技術，相信很快就失去自己原有的優勢了。
7. 投報率低
2016年3月，AlphaGo打敗圍棋世界冠軍李世乭後，背後的DeepMind公司也開始受到重視，因為應該準備發大財了吧？
2016年，DeepMind虧了約1.64億美金，沒問題，畢竟AlphaGo剛橫空出世，需要一點時間讓子彈飛。2017年擴大為3.68億，嗯子彈飛得有點久，再給它一點時間。2018年呢？
虧損再擴大為5.7億美金。
也只有富爸爸Google，才能夠這樣燒錢呀。有錢就是任性！
