人工智慧將納入國防用!?究竟是來救人還是來殺人?(上)

人工智慧與軍事結合究竟是好是壞?!為什麼連google都要跟國防部說No?

為何我們會想寫這篇文章?

隨著 AI 人工智慧的發展，越來越多「自動化武器」問世，美國國防部也著急的想將 AI 大規模投入軍事用途。但它們究竟是保護人類的盾牌？還是毀滅人類的武器？面對讓人不安的「自動機器」時代，我們能做的是……

是什麼原因讓 Google 要對國防部說 NO？

【影片一】「Project Maven」是美國軍方的實驗性計畫，利用人工智慧技術分析無人機所拍攝的畫面

(影片來源：Defense One Production) 去年六月的某個星期五，Google Cloud 的執行長在例會上宣布：「Google 將在這次合約到期後，結束與美國國防部合作的專案「Project Maven」，不續約，也不會參與國防部的新標案《聯合企業防禦基礎設施》。」這等於直接放棄了價值100億美元的新合約。
「Project Maven」是利用 Google 的雲端 AI 技術，替國防部分析無人機拍攝的畫面，其中也包括臉部辨識。即便公司高層辯稱 Project Maven 僅會用於拯救生命與非攻擊性任務，但員工依然會認為這項專案助長軍事監控、嚴重地侵犯了人權；大喊「Google 不應該發戰爭財！」並引用公司行為守則內「Don't be evil」，超過 4000 名員工連署要求 Google 退出該專案，因此許多高階工程師及多名員工憤而離職。
這是 Google 從 20 年前創立以來最大的辭職風波，在內部反對和外界輿論的壓力下，Google 最終作出妥協，放棄了國防部的訂單。
然而，該擔憂 AI 人工智慧技術的，恐怕不只 Google 員工，是我們每個人都要思考的難題。

AI 會殺人？！人工智慧的潛在風險

【影片二】美國空軍退役上校 Gene Lee 是美軍中的頂尖飛行員 (top gun pilot) ，去年六月與人工智慧「Alpha」進行模擬戰鬥，結果經過多次的交戰，「人類」陣營的戰機連番被擊落，而「人工智慧」陣營的戰機則自始至終都沒有折損一架飛機

(影片來源：CNBC) 在世經論壇的年度風險報告中，曾特別點出雖 AI 使用在國防軍事上逐漸增多、且已經有大量資金投入「自主武器」的研發，卻幾乎沒有規範限制。隨著這些「殺人 AI」的思考能力逐漸超越人類，危及人類生存的日子指日可待。
事實上，美國空軍「Top Gun」－退役空軍上校 Gene Lee，不但擁有高超的飛行技術、也是頂尖空中戰術專家，就已完全慘敗給 AI。
辛辛那提大學與美國空軍共同研發的空戰專門模擬 AI 「Alpha」，除了能操控無人戰鬥機、模擬戰鬥場面、部屬作戰計劃外，有任何突發狀況都能在一毫秒內完成演算。
去年六月，Gene Lee 與 Alpha 進行模擬戰鬥，結果經過多次的交戰，「人類」陣營的戰機連番被擊落，而「人工智慧」陣營的戰機則從開戰到結束都沒有折損一架飛機，完美地守住海岸線。
Lee 說：「它似乎知道我的意圖，在我改變飛行和部屬飛彈後立即做出反應。」多次模擬後仍無法打下一架飛機，甚至被擊落好幾次。
目前 Alpha 還只是在實驗室中打模擬戰，但它或許有一天會被帶上真正的天空，運用在國與國之間的戰爭，將會帶來更多的死亡。

在下集「美國將AI納入軍用!到底人工智慧會成為人類救星還是殺人機器?(下)」，進一步介紹是哪間 AI 公司接手 Google 承接美國國防部的人工智慧軍武專案，以及濫用人工智慧於武器上，未來可能導致的致命結局。面對讓人不安的「自動機器」時代，我們能做的可以是……?

更多閱讀:

人工智慧將納入國防用!?究竟是來救人還是來殺人?(下)

未來真的會被人工智慧主宰?!前衛金屬大團的MV裡有答案!

微軟新功能!人工智慧簡報教練讓你上台簡報不凸槌!

Class和ID的差別在哪裡?想成為前端工程師的你,懂了嗎?

今天一起揪出來-那些偷偷藏著Python和Java的電影(上)

達內課程先就業再付款- 中時電子報

暑假快到了！與其讓兒子盲目拚學測，我寧可讓他先選擇人生方向~