人工智慧語言模型Gopher,理解能力直逼高中生水準!

人工智慧語言模型Gopher,理解能力直逼高中生水準!

人工智慧真的超乎你我的想像!AI語言模型Gopher理解能力竟然有到高中生水準!

 


目錄

1. 人工智慧語言模型百家爭鳴的時代

2. 更聰明、更有人性的人工智慧語言模型 Gopher

3. Gopher 的侷限與未來發展

 

人工智慧語言模型百家爭鳴的時代

該如何使人工智慧得以發展出如同人腦般具備邏輯、意識和推理等認知能力,是人工智慧領域中不斷探索、反思的趨勢。有鑑於此,各家人工智慧公司終日埋首研究,不斷推陳出新創造出不同的人工智慧語言模型。

 

繼非營利人工智慧研究組織 OpenAI 推出的 GPT-3 語言模型之後,Google 旗下曾開發出人工智慧棋手 AlphaGO、AlphaZero 及 MuZero 的人工智慧公司 DeepMind,在 2021 年底發佈了名為 Gopher 的新一代人工智能語言模型。(相關文章:終極版 AlphaGo!DeepMind 最新人工智慧「MuZero」能下棋、玩遊戲、壓縮影片人工智慧快毀了西洋棋比賽?前西洋棋冠軍聯手AlphaZero AI改寫西洋棋

 

更聰明、更有人性的人工智慧語言模型 Gopher


從以上長條圖由左至右可以看出,DeepMind 新推的人工智慧語言模型「Gopher」,分別在人性、社會科學和醫療、常識、科學與科技以及數學等領域的表現都優於 GPT-3。(長條圖說明:紫色為 GPT-3、藍色為 Gopher、灰色為人類專家、淺藍色為 UnifiedQA)

 

DeepMind 研究人員主張 Gopher 具有最接近人類高中生的閱讀理解能力,基於 Gopher 擁有的 2800 億個衡量規模與複雜性的標準參數,研究人員宣稱 Gopher 在大型多工語言理解(MMLU)的人性、社會科學和醫療等領域的表現優於現有的語言模型,更勝於擁有 1750 億個參數的 OpenAI GPT-3。(相關文章:12萬字名著,人工智慧用200字就說完!AI療癒作家GPT-3解鎖新功能

 

語言模型是在接收、學習詞彙及大量的數據資料後,能夠預估詞彙並生成為文本的人工智慧系統。DeepMind 相信,開發更強大的語言模型具有構建先進 AI 系統的巨大潛力,在研究了大大小小不同語言模型的優劣後,發現語言模型的參數愈多愈能夠有效提高模型性能,於是將最大一組模型命名為 Gopher。

 

Gopher 的侷限與未來發展

Gopher 在閱讀理解、事實查核和辨別惡意言論等領域具有接近高中生的水準,得益於其龐大的參數數據庫。然而,龐大的數據庫同時亦有負面影響:

 

研究人員在與 Gopher 對話中發現,Gopher 在閱讀大量擁有刻板印象、偏見、錯誤訊息等文章之後,亦向負面的思想靠攏,如果放任 Gopher 自然傳播,將造成社會道德與倫理的風險。除此之外,Gopher 的數學和推理能力也仍有待提升。

 

在 DeepMind 發表的語言模型相關論文中,針對 Gopher 的道德風險提出了數種工具(如 Retrieval-Enhanced Transformer)和研究方法來維持 Gopher 的政治正確。這些研究雖然目前來說都還處於初期階段,但也確實為人工智慧語言模型領域奠定了良好的基礎,在找出潛在風險與應對措施的同時,就能更進一步掌握語言模型的未來發展方向。

 

 

 


更多閱讀:

母逝遺憾…PTT之父打造人工智慧 即時預測敗血症即刻救命


FDA批准內視鏡AI 測腸癌靈敏度99.7%!人工智慧醫療再突破


AI 知我心!能夠判別憂鬱症的人工智慧


人工智慧幫你診斷皮膚疾病!Google AI鏡頭變身皮膚科幫手


人工智慧竟也能編舞?!只要給音樂就能生成對應舞蹈!!(上)


油價飆漲不用愁!最佳省油路線就交給人工智慧來規劃!


人工智慧編程工具Codex神助攻!讓你寫程式真輕鬆!(上)



熱門文章