①本周，24位人工智能專家發表了一篇聯名論文，呼吁各國政府盡快采取行動，管理人工智能帶來的風險； ②論文建議，確保主要科技公司將至少三分之一的人工智能研發預算投入到與安全有關的項目中； ③論文還呼吁建立國家和國際標準。
財聯社10月27日訊（編輯 周子意）本周，圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）、尤舒亞?本吉奧（Yoshua Bengio）等24位人工智能（AI）專家發表了一篇聯名論文，呼吁各國政府采取行動，管理人工智能帶來的風險。
2018年，蒙特利爾學習算法研究所主任本吉奧與谷歌前研究員辛頓、以及Meta首席人工智能科學家楊立昆（Yann LeCun）因“讓深度神經網絡成為計算的關鍵組成部分”，共同摘得計算機領域的諾貝爾獎——圖靈獎。而上述三位計算機科學家也被尊稱為“人工智能教父”。
此次這份文件著重強調了最先進的系統所帶來的極端風險，例如使大規模犯罪或恐怖主義活動成為可能。
本吉奧表示，這篇論文旨在幫助政策制定者、媒體和公眾“了解其中的風險，以及我們必須做的一些事情，才能讓（人工智能）系統按照我們的意愿行事?！?/p>
怎么做？
加州大學伯克利分校計算機科學教授斯圖爾特·羅素（Stuart Russell）是這封信的聯合作者者之一，他在一封電子郵件表示，“我們想要呈現(我們認為的)對人工智能安全的清晰思考，合理地不受既得利益的影響?！?/p>
羅素稱，本周的聲明不同于以往專家主導的公開信，因為政府已經明白了存在真正風險的事實。而“該怎么做”是這份聯名信對這個問題的回答?！?/strong>
該論文提出了一些具體的政策建議，例如確保主要科技公司和公共資助者將至少三分之一的人工智能研發預算投入到促進安全和道德使用人工智能的項目中；確保人工智能系統的穩健性和可解釋性。
新論文中還建議，要求公司在開發“非常有能力的未來模型”之前獲得許可證。
本吉奧指出，授權許可所帶來的監管負擔將完全落在開發最大、最強大的人工智能模型的公司身上，因此開發人士不必過度擔憂。
相反，本吉奧認為，需要警惕的監管真正風險是，企業是否會被允許影響立法，以至于立法不夠有力。
此外，論文還呼吁建立國家和國際標準。主要的人工智能發展司法管轄區的規則處于不同的成熟階段。
中國走在了最前面。中國的人工智能聊天機器人管理規則已于今年8月生效；歐盟人工智能法案仍在通過歐盟的監管程序；美國白宮已經獲得了15家主要人工智能開發商的自愿承諾，但距離國會通過人工智能立法還有很長的路要走。
與此同時，英國首相蘇納克試圖在促進人工智能問題的國際合作方面發揮關鍵作用。當地時間周四，英國首相蘇納克宣布，英國將設立世界上第一個人工智能安全研究所，以評估和測試新型人工智能工具，以了解其風險。
聯名作者之一的羅素呼吁道，“如果政府現在就果斷行動，我們就有機會學會如何讓人工智能系統變得安全，而不是等到它變得無法控制?！?/p>
