科技日報記者 付麗麗 實習記者 裴宸緯
人工智能正在擴展人類想象力的畫布。
(相關資料圖)
“想象一下，未來十年，人工通用智能系統(tǒng)（簡稱AGI）幾乎在每一個領域都超過了人類的專業(yè)知識，該系統(tǒng)最終可能超過所有大型公司的總體生產(chǎn)力。這將提高每一個人的生活水平，但同時，我們必須共同管理其可能帶來的風險。”6月10日，在2023北京智源大會-AI安全與對齊論壇上，OpenAI聯(lián)合創(chuàng)始人薩姆·奧特曼（Sam Altman）在其主題演講中如是說。
奧特曼直言，AGI是一項關乎全球的技術，不計后果地開發(fā)和部署所帶來的事故成本將影響到每一個人。“超強人工智能”在十年內(nèi)就會出現(xiàn)，現(xiàn)在，盡管這項技術仍處于早期，但在全球范圍內(nèi)建立合作的標準和框架是必要的。奧特曼呼吁，人類需要為AI構筑“安全護欄”，使之更好地服務人類。
智源研究院院長、北京大學計算機學院教授黃鐵軍也表示，今年，一批大模型問世，人工智能出現(xiàn)了六七十年來里程碑式的新特性——涌現(xiàn)性，即能夠產(chǎn)生預料之外的新能力，這也引發(fā)了新的擔憂。
人們擔心，由于AI會涌現(xiàn)出各種各樣預料之外的可能，因此很難對其進行監(jiān)管。“這是一個巨大挑戰(zhàn)。”黃鐵軍坦言，“但這并不意味著人們無法對AI進行管理。”他表示，人類和AI相似，同樣也是不可預測的智能系統(tǒng)。實踐證明，倫理、法律法規(guī)等方式很好地為人類樹立了規(guī)范。如何管理一個創(chuàng)造性極強的系統(tǒng)，社會學、歷史學等學科都能提供很好的借鑒意義。
技術層面，奧特曼介紹，OpenAI正在推進對齊研究，讓AGI與人類價值觀保持一致并遵循人類意圖。“我們應該在促進和引導AI對齊和安全研究方向進行投資。”奧特曼說。
未來的AGI系統(tǒng)或許具有10萬行二進制代碼，人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。
奧特曼也表示，對數(shù)據(jù)集參數(shù)極其龐大的大模型而言，很難以人力的方式逐一讓AI與人類價值觀“對齊”。為此，可使用一種名為“可拓展監(jiān)督”的方式。“我們可以嘗試使用AI系統(tǒng)來協(xié)助人類監(jiān)督其他AI系統(tǒng)。”他說，這種方式的最終目標，是訓練AI系統(tǒng)來幫助人類進行對齊研究。
同時，還要加強合作。奧特曼認為，隨著越來越強大的人工智能系統(tǒng)的出現(xiàn)，全球合作變得前所未有的重要。首先，在技術研發(fā)過程中建立平等、統(tǒng)一的國際規(guī)范和標準，以便所有國家都能使用AGI；其次，通過國際合作，以可驗證的方式，建立全球對日益強大的人工智能系統(tǒng)安全開發(fā)的信任體系。
做到上述兩點并不容易，需要國際科技界的通力合作，特別是在推動建立提高人工智能系統(tǒng)安全技術進步方面的透明度和知識共享的機制方面。當研究人員發(fā)現(xiàn)新出現(xiàn)的安全問題時，應及時分享他們的見解，以實現(xiàn)利益的最大化。“我們需要認真思考，如何在尊重和保護知識產(chǎn)權的同時，鼓勵這樣的規(guī)范。這可以為深化合作打開新的大門。”奧特曼說。
“中國擁有世界上一些最優(yōu)秀的AI系統(tǒng)。”奧特曼表示，“真誠希望中國和美國的研究人員能對AI領域的國際合作作出貢獻。”
關鍵詞：
營業(yè)執(zhí)照公示信息