OpenAI 聯合創始人 sam altman 發表演講：敦促國際社會共同應對人工智能的挑戰

2023-06-10 10:11:50來源：ZAKER科技

品玩 6 月 10 日訊，6 月 10 日，在 2023 智源大會上 OpenAI 聯合創始人 sam altman 發表演講。

感謝在北京人工智能學會的成員中的熱情接待，能夠與這樣一群杰出的人工智能研究人員和計算機科學家一同出席這次重要而及時的會議，我感到非常榮幸。每次來到這里，我都能感受到令人驚嘆的技術才華所帶來的無限能量。正如你們所提到的，我們現在正在進行的世界巡回之旅已經帶我到了近二十個國家，跨越五個洲。

(相關資料圖)

我了解到學生、開發者和各行業對人工智能的需求和關注。這次旅行給了我很多啟發。我們看到了全球各地人們已經在如何使用人工智能技術來改變生活的令人難以置信的方式，并且我們收到了寶貴的反饋意見，了解了如何進一步改進這些工具。

我們還有很多工作要做。但是鑒于我們已經取得的進展，我對我們能夠實現目標充滿信心。今天，我想談一談未來，特別是關于人工智能發展速度的加快以及我們現在需要如何負責任地為其引入做準備。

科學史告訴我們，技術進步遵循指數增長的規律。我們在農業、工業和計算革命中已經見證了這一點。而現在，我們正在實時目睹人工智能革命的發展。

因此，我們所面臨的挑戰不僅是人工智能帶來的巨大影響，而且是其進展速度。它正在加快人類想象力的創作速度。想象一下，在未來十年內，人工通用智能系統（通常稱為 AGI）在幾乎所有領域都能超越人類專業知識。

這些系統最終可能超過我們最大公司的集體生產力。人工智能革命所能創造的潛力是巨大的，可以大幅改善每個人的生活水平。但我們必須共同管理風險，共同推動發展。

我非常贊同這種未來，并且作為地球上的一員，我們需要投資于 AGI 的安全性以實現這一目標。這需要進行謹慎的協調。

這是一項具有全球影響的全球技術。來自記錄開發和應用的事故成本將影響到所有人。有兩個關鍵領域尤為重要。

首先，我們需要在國際范圍內建立國際準則和標準，鼓勵制定一致的政府政策和監管措施，涵蓋所有國家的 AGI 領域。在這些框架下，我們相信人們有機會做出明智的選擇。

其次，我們需要國際合作，在安全開發日益強大的人工智能系統方面建立全球信任。我并不抱幻想，這并不容易。我們需要作為國際社會付出持續關注和努力，以實現這一目標。

《論語》中有一句話提醒我們，千里之行始于足下。我們認為最具建設性的第一步是與國際科學技術界展開合作。特別是，我們應該推動機制的建立，增加對 AGI 安全技術進展的透明度和共享。

發現新的安全問題的研究人員應該為了共同利益分享他們的見解。我們需要仔細思考如何鼓勵這種共享，同時尊重和保護個人的知識產權。如果我們做得好，這將為我們深化合作打開新的大門。此外，我們還應該促進并引導對齊和安全研究的投資。

在 OpenAI，我們目前的研究主要集中在如何訓練 AI 系統以充當有希望和安全的助手。這是一種基于人類反饋的強化學習方法。這只是多種后訓練補充技術的例子，我們也在研究其他方法。

要做好這項工作并不容易。我們在部署之前，為了確保模型的整體安全性，我們在工程上投入了長達八個月的時間。我們認為我們在這方面已經取得了良好的進展。GPT-4 與我們以往的模型相比更加智能。然而，對于更先進的系統來說，模型與人的對齊仍然是一個未解決的問題，我們認為這需要新的技術方法和更多的政府監管。

想象一個未來的 AGI 系統，它有十萬行二進制代碼。人類監督員很難發現這樣一個模型是否在做某些問題。因此，我們正在探索一些新的研究方向，希望能夠取得突破。其中之一是可擴展的監督。我們可以嘗試使用 AI 系統幫助人類監督其他 AI 系統。

例如，我們可以訓練一個模型來幫助人類監督員發現其他模型輸出中的錯誤。

第二個方向是可解釋性。我們希望更好地理解這些模型內部的運作情況。我們最近發表了一篇利用 GPT 對 GBT-2 進行解釋的論文。另外，我們還利用模型內部信息來檢測模型是否有偏見。雖然我們還有很長的路要走，但我們相信，通過先進的機器學習技術，我們可以進一步改進模型的解釋能力。

最終，我們的目標是訓練 AI 系統來幫助進行自身的安全研究。這種方法的一個有希望的方面是，隨著未來的模型變得越來越智能和有幫助，我們將找到更好的方法來解決對齊問題。實現 AGI 所帶來的非凡利益，同時最小化風險是當前最重要的挑戰之一。

我們認為，美國、中國以及全球其他國家的研究人員之間有巨大的合作潛力，共同實現這個共同目標，并致力于解決 AGI 的技術挑戰。如果我們能夠這樣做，我相信我們將能夠利用 AGI 解決世界上最重要的問題，大幅提高人類的生活質量。非常感謝大家。