OpenAI 預測超智能 AI 十年內(nèi)出現(xiàn)，正研究用 AI 來監(jiān)督 AI
(資料圖)
北京時間 7 月 6 日早間消息，當?shù)貢r間周三，ChatGPT 的開發(fā)者 OpenAI 表示計劃投入更多資源并成立新的研究團隊，研究如何確保 AI 對人類的安全性，最終實現(xiàn)用 AI 來監(jiān)督 AI。
OpenAI 聯(lián)合創(chuàng)始人伊利亞?蘇茨凱弗（Ilya Sutskever）和 AI 對齊負責人簡?萊克（Jan Leike）在官方博客中表示：“超級智能的巨大能力可能導致人類失去力量甚至滅絕。目前，我們還沒有解決方案來操縱或控制一個可能的超智能 AI，并防止其變成無賴。”
這篇博文預測，超智能 AI，即相比于人類更智能的系統(tǒng)，可能會在未來 10 年中出現(xiàn)。人類需要比目前更強大的技術(shù)來控制超智能 AI，因此需要在“AI 對齊研究”方面取得突破，確保人 AI 對人類持續(xù)有益。AI 對齊是 AI 控制中的主要問題，即要求 AI 的目標和人類的價值觀與意圖保持一致。
作者寫道，OpenAI 將在未來 4 年內(nèi)，將算力的 20% 專門用于解決這方面問題。此外，該公司將組建新的“超對齊”團隊來組織這方面的工作。
該團隊的目標是開發(fā)達到“人類水平”，由 AI 驅(qū)動的對齊研究員，隨后通過龐大的算力推動其發(fā)展。OpenAI 表示，這意味著將使用人工反饋來訓練 AI 系統(tǒng)，通過訓練 AI 系統(tǒng)來協(xié)助人工評估，最終訓練 AI 系統(tǒng)來進行實際的對齊研究。
不過，人工智能安全的倡導者康納?萊希（Connor Leahy）表示，OpenAI 的計劃存在根本性缺陷，因為最初的人類水平 AI 可能會失控并造成嚴重破壞，而這將迫使研究者去解決 AI 安全問題。他在接受采訪時表示：“在構(gòu)建人類水平的智能之前，必須先解決對齊問題，否則默認情況下你無法控制它。我個人認為這不是個特別好的、安全的計劃?！?/p>
AI 的潛在危險一直是 AI 研究員和公眾最關(guān)心的問題。今年 4 月，一群 AI 行業(yè)領袖和專家簽署公開信，呼吁暫停 6 個月開發(fā)比 OpenAI 的 GPT-4 更強大的系統(tǒng)，原因是對社會存在潛在風險。益普索今年 5 月的調(diào)查發(fā)現(xiàn)，超過 2/3 的美國人擔心 AI 可能產(chǎn)生的負面影響，61% 的人認為 AI 可能威脅人類文明。
廣告聲明：本文含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考。IT之家所有文章均包含本聲明。
標簽：
