當(dāng)前動(dòng)態(tài):比人類算法快 70%！谷歌 DeepMind 用 AI 改進(jìn)數(shù)據(jù)排序，登上 Nature

智東西（公眾號(hào)：zhidxcom）

【資料圖】

編譯 | 程茜

編輯 | 心緣

智東西 6 月 8 日消息，昨晚，人工智能研究實(shí)驗(yàn)室 Google DeepMind 發(fā)布三大 AI 工具 AlphaZero、MuZero、AlphaDev，這些工具可以提高數(shù)據(jù)中心資源利用率、提升視頻壓縮效率、發(fā)現(xiàn)更快算法，從而優(yōu)化整個(gè)計(jì)算生態(tài)系統(tǒng)。

昨天，AlphaDev 的相關(guān)進(jìn)展已經(jīng)登上國際學(xué)術(shù)頂刊 Nature。AlphaZero 的專用版本 AlphaDev 還發(fā)現(xiàn)了新算法，可以將短元素序列的排序效率提高 70%。

現(xiàn)在，AlphaDev 的新排序算法已發(fā)布到 C++ 庫中。Google DeepMind 的博客稱，這是十多年來排序庫算法的第一次變化，也是第一次將通過強(qiáng)化學(xué)習(xí)設(shè)計(jì)的算法添加到該庫中。散列算法也已經(jīng)發(fā)布到開源 Abseil 庫中。

C++ 庫開源鏈接：https://reviews.llvm.org/D118029

論文鏈接：https://www.nature.com/articles/s41586-023-06004-9

Google DeepMind 正在努力創(chuàng)建對(duì)世界具有廣泛理解的 AI 工具來優(yōu)化計(jì)算生態(tài)系統(tǒng)，作為構(gòu)建更加強(qiáng)大和通用人工智能系統(tǒng)的一部分。

研究人員還在擴(kuò)展基于強(qiáng)化學(xué)習(xí)的谷歌 AI 模型 AlphaZero、MuZero 的能力，用來幫助優(yōu)化數(shù)據(jù)中心的視頻壓縮，使得數(shù)據(jù)中心未充分利用的硬件數(shù)量減少 19%，以及在不損失視頻質(zhì)量的同時(shí)，進(jìn)一步降低比特率。

這些工具目前實(shí)現(xiàn)了整個(gè)計(jì)算生態(tài)系統(tǒng)中效率的提升，但這些結(jié)果也證明了未來更通用的人工智能工具具有變革的潛力。

一、AlphaDev：排序效率提升 70%、檢索效率提升 30%，數(shù)百萬開發(fā)人員已應(yīng)用

此前，Google DeepMind 開發(fā)了一個(gè)用于玩圍棋游戲的 AI 系統(tǒng) AlphaZero，現(xiàn)在研究人員將這一系統(tǒng)應(yīng)用到了構(gòu)建算法排序中打造了 AlphaDev，其結(jié)果顯示，AlphaDev 創(chuàng)建的算法在轉(zhuǎn)換為標(biāo)準(zhǔn)編程語言 C++ 時(shí)，排序數(shù)據(jù)的速度是人類生成版本的三倍。

" 我們有點(diǎn)震驚。" 領(lǐng)導(dǎo)這項(xiàng)工作的 Google DeepMind 計(jì)算機(jī)科學(xué)家 Daniel Mankowitz 說，" 起初我們不相信（這個(gè)結(jié)果）。"

AlphaDev 可以被用于快速排序（faster sorting）和散列算法（hashing algorithms），這兩種算法每天會(huì)被使用數(shù)萬億次來對(duì)數(shù)據(jù)進(jìn)行排序、存儲(chǔ)、檢索。

1、下象棋到找算法，短元素排序效率提高 70%

排序算法會(huì)影響所有數(shù)字設(shè)備處理和顯示信息的方式，包括一些在線搜索結(jié)果的呈現(xiàn)、社交媒體上帖子的排名以及一些用戶推薦內(nèi)容。

AlphaDev 研發(fā)了一種可以提升排序效率的算法，并且該算法與 C++ 庫中人類設(shè)計(jì)的算法相比可以將短元素序列的排序效率提高 70%，將超過 25 萬個(gè)元素的序列排序效率提高約 1.7%。這也使得當(dāng)用戶提交搜索查詢時(shí)，AlphaDev 的算法可以快速對(duì)結(jié)果進(jìn)行排序，以更快找到與用戶搜索相關(guān)度高的答案。

剛開始，研究人員將 AlphaDev 應(yīng)用于按大小對(duì)數(shù)字進(jìn)行排序的任務(wù)，剛開始只是讓其一次對(duì) 3、4、5 個(gè)數(shù)字進(jìn)行排序，這對(duì)于后續(xù)讓其進(jìn)行較多數(shù)字排序很重要。

▲對(duì)兩個(gè)數(shù)字進(jìn)行排序

AlphaDev 的工作方式與 AlphaZero 類似，后者結(jié)合了計(jì)算機(jī)版本的深思熟慮和直覺來選擇棋盤游戲中的動(dòng)作。AlphaDev 則不會(huì)選擇動(dòng)作，它會(huì)選擇指令添加到一個(gè)過程中。

AlphaDev 通過從頭開始而不是改進(jìn)現(xiàn)有算法來發(fā)現(xiàn)更快的算法，并且它會(huì)關(guān)注計(jì)算機(jī)的匯編指令。匯編指令用于為計(jì)算機(jī)創(chuàng)建二進(jìn)制代碼以執(zhí)行操作，Google DeepMind 的研究人員認(rèn)為，在這個(gè)較低層次上會(huì)有很多可以改進(jìn)的地方。

在構(gòu)建算法時(shí)，AlphaDev 會(huì)通過將算法的輸出與預(yù)期結(jié)果進(jìn)行比較來檢查它是否正確。對(duì)于排序算法，這意味著無序數(shù)字進(jìn)入，正確排序的數(shù)字出來。研究人員會(huì)獎(jiǎng)勵(lì) AlphaDev 對(duì)數(shù)字的正確排序以及排序的速度和效率。

2、數(shù)據(jù)存儲(chǔ)節(jié)省近 70% 時(shí)間，算法已經(jīng)開源

Google DeepMind 團(tuán)隊(duì)還將 AlphaDev 應(yīng)用于非排序算法，它用于將特定格式存儲(chǔ)的數(shù)據(jù)轉(zhuǎn)換為字節(jié)的算法版本比標(biāo)準(zhǔn)版本少用了 67% 的時(shí)間，用于數(shù)據(jù)存儲(chǔ)和檢索的散列算法比標(biāo)準(zhǔn)算法花費(fèi)的時(shí)間少 30%。

散列信息算法通常用于在數(shù)據(jù)庫中進(jìn)行存儲(chǔ)和檢索。散列算法通常使用一個(gè)關(guān)鍵詞來生成一個(gè)對(duì)應(yīng)的唯一散列，這一散列就會(huì)對(duì)應(yīng)于需要檢索的數(shù)據(jù)值，如輸入關(guān)鍵詞用戶名 "Jane Doe"，會(huì)生成檢索對(duì)應(yīng)的 " 訂單號(hào) 164335-87"。

一個(gè)較為相似的場景是，圖書管理員通過分類系統(tǒng)來快速查找特定書籍，計(jì)算機(jī)借助散列算法，就可以快速理解它要找什么以及在哪里能找到。

▲輸入關(guān)鍵詞檢索對(duì)應(yīng)數(shù)據(jù)值

當(dāng)應(yīng)用于數(shù)據(jù)中心 9-16 字節(jié)范圍的散列算法時(shí)，AlphaDev 的算法能將檢索效率提升 30%。

去年 1 月，Google DeepMind 的研究人員在 LLVM 項(xiàng)目的 C++ 標(biāo)準(zhǔn)庫中發(fā)布了基于機(jī)器學(xué)習(xí)的排序算法，在 Abseil 庫發(fā)布了散列算法，目前，已經(jīng)有云計(jì)算、在線購物、供應(yīng)鏈管理等行業(yè)的數(shù)百萬開發(fā)人員和公司正在應(yīng)用這些算法。

二、AlphaZero：優(yōu)化數(shù)據(jù)中心資源，硬件充分利用率提高 19%

數(shù)據(jù)中心需要管理從提供搜索結(jié)果到處理數(shù)據(jù)集的一切任務(wù)。谷歌大規(guī)模集群管理系統(tǒng) Borg 管理著谷歌的數(shù)十億個(gè)任務(wù)，同時(shí)這一系統(tǒng)還要去分配工作負(fù)載來優(yōu)化數(shù)據(jù)中心的內(nèi)部基礎(chǔ)設(shè)施，并處理谷歌搜索等用戶使用的服務(wù)，管理批處理。

分配工作負(fù)載這一過程就像 Borg 在玩俄羅斯方塊，如何在有限的空間內(nèi)，最大程度地放置更多的方塊，把空余的位置都利用起來。

▲將分配工作負(fù)載比喻為俄羅斯方塊游戲

此前，Borg 需要使用手動(dòng)編碼的規(guī)則來安排任務(wù)，優(yōu)化工作負(fù)載。但面對(duì)龐大如數(shù)十億個(gè)任務(wù)的規(guī)模時(shí)，這些手動(dòng)編碼的規(guī)則無法考慮不斷變化的工作負(fù)載分布的多樣性，因此它們被設(shè)計(jì)為 " 最適合所有人的一種尺寸 "，也就是選擇了一個(gè)中間值。

在這一場景下，AlphaZero 就派上了用場，其構(gòu)建的算法能夠自動(dòng)創(chuàng)建單獨(dú)的最佳定制規(guī)則，這些規(guī)則使得 Borg 在分配工作負(fù)載時(shí)更加高效，能找到適合不同任務(wù)的規(guī)則。

研究人員在實(shí)驗(yàn)期間發(fā)現(xiàn)，AlphaZero 還能識(shí)別進(jìn)入數(shù)據(jù)中心的任務(wù)的模式，以及預(yù)測(cè)管理容量的最佳方法，并做出具有最佳長期結(jié)果的決策。

當(dāng) AlphaZero 應(yīng)用于 Borg 時(shí)，研究人員的實(shí)驗(yàn)表明，這種方法可以將未充分利用的硬件數(shù)量減少多達(dá) 19%，優(yōu)化谷歌數(shù)據(jù)中心的資源利用率。

三、MuZero：編碼視頻圖片組，壓縮比特率降低 4%

在互聯(lián)網(wǎng)中，視頻流會(huì)占據(jù)其流量的相當(dāng)大一部分，因此，如果能提升視頻傳輸?shù)男剩瑢?huì)對(duì)每天觀看視頻的數(shù)百萬人產(chǎn)生巨大影響。

去年，Google DeepMind 與視頻網(wǎng)站 YouTube 合作，通過 MuZero 來壓縮和傳輸視頻，其結(jié)果顯示，這一工具能在不影響視頻質(zhì)量的情況下將比特率降低 4%。

早期，研究人員將 MuZero 應(yīng)用于優(yōu)化視頻中每個(gè)單獨(dú)幀的壓縮，現(xiàn)在，他們將其擴(kuò)展至決定在編碼過程中如何對(duì)幀進(jìn)行分組和引用。

最開始，MuZero 會(huì)定義要壓縮的 GOP（group of pictures，圖片組）幀，然后根據(jù)圖片的視覺相似性進(jìn)行分組。MuZero 會(huì)將其中一個(gè)圖片組的關(guān)鍵幀進(jìn)行壓縮，再參考關(guān)鍵幀去壓縮其它幀，在這一過程中，該算法會(huì)通過塊搜索（block search）來查找圖片中變化最小的區(qū)域，使得壓縮效果更好還能保證視頻質(zhì)量。

▲ MuZero 壓縮圖片組

最后，一組圖片組壓縮完成后，MuZero 再按照同樣的步驟完成視頻其它部分圖片組的壓縮。

這些研究的早期結(jié)果表明 MuZero 有潛力成為一個(gè)更通用的工具，幫助研究人員在視頻壓縮過程中找到最佳解決方案。

結(jié)語：通用人工智能工具的變革潛力已經(jīng)凸顯

當(dāng)下，Google DeepMind 的 AI 工具正在使得數(shù)十億用戶在使用計(jì)算機(jī)的過程中節(jié)省時(shí)間和精力，包括從玩游戲到解決每臺(tái)計(jì)算機(jī)設(shè)備核心的復(fù)雜工程問題。研究人員認(rèn)為，這僅僅是個(gè)開始。

未來，越來越多的通用人工智能工具或許可以優(yōu)化為數(shù)字世界提供動(dòng)力的整個(gè)計(jì)算生態(tài)系統(tǒng)，但與此同時(shí)，支持這些工具背后的數(shù)字基礎(chǔ)設(shè)施需要更快、更高效、更可持續(xù)。因此，這一愿景的實(shí)現(xiàn)需要更多理論和技術(shù)上的突破。

不可否認(rèn)的是，通用人工智能工具的變革潛力已經(jīng)顯現(xiàn)出來，并且研究人員已經(jīng)開始考慮將其應(yīng)用于技術(shù)、科學(xué)和醫(yī)學(xué)等領(lǐng)域。