广告治理标语

shengjidesudujiangjuedingninengkuaisudetiyangengduodexinzhandou，fengfudewanfacainengrangmaoxiangengjiaciji。ciyuanhuanjingceshibanshoujixiazaiduiyuzhinengjiankongshebeikaifadeyidongyingyong，keyishiyonggairuanjiankuaisubangdingshebei；zhishuangxiantucaozuotongkuai，wuxianPK，zhenshidaji，dianyingjihuazhiganshou！baizhanwushuangjidoujianghu，shangxianjingjiqingsonglixian，fubenlixianjuezhanyonghengshenhuashijie；谷(gu)歌(ge)DeepMind打(da)破(po)十(shi)年(nian)算(suan)法(fa)封(feng)印(yin)，AlphaDev驚(jing)世(shi)登(deng)場(chang)，顛(dian)覆(fu)人(ren)類(lei)算法格(ge)局(ju)！

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：编辑部(bu)

【新智元導(dao)讀(du)】「Alpha」家(jia)族(zu)再(zai)添(tian)新成(cheng)員(yuan)AlphaDev！谷歌大(da)腦(nao)DeepMind合(he)體(ti)後(hou)首(shou)發(fa)力(li)作(zuo)，全(quan)新AI系(xi)統(tong)將(jiang)排(pai)序(xu)算法提(ti)速(su)70％，C++排序庫(ku)十年來(lai)首次(ci)更(geng)改(gai)。AI創(chuang)造(zao)AI的(de)時(shi)代(dai)要(yao)来了(le)？

今(jin)天(tian)，「Alpha」家族再添壹(yi)名(ming)新成员：AlphaDev。

整(zheng)個(ge)計(ji)算生(sheng)態(tai)系统的基(ji)礎(chu)，或(huo)将被(bei)AI创造的新算法颠覆！

谷歌大脑和(he)DeepMind合体沒(mei)多(duo)久(jiu)，就(jiu)帶(dai)来這(zhe)樣(yang)一个惊世之(zhi)作。

AlphaDev不(bu)僅(jin)可(ke)以(yi)将排序算法提速70％，甚(shen)至(zhi)在(zai)有(you)的算法上(shang)，能(neng)比(bi)人类快(kuai)3倍(bei)之多。

十多年来，C++排序库首次更改。AI優(you)化(hua)世界(jie)代碼(ma)，又(you)達(da)新裏(li)程(cheng)碑(bei)。

目(mu)前(qian)，最(zui)新研(yan)究(jiu)已(yi)登上Nature。

論(lun)文(wen)地(di)址(zhi)：https://www.nature.com/articles/s41586-023-06004-9

通(tong)過(guo)強(qiang)化學(xue)習(xi)，AlphaDev发現(xian)了更加(jia)有效(xiao)的算法，直(zhi)接(jie)超(chao)越(yue)了科(ke)学家和工(gong)程師(shi)們(men)幾(ji)十年来的精(jing)心(xin)打磨(mo)。

现在，新的算法已經(jing)成為(wei)兩(liang)个標(biao)準(zhun)C++编码库的一部分(fen)，每(mei)天都(dou)會(hui)被全球(qiu)的程序员使(shi)用(yong)數(shu)萬(wan)億(yi)次。

有網(wang)友(you)表(biao)示(shi)，終(zhong)於(yu)来了，我(wo)们现在正(zheng)在踏(ta)入(ru)未(wei)知(zhi)領(ling)域(yu)：人工智能正在構(gou)建(jian)人工智能！

强化学习打破十年算法瓶(ping)頸(jing)

如(ru)同(tong)AlphaZero、AlphaFold等(deng)前輩(bei)一样，AlphaDev也(ye)直接掀(xian)起(qi)了一个领域的變(bian)革(ge)。

DeepMind计算機(ji)科学家、论文一作Daniel Mankowitz表示，「我们起初(chu)根(gen)本(ben)不相(xiang)信(xin)。」

「說(shuo)實(shi)話(hua)，我们没有想(xiang)到(dao)会取(qu)得(de)更好(hao)的成績(ji)：这是(shi)一个非(fei)常(chang)短(duan)的程序，而(er)这些(xie)类型(xing)的程序，此(ci)前已经被研究几十年了。」

當(dang)前，GPT-4、Bard等大模(mo)型的參(can)数指(zhi)数級(ji)增(zeng)長(chang)，對(dui)算力等資(zi)源(yuan)的需(xu)求(qiu)不斷(duan)增长。而过去(qu)50年里，人类不断依(yi)靠(kao)芯(xin)片(pian)的改進(jin)以跟(gen)上步(bu)伐(fa)。

但(dan)隨(sui)著(zhe)微(wei)芯片接近(jin)物(wu)理(li)極(ji)限(xian)，改进代码讓(rang)计算更强大、更持(chi)續(xu)变得至關(guan)重(zhong)要。尤(you)其(qi)是，对每天運(yun)行(xing)数万亿次代码的算法愈(yu)重要。

今天，Google DeepMind在Nature发表的论文中(zhong)，首次介(jie)紹(shao)了阿(e)爾(er)法家族的「新貴(gui)」AlphaDev。

AlphaDev发现了一種(zhong)更快的排序算法，数十亿人每天都在不知不覺(jiao)中使用这些算法。

它(ta)们是一切(qie)的基础，從(cong)在線(xian)搜(sou)索(suo)結(jie)果(guo)，社(she)交(jiao)帖(tie)子(zi)，到计算机和手(shou)机数據(ju)處(chu)理方(fang)式(shi)。这些算法每天都要執(zhi)行数万亿次。

利(li)用AI生成更好的算法，将改变我们对计算机编程的方式，並(bing)影(ying)響(xiang)我们数字(zi)化社会的方方面(mian)面。

根据Nature论文中的数据，AlphaZero所(suo)创造的算法能比人类的数据排序速度(du)快三(san)倍。

今天，Google DeepMind還(hai)開(kai)源了在主(zhu)C++库中的最新排序算法，所有人皆(jie)可用。

开源地址：https://reviews.llvm.org/D118029

什(shen)麽(me)是排序？

排序是一种以特(te)定(ding)順(shun)序組(zu)織(zhi)多个項(xiang)目的方法。

比如按(an)字母(mu)顺序排列(lie)三个字母，从大到小(xiao)排列五(wu)个数字，或者(zhe)将包(bao)含(han)数百(bai)万條(tiao)記(ji)錄(lu)的数据库排序。

在人类歷(li)史(shi)中，排序方法一直在演(yan)变。最早(zao)的例(li)子可以追(zhui)溯(su)到二(er)、三世紀(ji)，那(na)时的学者们在亞(ya)历山(shan)大圖(tu)書(shu)館(guan)的书架(jia)上，靠純(chun)手工的方式，以字母顺序排列擺(bai)放(fang)了数千(qian)本书。

工業(ye)革命(ming)后，我们发明(ming)了可以幫(bang)助(zhu)分类的机器(qi)——制(zhi)表机将信息(xi)存(cun)儲(chu)在穿(chuan)孔(kong)卡(ka)上，用于收(shou)集(ji)1890年美(mei)國(guo)的人口(kou)普(pu)查(zha)结果。

而随着20世纪50年代商(shang)业计算机的興(xing)起，出(chu)现了最早的计算机科学排序算法。

在今天，世界各(ge)地的代码库中都使用了許(xu)多不同的排序技(ji)術(shu)和算法，在线组织大量(liang)数据。

排序算法，也就是 輸(shu)入一系列未排序的数字，然(ran)后输出排序后的数字

这些算法，都已成为计算机科学的基石(shi)。

如今我们的算法，都需要计算机科学家和程序员投(tou)入几十年的研究去开发。

这是因(yin)为，现有的算法效率(lv)如此之高(gao)，再往(wang)前的每一步改进，都是重大的挑(tiao)戰(zhan)。

这个艱(jian)難(nan)程度就好比找(zhao)到一种節(jie)省(sheng)電(dian)力能源的新方法，或者找到更高效的数学方法。

尋(xun)找新算法

AlphaDev的创新意(yi)義(yi)在于，它并不是通过改进现有算法，而是完(wan)全从頭(tou)开始(shi)发现了更快的算法。

而且(qie)，它竟(jing)然着手于大多数人类并没有想到的地方——计算机匯(hui)编指令(ling)。

汇编指令用于创建二进制代码。雖(sui)然开发者寫(xie)代码时用的是C++等高级語(yu)言(yan)，但为了让计算机理解(jie)，这些高级语言必(bi)須(xu)翻(fan)譯(yi)成「低(di)级」的汇编指令。

我们一般(ban)用C++之类的高级编程语言写代码，然后使用编译器将其轉(zhuan)換(huan)为低级CPU指令，即(ji)汇编指令。汇编器再将汇编指令转换为可执行的机器代码

谷歌DeepMind的研究者相信，在这个較(jiao)低的層(ceng)级中存在许多可改进的空(kong)間(jian)，而这些改进在更高级的编程语言中可能很(hen)难发现。

在这个更低的级別(bie)上，计算机的存储和操(cao)作都更靈(ling)活(huo)，因此如果再多做(zuo)一些潛(qian)在的改进，就会对速度和能源產(chan)生巨(ju)大的影响。

图A：一个最多排序两个元素(su)的C++算法

图B：代码相應(ying)的程序集

AlphaDev：汇编版(ban)AlphaZero

眾(zhong)所周(zhou)知，DeepMind的强化学习模型，在圍(wei)棋(qi)、国際(ji)象(xiang)棋和将棋等遊(you)戲(xi)中，屢(lv)次擊(ji)敗(bai)世界冠(guan)軍(jun)。

而我们这次的主角(jiao)——AlphaDev，基于的正是AlphaZero。

AlphaDev的工作方式與(yu)之前的AlphaZero相似(si)，后者结合了计算机推(tui)理和直觉，在棋盤(pan)游戏中選(xuan)擇(ze)每一步的走(zou)法。

只(zhi)不过，AlphaDev并不会选择下(xia)一步怎(zen)么走棋，而是选择添加哪(na)些指令。

为了訓(xun)練(lian)AlphaDev来发现新的算法， DeepMind将排序問(wen)題(ti)转化成了一个「汇编游戏」（Assembly Game）。

在每一輪(lun)中，AlphaDev都需要觀(guan)察(cha)它生成的算法以及(ji)中央(yang)处理器（CPU）中包含的信息，并通过在算法中添加一条指令来进行移(yi)動(dong)。

而这个汇编游戏非常困(kun)难，因为AlphaDev必须有效地搜索大量可能的指令组合，从而找到一个可以排序且比当前最佳(jia)算法更快的算法。

其中「可能的指令组合」，甚至可以直接类比于宇(yu)宙(zhou)中的粒(li)子数量，或者国际象棋（10^120局）和围棋（10^700局）中可能的走法组合。

更进一步的是，任(ren)何(he)一个錯(cuo)誤(wu)的移动，都可能会使整个算法無(wu)效。

最后，DeepMind会根据AlphaDev正確(que)排序数字的能力以及完成排序的速度和效率給(gei)予(yu)獎(jiang)勵(li)，而AlphaDev則(ze)需要通过发现一个正确且更快的程序来贏(ying)得游戏。

图A：汇编游戏。玩(wan)家AlphaDev以系统狀(zhuang)态st为输入，并通过选择一条汇编指令将其添加到已经生成的算法中来进行一次移动。

图B：奖励计算。在每次移动后，生成的算法会接受(shou)測(ce)試(shi)，智能体将根据算法的正确性(xing)和响应时间獲(huo)得奖励。

具(ju)体来说，在进行深(shen)入思(si)考(kao)（deliberation）时，AlphaZero会在每一个決(jue)策(ce)點(dian)琢(zhuo)磨下一步可能的行动，以及下一步的下一步的可能性。就像(xiang)樹(shu)状图一样，一步步往后推，算出哪些行动最有可能成功(gong)。

但问题在于，如果把(ba)每一个可能的情(qing)況(kuang)分支(zhi)都考慮(lv)到，所需的时间可能要比宇宙的年齡(ling)还长。因此，研究人员使用类似直觉（intuition）的東(dong)西(xi)来縮(suo)小範(fan)围。

在每一步中，程序将当前状态输入神(shen)经网絡(luo)（一个復(fu)雜(za)的、可調(tiao)的数学函(han)数），以找到最合適(shi)的行为。同时，在训练过程中，神经网络还会根据结果不断进行更新。有时还会故(gu)意不选評(ping)分最高的行为来进行主动探(tan)索。

AlphaDev可以采(cai)取的行动一共(gong)有四(si)种，包括(kuo)比较不同值(zhi)、移动数值到另(ling)一个位(wei)置(zhi)、或者跳(tiao)转到程序的不同部分。

在执行完每一步之后，再试图对一组列表进行排序，并根据正确排序的列表中的数值数量获得奖励。

如此这般，这般如此，一直到排完整个列表，或者达到程序长度限制，从头开始一个新的程序。

C++运行速度提升(sheng)70%

AlphaDev发现新的排序算法，为LLVM libc++排序库带来了明顯(xian)的改进。

对于较短的序列，速度提高了70%，而对于超过250,000个元素的序列，速度只提高了約(yue)1.7%。

研究人员專(zhuan)註(zhu)于改进3-5个元素较短的序列排序算法。

这些算法是使用最廣(guang)泛(fan)的算法之一，因为它们经常作为更大排序函数的一部分被多次调用。

改进这些算法可以为任何数量的项目的排序提升整体的速度。

为了使新的排序算法为所有人可用，研究人员还将其进行了逆(ni)向(xiang)工程，并将其翻译成「程序猿(yuan)」最常用的一种编码语言C++。

目前，这些算法现在可以在LLVM libc++标准排序库中找到。

散(san)列函数效率提升30%

在发现更快的排序算法之后，DeepMind测试了AlphaDev是否(fou)能夠(gou)推广并改进不同的计算机科学算法——散列（Hash）。

散列是计算中的一种基本算法，用于檢(jian)索、存储和壓(ya)缩数据。就像图书管(guan)理员使用分类系统来找到特定的书籍(ji)一样，散列算法帮助用戶(hu)知道他(ta)们正在寻找的內(nei)容(rong)以及确切的位置。

这些算法将特定的key（例如用户姓(xing)名「Jane Doe」）进行散列处理，也就是，将原(yuan)始数据转换为唯(wei)一的字符(fu)串(chuan)（例如1234ghfty）。然后，计算机会使用这个散列值来快速检索与鍵(jian)相关的数据，而不是搜索所有数据。

结果显示，当应用于散列函数的9到16字节范围时，AlphaDev发现的算法比傳(chuan)统算法快30%。

现在，DeepMind也将新的散列算法发布(bu)到了开源的Abseil库中。据了解，这个算法預(yu)计每天都会被使用数万亿次。

两种新策略(lve)：「swap move」和「copy move」

AlphaDev不仅发现了更快的算法，还发现了新的方法。

它的排序算法包含新的指令序列，每次应用时都会保(bao)存一条指令。这可能会产生巨大的影响，因为这些算法每天被使用数万亿次。

研究人员将其稱(cheng)之为「AlphaDev swap move」和「AlphaDev copy move」。

最新方法让人想起AlphaGo让人震(zhen)惊的「第(di)37步」。

2016年那场人机大战中，AlphaGo下了一顆(ke)違(wei)反(fan)人类直觉的棋，一个簡(jian)單(dan)的肩(jian)沖(chong)，击败了传奇(qi)围棋选手李(li)世石。

通过这两种策略，AlphaDev跳过了一个步驟(zhou)，以一种看(kan)起来错误，但实际上是快捷(jie)方式連(lian)接项目。

这表明，AlphaDev有能力发现原创性解决方案(an)，并挑战了我们对如何改进计算机科学算法的思考方式。

如下图示例原始sort3实现，有min(A, B, C)，使用AlphaDev Swap Move，AlphaDev发现，妳(ni)只需要min(A, B)。

再比如，原始实现用max(B, min(A ,C, D))中较大的排序算法对8个元素进行排序。

AlphaDev发现使用其「swap and copy moves」时只需要max(B, min(A, C))。

优化全世界的代码，一次一个算法

通过优化和推出全球开发者使用的改进排序和散列算法，AlphaDev證(zheng)明了，它有能力概(gai)括和发现世界级的新算法。

Google DeepMind認(ren)为，AlphaDev是朝(chao)着开发AGI工具邁(mai)出的一步，这些工具有助于优化整个计算生态系统，还能解决其他有益(yi)于社会的问题。

不过，研究人员也承(cheng)认，目前AlphaDev在低级汇编指令优化能力非常强，但是随着算法的发展(zhan)也存在局限性。

为了让开发者更可用，AlphaDev用高级语言（如C++）优化算法的能力正在探索中。

AlphaDev的新发现，如「AlphaDev swap move」和「AlphaDev copy move」，不仅表明它可以改进算法，还可以找到新的解决方案。

研究人员希(xi)望(wang)，这些发现能激(ji)励研究人员和开发人员创造技术和方法，进一步优化基础算法，以创建一个更强大、更可持续的计算生态系统。

网友熱(re)评

英(ying)偉(wei)达科学家Jim Fan对AlphaDev做了一个深度總(zong)结：

排序算法是所有关键軟(ruan)件(jian)的基础。DeepMind的AlphaDev将小序列（3-5项）的排序速度提高了70%。要点：

- 主要的RL算法是基于最初下围棋Go、Chess & Shogi的AlphaZero。同样的想法也适用于搜索程序！

- 研究人员没有对C代码进行优化，而是对汇编代码进行优化。这是一个刻(ke)意的选择，去低级别的擠(ji)压每一条指令的保存。

- 汇编代码然后被逆向工程为C++，并在LLVM中开源。

- 即使表征(zheng)网络使用了Transformer，它也不是一个基础模型。整个流(liu)程只适用于排序，对于其他任務(wu)如散列，必须重新训练。

在使用ML的算法发现方面取得了另一个重要的里程碑!

AlphaDev是DeepMind的一个改变游戏規(gui)则的人工智能，它创新了核(he)心计算机科学算法。它正在重新构想排序方法，短序列的速度可提高70%。甚至散列算法的发现速度提高了30%。强化学习正在重塑(su)算法的格局！

还有网友称，在我们对语言模型感(gan)到兴奮(fen)之余(yu)，也不要忘(wang)记其他深度学习算法的成功故事(shi)：AlphaZero、AlphaFold，以及现在的AlphaDev。

参考资料(liao)：

https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms返(fan)回(hui)搜狐(hu)，查看更多

責(ze)任编辑：