AlphaTensor可以探索矩阵乘法的算法,它也适用于解决其他数学难题。图片来自nature.com
导读
“机器学习技术提高了计算效率,并可能具有深远的应用。”——《自然》杂志如此评价DeepMind的最新成果。
这些年,专注于人工智能的DeepMind公司给人们带来的惊喜几乎没有中断过,从2018年AlphaZero打造的AI机器人——AlphaGo在围棋上打败天下无敌手,到2021年AlphaFold能够预测蛋白质结构,再到2022年AlphaFold预测出世界上几乎所有的蛋白质结构。
也正是AlphaFold的成就,让DeepMind创始人德米斯·哈萨比斯(Demis Hassabis)荣获2022年科学突破奖。
当我们还在纠结AlphaFold的预测效果、或者感叹哈撒比斯的天才人生时,DeepMind又有新动作了。
这一次,DeepMind团队在AlphaZero的基础上进行了改进,并取名为“AlphaTensor”,它通过单人游戏的方式发现了矩阵乘法的更快算法,解决了数学界50年来都没有新进展的难题。
徐诗露 | 撰文
学过高数的读者一定都为矩阵乘法头疼过,难道就没有一种更简单的方法来计算吗?实际上,几个世纪以来,数学家一直认为,标准矩阵乘法算法可以说是最高效的一种算法。
标准矩阵算法不复杂吗?对很多人来说它依然复杂。为了探索矩阵乘法的高效算法,人类经历了几个世纪,但依然没有找到比标准矩阵乘法算法更合适的,直到AlphaTensor的出现。
01
矩阵乘法的介绍
要了解AlphaTensor的特点,我们得先来探索一下它想解决的问题——矩阵乘法。
矩阵乘法在当代数学领域中有着巨大的影响力,在现代计算中无处不在。这个计算可以用于处理你手机上的照片、识别语音指令、预测天气、压缩数据和视频等许多你熟悉却想不到的地方。
几个世纪以来的数学家都认为标准矩阵算法是一种效率最高的算法,那标准矩阵算法是什么?请看下图:
将两个3x3的矩阵相乘的过程示例
想要得到深蓝色圈中的数字11,需要将灰色框和浅蓝色框的数字一一对应相乘,然后相加。学过高数的读者肯定都清楚,没学过的看到这个清晰明了的示意图,也应该明白了,那我们继续往下说。
1969年,德国数学家沃尔克·斯特拉森(Volker Strassen)证明了更好的算法确实存在,他的这个结论震惊了整个数学界。他通过研究2×2的矩阵乘法发现了一种巧妙的方法,可以减少计算过程中乘法的次数(与加法相比,乘法对计算效率的影响更大、更明显)。
2×2的矩阵乘法中标准算法和Strassen算法的对比,左侧为标准算法,需要进行8次乘法计算,右侧是Strassen算法,只需要进行7次乘法计算
超过2阶的矩阵乘法是否也有类似的高效计算方法?这个问题在斯特拉森做出这一突破之后的数十年内都没有得到解决。
近日,DeepMind公司发布消息,他们开发AlphaTensor系统不仅解决了这个问题,还发现了比以前所知的算法更快的一种算法。
02
AlphaTensor做了什么
研究人员首先将寻找矩阵乘法有效算法的问题转换为一种单人游戏,在这个游戏中,AlphaTensor系统在开始时并没有任何关于矩阵乘法算法的知识,它随着游戏的进行逐渐进行调整,不仅复现了Strassen算法,还发现了比现有已知算法更快的算法。
由AlphaTensor玩的单人游戏,目标是找到一个正确的矩阵乘法算法,图片来自deepmind.com
以4x5乘以5x5矩阵的乘法为例,标准矩阵算法需要计算100次乘法才能得出结果,即使这个算法可以在人为的实际计算(简化计算过程)中简化为80次,AlphaTensor系统找到的算法仅仅使用76个乘法,就可以得出计算结果。
4x5乘以5x5矩阵乘法示意
这个4x5乘以5x5矩阵乘法只是AlphaTensor的一个例子,它还首次对Strassen算法进行了改进,使Strassen算法可以用于任意阶次的矩阵计算。此外,AlphaTensor还发现了一组复杂多样的算法,这表明矩阵乘法的算法远远比人类想象的更多。
当AlphaFold预测出世界上几乎所有的蛋白质结构,无数科学家为之感慨,现在出现的AlphaTensor又将给科学界带来什么?
03
AlphaTensor将给科学界带来什么?
我们先回顾一下AlphaFold的成绩。
AlphaFold可根据基因序列预测对应的蛋白质结构,2022年7月28日,DeepMind公司表示,AlphaFold已经预测了地球上几乎所有已知蛋白质的结构,预测数量超过2亿种。
AlphaFold预测的蛋白质结构,图片来自deepmind.com
这个被誉为“像一场地震”的系统,不仅可以用于加速被忽视疾病的药物研发、对抗细菌的耐药性、研究核孔复合物结构,还能帮助开发新型疫苗、揭示遗传变异模型等,给生物医药行业的发展带来了翻天覆地的变化。
如今,突破数学难题的AlphaTensor又会给科学界带来什么变化?很难说,但是与AlphaFold一样,不少科学家对它的出现表示震惊。
“如果可以进一步在实践中使用,AlphaTensor的这一发现将非常令人兴奋,”剑桥大学麻省理工学院的计算机科学家弗吉尼亚·瓦西列夫斯卡·威廉姆斯(Virginia Vassilevska Williams)说,“算法的改进将给许多程序计算带来变化。”
维克森林大学的计算机科学家格雷·巴拉德(Grey Ballard)看到了未来人机合作的潜力,他表示,“我们或许能够通过这种计算方法对一些难题进行进一步的突破。”
参考资料
1.Discovering faster matrix multiplication algorithms with reinforcement learning | Nature
2.DeepMind AI invents faster algorithms to solve tough maths puzzles (nature.com)
3.Discovering novel algorithms with AlphaTensor (deepmind.com)
4.DeepMind AI finds new way to multiply numbers and speed up computers | New Scientist
5.DeepMind's game-playing AI just beat 50-year-old record in computer science | MIT Technology Review
6.Discovering novel algorithms with AlphaTensor (deepmind.com)
,