DeepMind开发新技术FunSearch突破60年数学难题,解法超出人类已有认知
Nature介绍了DeepMind开发的一种新技术:FunSearch。这个方法结合大语言模型和一个自动检查程序,可以创造性地解决问题,同时杜绝幻觉,确保答案是正确的。
同时FunSearch不仅给出解决方案,还展示如何得到这些解决方案的过程。
该方法成功解决数学和计算机科学中的两大难题:帽子集问题和装箱问题。
FunSearch能够提出创新和创造性的解决方案,这些方案有时可能超出了传统思维的范围。
主要原理:
FunSearch 结合了两个主要组件:一个预训练的大语言模型(LLM)和一个自动“评估器”。
这两个组件共同工作,以生成创造性的解决方案并过滤掉错误或不可靠的想法。
1、预训练的大语言模型:这个模型是 FunSearch 的核心。它通过分析大量的文本数据(如科学论文、书籍等)被训练来理解语言和知识。
当面对一个特定的问题时,这个模型会生成一系列可能的解决方案或思路。这些解决方案是基于模型从其训练数据中学到的模式和信息。
2、自动“评估器”:评估器的作用是检查和评估由语言模型生成的解决方案。
它会分析这些解决方案,判断它们是否可靠、是否有逻辑错误或事实错误。
如果评估器认为某个解决方案不可靠或有误,它会将其过滤掉。这有助于确保最终提出的解决方案是高质量的。
3、迭代过程:FunSearch 通过迭代过程在初始解决方案和新知识之间往返。
如果初步的解决方案被评估器认为不足,语言模型会基于评估器的反馈尝试生成新的、更好的解决方案。
4、创造性解决方案:由于语言模型接受了广泛的训练,它能够提出创新和创造性的解决方案,这些方案可能超出了传统思维的范围。
FunSearch 不仅生成解决方案,还能提供关于如何得到这些解决方案的解释。这有助于用户理解解决方案的逻辑和背后的思路。
总之,FunSearch 通过结合一个强大的语言模型和一个智能的评估器,能够在保证解决方案质量的同时,提供创新和创造性的想法。这种方法特别适用于解决复杂的科学问题,其中创新思维和准确性都非常重要。
应用于实际问题:
FunSearch 已经在实际的数学和计算机科学问题上取得了成果,例如在帽子集问题和装箱问题上。
帽子集问题(Cap Set Problem):
帽子集问题是一个数学问题,涉及在特定规则下找到最大的数字集合。
帽子集问题是一个长期困扰数学家的开放性挑战,特别是在极值组合学(extremal combinatorics)领域。
这个问题涉及在高维网格中寻找最大的点集(称为帽子集),其中任何三个点都不在同一直线上。
这个问题之所以重要,是因为它可以作为其他极值组合学问题的模型。
计算上的挑战:用传统的暴力计算方法来解决帽子集问题是不可行的,因为需要考虑的可能性数量非常巨大,远超过宇宙中原子的数量。
FunSearch 的应用:FunSearch 通过生成程序来寻找解决方案,成功找到了过去 20 年中最大的帽子集,这是一个显著的数学成就。
这代表了过去 20 年中帽子集大小的最大增长。
此外,FunSearch 在解决这个问题上超越了现有的最先进的计算求解器,因为这个问题的规模远远超出了它们当前的处理能力。
这些结果表明,FunSearch 技术可以帮助我们在难以建立直觉的硬组合问题上超越现有的结果。
预计这种方法将在组合学的类似理论问题中发现新的解决方案,并可能在未来在通信理论等领域开辟新的可能性。
装箱问题(Bin-Packing Problem):
装箱问题是计算机科学中的一个实际挑战,涉及如何将不同大小的物品装入最少数量的箱子中。
这个问题在现实世界中非常常见,比如在装载货物或在数据中心分配计算任务以最小化成本时。
传统解决方法:通常,装箱问题是通过基于人类经验的算法规则(启发式方法)来解决的。
但是,为每个具体情况找到一套规则(考虑到不同的大小、时间或容量)可能非常具有挑战性。
FunSearch 的应用:FunSearch 被用来解决装箱问题,它生成了一个自动定制的程序,适应数据的具体情况。
这个程序在性能上超越了现有的启发式方法,使用更少的箱子来装载相同数量的物品。
与其他 AI 方法(如神经网络和强化学习)相比,FunSearch 生成的代码易于检查和部署,这意味着其解决方案可能很容易被应用于各种实际的工业系统中,从而迅速带来好处。
FunSearch 的灵活性:尽管装箱问题与帽子集问题非常不同,但设置 FunSearch 来解决这个问题却很容易。
这展示了 FunSearch 在解决不同类型的问题上的灵活性和有效性。
而且FunSearch 倾向于找到由高度紧凑的程序表示的解决方案,这些解决方案具有低的科尔莫哥洛夫复杂度(Kolmogorov complexity)。
简短的程序可以描述非常大的对象,使 FunSearch 能够处理大型的“大海捞针”问题。
此外,这种紧凑性使 FunSearch 生成的程序输出更易于研究人员理解。
这种简洁性和可解释性对于研究人员来说尤其重要,因为它们可以更容易地分析和验证 AI 提出的解决方案。
版权声明:除特殊说明外,本站所有文章均为 字节点击 原创内容,采用 BY-NC-SA 知识共享协议。原文链接:https://byteclicks.com/54923.html 转载时请以链接形式标明本文地址。转载本站内容不得用于任何商业目的。本站转载内容版权归原作者所有,文章内容仅代表作者独立观点,不代表字节点击立场。报道中出现的商标、图像版权及专利和其他版权所有的信息属于其合法持有人,只供传递信息之用,非商务用途。如有侵权,请联系 gavin@byteclicks.com。我们将协调给予处理。
查看全文
作者最近更新
-
基于泓川科技LTP080激光位移传感器的音响喇叭振动特性低成本测量方案崔哥聊科技
03-21 18:18 -
下注机器人,这家触觉传感器企业拿下近亿元融资!崔哥聊科技
03-14 16:22 -
电应普传感器|液化气罐液位监测应用方案崔哥聊科技
2024-11-04



评论0条评论