![]()
Xin Zhiyuan报告编辑:Yuan Yu非常困难[新的Zhiyuan简介] Sakana AI提出了一种基于自然进化的融合M2N2的新进化方法。通过在自然界中引入“配偶选择机制”,AI可以“竞争,选择配偶并繁殖”像生物一样。由于目前缺乏全球功率计算和模型训练的实际规模受到限制,Sakana AI利用了一条新的途径来借助自然灵感。如果允许AI模型改变,例如生物生物,它们是否会竞争,合作,相互结合,并倍增,更强壮,更强壮的孩子? “优胜灵性质和安全性”的进化思想是否也适用于AI模型?最近,Sakana Aiwas从自然进化过程中汲取了灵感,并提出了一种使用“竞争和诱惑”的自然机制来改善整合AI模型的影响。 Bakana ai是AI模型的发展类似于自然进化的过程:集体智慧已经从小组中出现。示例:自然不会产生一个大型的单体生物,而是达到了另一个生态系统。在自然的生态系统中,每个人都适合环境,并在竞争,合作和组合后再现。这正是AI世界在巴卡纳的眼中的样子:当人们不再尝试建立一个大的单片AI时,他们改变了整个AI生态系统,以及各种AI专业模型来竞争,共同努力并包括...将其包括在内?他们不仅呆在想象阶段,还探索了一个融合模型,试图使用进化来打破现有模型融合的“最佳公式”。现在,他们公开了“最好的食谱”!目前,相关研究已在GECCO 2025会议上发表,并获得了最佳纸质提名奖!纸张地址:https://arxiv.org/abs/2508.16204GITHUB:https://github.com/sakanaai/natural_niches过去的模型融合需要MANU - 干预和Manu -declerminer -decterminer -niterminer -decterminer -decterminer -decterminer -nuter -declermining -nitermine Model段方法(例如,通过固定的层或块)。这个过程可以像自然的演变一样运行吗? Bakana AI提出了M2N2(自然壁ches的整合模型)并克服了上述问题。该方法源自自然EB分析的三个主要思想:进化融合边界:M2N2使模型的集成更加自由,破坏了预定的静态边界,并大大扩展了勘探空间和模型组合的可能性。像自然一样交换可变长度的DNA片段,而不是整个染色体。变化竞争:M2N2模仿自然界的“丛林法”,允许模型竞争有限的资源(即数据中心点),迫使模型成为专家并找到自己的“利基市场”高质量模型的“繁殖”。伴侣选择机制:M2N2基于模型的辅助益处,引入了一种“有吸引力的吸引力”启发方法,明智的对和Pagsasib(即,选择在其他方面的弱点中都表现良好的合作伙伴,从而大大提高了进化搜索的效率并大大降低了FISHES模型的计算成本。这种尝试的结果也令人兴奋:M2N2融合模型技术开始成功地应用于模型演化,并比其他进化算法更好地执行。示例:MNIST分类器已从随机网络变化,其性能与CMA-ES算法相当,但具有较高的计算效率。它可以扩展到大型的狩猎模型,尤其是在数学和在线购物活动中,并且生成的融合模型的性能要比其他方法更好。在融合过程的过程中,“灾难忘记的问题十个“在微调模型中也可以避免。它使网民Aragon Dev叹了口气:“ 2025年,代理商确实在自己面前找到了问题。在将M2N2扩展到LLM和基于爆炸性的图像生成模型之后,所有当前的进化和计算进化算法都显示出许多优势初始MO中组合模型的参数DELS,最大化目标,通常表示为总/平均任务。在M2N2中,研究人员对融合功能进行了更改,以使融合的边界可以改变。同时,对优化目标进行调整以促进不同的解决方案。 M2N2消除了模型集成的固定边界。为了摆脱固定融合边界的障碍,研究人员通过探索更大的界限和提效来逐渐扩大搜索空间。复杂性的逐渐引入不仅扩大了可能性,而且还保持了计算。有限资源的竞争自然会促进差异。研究人员通过改变优化目标来鼓励差异。通过限制资源供应,M2N2刺激竞争,并且自然更喜欢个人占据新的壁ni。他们的具体方法是限制人群可以从样本