INSIGHT / 新闻中心

算力、算法、数据之外:这家南大系公司,押注智能增长的第四要素

算力、算法、数据之外:这家南大系公司,押注智能增长的第四要素}
算力、算法、数据之外:这家南大系公司,押注智能增长的第四要素

本篇体育资讯由申博体育整理:

机器之心发布 过去数十年,AI 能力的提升沿着三个方向不断加码:更大的算力、更好的算法、更多的数据。

大模型时代尤其如此,更大的集群、更多的参数、海量的语料,造就了一个又一个能力超群的单体模型。

当超级个体足够多时,一个更大的想象空间随之打开。

如果让这些模型在被充分了解的前提下,彼此连通、互相协作,会不会迸发出超越任何单个个体的智能?

“十五五” 规划纲要在强调算力、算法、数据高效供给的同时,也明确提出 “鼓励多模态、智能体、具身智能、群体智能等技术创新”。

沿着这个方向看,算力、算法、数据之外的第四要素,或许正是模型本身。

本周,今年刚成立的南大系初创公司南芥智能(SinapisAI)发布技术报告《Toward Collective Model Intelligence: Characterizing and Coordinating Models》。

这是这家公司技术底座的第一次公开,系统介绍了其围绕海量模型协作构建的技术框架与初步实验结果:面向不断扩大的模型宇宙,为模型建立可量化的能力画像,再由 Mio(Models in One)结合任务需求与资源预算进行模型选择与协作。

在本次九项基准的比较中,Mio 1.

0 Lite 的平均得分最高、平均每请求费用最低。

报告给出了首份公开评测结果:Mio 1.

0 Lite 与多个单体模型、路由方案进行比较,在九个公开 benchmark 上同时拿下平均分第一(77.

15/100)和平均成本最低(每请求 0.

06 元),在其中五个数据集上取得了最高分数,与分数次高的对手相比,成本减少 73.

7%~97.

5%。

about image

南芥智能是南京大学人工智能学院的技术孵化企业,联合创始人孙腾中(CEO)、刘建东(CTO)等核心创始成员来自该学院 LAMDA 实验室,多位创始成员师从周志华院士。

10 月 8 日,其产品平台 SinapisAI 刚刚开启公测,已收录 484 个模型。

模型:智能增长的第四要素 模型之所以能成为新的增长要素,源于两个同时发生的变化。

其一,模型正在从一次性交付的技术产品,变成可以积累、复用、流通的资源,全球每周都有新模型诞生,即使技术同源,不同开发者训出的模型,也会长出不同的技能树;

其二,单体模型继续变强的边际成本越来越高。

海量模型各有所长,其互补与协作所蕴藏的增量,几乎还未被开采。

用报告结论部分的话说,一个模型的价值,取决于它在集体中的角色。

一个平均分并不亮眼的专家模型,也可能补上其他模型缺少的能力。

这条路并非凭空而来。

2016 年,中国科学院院士、南京大学副校长周志华提出 “学件(Learnware)” 范式,主张模型加规约、入库共享、按需复用。

海量模型协作,正是这一范式在大模型时代的延伸。

在报告中,这条思路有一个正式的名称,模型群体智能(Collective Model Intelligence)。

报告关注能力层面的协同,理解并协调各方独立开发模型的互补能力,以此改善任务效果与资源效率。

这条路也直接回应了 “十五五” 规划的两处部署。

一处是鼓励群体智能等技术创新。

在这座模型宇宙里,系统设计支持新模型注册、能力刻画和候选池审查,并据此更新可用模型集合,模型得以自由接入、动态退出,为模型能力的组织与按需调用提供基础。

另一处是推进算力资源的集约化、绿色化发展。

复用已经训练好的模型能力,有望减少部分重复训练与资源投入。

技术内核:看懂模型、选对模型、调得动模型 这套系统由四个技术主体构成,环环相扣。

看懂模型(Model Eval):要挑模型,先得懂模型,但对每个模型逐题进行全量评测,成本高昂。

Model Eval 结合查询级响应建模与跨领域预测,利用历史评测信息和有限的新增观测,构建模型能力画像。

在覆盖 25 个模型、18 个 benchmark、逾 2.

5 万条 query 的查询层实验中,系统估计模型在各 benchmark 上的平均得分,其平均分数估计误差低于 IRT、PSN-IRT 等对比方法。

另一项覆盖 35 个模型、32 个领域的实验则单独评估跨领域预测,以已测领域的准确分数为锚点,预测模型在未测领域的表现。

选对模型(Mio):它将模型能力证据与当前任务状态结合,先筛出满足接口、模态和预算等约束的候选,再比较预期任务表现,并在表现接近的模型中,选择成本与延迟更合适的方案。

报告提出的候选池维护机制是动态的,随新模型接入、能力证据与服务条件变化持续调整。

组池时,它评估方向性替换损失,也就是换掉一个模型之后,看它在具体请求上的独有优势是否有人接班。

只有留下的模型在领域覆盖、替换损失和服务兼容性上都接得住,一个模型才会被移出候选池,平均分未必突出、却能补足短板的专家模型因此被保留下来。

调得动模型(Mos):选定模型之后,还有一个常被忽视的问题:相同型号的模型常有多个

更多体坛动态,关注申博体育。

END OF ARTICLE 申博体育
PREVIOUS ARTICLE 116名运动员参加,广州在天河首次举办陆地冰壶正式赛
NEXT ARTICLE [无下一篇]