跳到正文
Giordano Cabral

流畅度 · 2025–

什么是人工智能领域的流畅度?为什么要衡量运动而不是位置?

流畅度是指衡量运动而非位置。在一个最新技术水平每隔几个月就会变化的领域,成熟度量表把组织定位在一个已经过时的参照上。运动同样无法通过个人对自己的陈述来衡量:METR 的对照试验(2025年7月10日)对 16 名经验丰富的开发者进行了测量,他们在自己代码仓库的 246 项任务中使用 IA 后,所用时间多出 19%,而他们自己估计快了 20%。该衡量依据的是工作留下的痕迹。这一概念是 FAROL 六个维度、PsyFun 的游戏,以及 Giordano Cabral 所授课程中过程性评估的基础。

从上方俯视的工作台:一个带有四个按钮和脚踏板的 MDF 盒子、线缆、焊锡卷、面包板、游标卡尺,以及一张画有波形的纸;一个红色按钮。

01 · 流畅度

METR 的试验,2025 年和 2026 年

2025年7月10日,METR 发布了一项关于生产力与 IA 的对照试验。16 名经验丰富的开发者在自己代码仓库的 246 项任务上工作,每项任务经随机抽签决定允许或禁止使用 IA。使用 IA 时,他们所用时间多出 19%。结束时,他们估计自己快了 20%。

2026年2月24日,同一批作者重新开展了这项研究。在原始小组中回归的十人里,结果是快了 18%,区间从快 38% 到慢 9%。作者们自己把这一新数据称为弱信号,因为受邀者中拒绝参加的比例在上升,他们不愿参加一项要求自己有一半时间不使用 IA 工作的研究。

结果在两次测量之间改变了符号,实验设计也不再测量原本要测量的内容,因为参与者使用AI的情况发生了变化。给出等级的量表,预设量表本身保持稳定。

Giordano Cabral 采用的术语是流利度(fluência)。他自2025年起在 FAROL 使用这一术语,FAROL 是他在 CIn/UFPE 创立的研究组,2026年将成为 Instituto FAROL de Fluência Agêntica(FAROL 智能体流利度研究所);在此之前,同样的方法虽未使用这一名称,但已见于 PsyFun 的游戏和课堂评估中。

02 · 流利度

为什么用“流利度”

这个术语来自语言学习:不练习,水平就会下降。流利度按维度衡量(一个组织可以在数据方面流利,而在人员方面不流利),并取决于周围的生态系统。

仅看采用情况,已经无法区分组织:2025年 Stack Overflow 调查显示,84%的受访者在开发中使用或计划使用AI,上一年为76%;46%的人不信任AI返回结果的准确性,信任的人为33%。

AI成熟度模型沿袭了20世纪90年代的软件成熟度模型,而后者是为稳定的流程设计的。FAROL 的批评在智能体AI中有详细阐述,共三点:被评在最高等级的组织,在下一次变革中往往有更多可能损失;这些模型奖励标准化、惩罚试验,而在AI领域,快速淘汰有其价值;位置并不能说明速度。

共有六个维度(知识、工具与集成、授权与自主、流程、生产率与成果、学习与文化),每个维度都有自己的N0至N5标尺,对应一个包含264个题项的主题库。入口是开放诊断:负责人代表所在组织作答,用时三到八分钟,无需事先注册,并即时获得雷达图。企业此后的做法见用AI实现企业转型。

同一个264题项题库的五种解读,见 Mapa da Fluência Agêntica
同一个264题项题库的五种解读,见 Mapa da Fluência Agêntica

03 · 流利度

测量行为痕迹

当被问到是否会合作时,儿童几乎总是回答会。在 PsyFun 的游戏中,合作需要付出资源,选择在大约三秒内做出,屏幕上也没有任何东西被称为两难。在对162名6至12岁儿童进行的两项实验中(2021年发表于 Behavior Research Methods),他们在一个游戏中比在另一个游戏中合作更多,而且是有条件的合作,这两点是问卷无法区分的。Cabral 于2013年和2014年在 UFRPE 负责该小组,并在2018年之前负责催生该小组的 CNPq 项目。

区别在于一个人对自己的回答,与对其所做之事的记录。这两种测量的误差性质不同,因此不能相加:自述的误差是系统性的,且方向一致,如 METR 所示;行为痕迹只能看到经过会记录的系统的工作,记录的是做了什么,而不是理解了什么。

在 Tendências em Mídia e Interação 2026.2 学期,每位学生在课程系统内逐项筛选五百个工具,系统会记录在每个工具上花费的时间。规则写在教学计划中:如果产品由机器生产,则评估操控机器的过程。本课程不使用AI检测器;标准是过程证据:代码仓库、历史记录、说明理由、测试。在第一次提交中,十四名学生将5,776个工具纳入公共目录,并记录了659次选择。

在 FAROL,观察到的使用情况画像是一个单独的维度,不在采集阶梯之内,因为它不能与个人自述的内容相加。Meu Mapa de IA 询问学生已经做过什么;汇总结果发布在AI采用观察站,截至2026年9月14日的数据提取中共有2,943份回答。该调查为横断面调查:各轮次并不追踪同一批人。

04 · 流利度

标尺止步之处

该测量不评估AI产出内容的质量,没有任何工具会将对话内容发送到任何服务器,也不公布任何个人结果:在公开面板中,回答少于五份的单元格会被隐去,因此在观察站中有1,394,729个单元格未计入合计。无法获得的组合并不意味着为零。

有两点异议与指数一同公布。第一是古德哈特定律:一旦指标变成目标,就不再衡量它原本所代表的东西。流利度指数有三个易受影响之处:奖励使用量,而这很容易被操纵;被当作认证标识解读;以及在为授权打分时,奖励了在自身能力之外授权最多的人。第二:公开宣布的测量相当于公开承诺,事后可以被追究,包括通过法律途径。

能力蒸馏(把代码生成委托出去,会损害技能的形成,对初学者的损害更大)是 Cabral 的文章中反复出现的一个假设,目前尚未得到检验。要检验它,需要对同一批人进行长期跟踪,而 FAROL 目前的测量工具做的是横断面测量。Açude 是 2026 年上线的公共资源博弈游戏,逐轮记录参与者的决策。

常见问题

什么是人工智能流利度?

人工智能流利度,是指个人或组织在使用 AI 时的行进速度,按各个维度分别衡量,而不是在某个量表上所达到的等级。与语言一样,它是一种持续的状态:停止练习的人会退步。它是 FAROL 的研究对象。FAROL 是 CIn/UFPE 的研究小组,由 Giordano Cabral 和 Filipe Calegário 于 2025 年创建,从六个维度衡量流利度,刻度从 N0 到 N5;2026 年,该小组改组为 Instituto FAROL de Fluência Agêntica。

AI 流利度与 AI 成熟度有什么区别?

按照 FAROL 的定义,成熟度衡量的是位置,流利度衡量的是移动。成熟度模型把组织放在一个阶梯的某一级上,这个阶梯继承自上世纪 90 年代的软件领域,是为稳定的流程设计的。当技术前沿每隔几个月就变化一次时,参照标准在测量之后就已经改变了。流利度衡量的是组织移动的速度,以及在哪个维度上移动。

依据行为痕迹而非自我申报来衡量,是什么意思?

申报式测量,是指个人在问卷中对自己的回答。痕迹式测量,是对其实际行为的记录:游戏中的决策、筛选测试中每一题所用的时间、在某项任务中使用的工具。申报会出现系统性的偏差:在 METR 2025 年 7 月的实验中,经验丰富的从业者使用 AI 后多花了 19% 的时间,却估计自己快了 20%。这一对照出现在同一项工作的三个环节中:游戏、筛选测试的遥测数据和观察到的使用情况。

FAROL 的流利度指数是否衡量 AI 产出内容的质量?

不衡量。这些工具也不会把对话内容发送到任何服务器,也不公布个人结果:在公开的仪表板中,任何少于五份回答的单元格都会被隐去。在指数旁边,还公布了小组尚未解决的两项异议:古德哈特定律,以及已公布的指标本身就是一种承诺这一事实。

组织现在可以在哪里衡量自身的流利度?

在 FAROL 的公开诊断页面 farol-ia.org/diagnostico。由一位负责人代表组织作答,耗时三到八分钟,无需事先注册。结果即时生成,包含六个维度的雷达图,以及企业处于生成式 AI 与智能体式 AI 之间分界线的哪一侧。该诊断免费,中间没有咨询服务,支撑它的题库共有 264 道题。