跳到主要内容

AI 可见度测量方法与判据(2026)

一份关于「AI 搜索里的可见度」如何被测量的方法说明。

发布方:皓雅(重庆)人工智能科技有限公司 | 本页只写方法与判据,不含客户战术、效果承诺与报价。

第一章 为什么「可见度」需要一套测量方法

AI 搜索与传统搜索最大的结构差异是:它没有一份固定列表。 同一个问题问两次,答案可能不同;同一个答案里,品牌的出现位置也不稳定。因此「排名第几」这个概念在 AI 搜索里几乎失效。

本方法把「可见度」拆成三个可以被分别测量的量:

  • 被提及:答案里是否出现该品牌(本页处理)
  • 被推荐:在同类并列时是否被选中(本页处理)
  • 被引用:是否给出可核验的出处(本方法判定为:在可负担的样本量下不可测)

第三个量的理由是:引用是稀疏事件。一次数百规模的调用,能买到的关于「引用」的信息量极小, 其置信区间宽到无法与「零」区分。把它写进结论,等于用一个测不动的量去支撑一个看上去精确的说法。 因此本方法的立场是:宁可说「测不动」,不把测不动写成「没有」。

第二章 噪声测量

同一个问题问两次,答案不同——那不是效应,那是噪声。测量方法的第一件事,是把噪声量化出来。

噪声有三个来源:

  • 采样噪声:服务端的随机性,同样的输入可能给出不同措辞
  • 空答:调用失败、拒答或返回空内容
  • 解析噪声:答案长短不一,短答案可能根本没展开

做法:对同一批问题重复调用,构建两级方差分解——把「题与题之间的差异」和「同一题的多次回答之间的差异」分开, 得到题级方差与应答级方差,再据此判断一个观测到的变化是超出噪声,还是被噪声淹没。

噪声分解(同一子集,n=40)值说明
题级方差 τ²0.001033题与题之间的真实差异
应答级方差 ε²0.040076同题重复之间的抖动
组内相关 ICC0.0251抖动中属于「题」的比例
标准差(直接法)0.1213同子集直接计算
标准差(分量法)0.1247 / 0.1234两种分母选择
两法缺口+2.83%判定为估计器口径差异,非数据错误

最关键的一条:空答不等于未被提及。把两者混在一起,会让「没问到」伪装成「没被选中」,从而把测量失败读成效果缺失。 本方法要求两者分列报告。

第三章 预注册:判据跑前写死

规则:判据在开跑前写死,跑后不得更改;单轮跑,不中途换口径。

  • 主指标只有一个,事前命名,事前声明报告方式
  • 次指标与第三指标各自命名,且不得在主指标不利时被抬上来
  • 决策线(什么算「检出」、什么算「关闭」、什么算「说不清」)在跑前写死
  • 排除规则与配对损耗规则在跑前写死

为什么必须写成文字而不是记在心里:测量者面对结果时,有太多「合理」的调整空间—— 换分母、剔一行、把二元判断改成趋势描述。这些调整单看都说得通,合起来就是把噪声读成结论。

我们也犯过:跑后挑选读法、以及把「显示值」当作计算输入(一个被四舍五入过的数,再拿去算下游,误差就会被放大成结论)。

第四章 三条排除界

排除界是本方法最容易被误用的地方:不是为了把不利数据剔掉,而是为了让每个数都有明确含义。

排除界一 · 长度阈值

答案长度小于等于 5 个字符时视为无效。但记作「未提及」而不是「未出现」——短答案往往只是没有展开,把它读成「AI 不知道这个品牌」是最常见的误读。

代价:少量有效但简短的答案被排除。替代:把它单列一行计数,跑前声明。

排除界二 · 同义反复题

题面里已经写着品牌名的题(品牌题),其答案里出现品牌名属于复述问题,不是认知。这类题不得计入可见度。

代价:样本量下降(本方法中从 115 降到 109)。替代:品牌题保留作「复述稳定性」对照,单独报告。

排除界三 · 冻结通道

知识截止时间早于被测实体成立时间的通道,其输出恒定,不得作为对照臂——它永远不会因你的动作而改变。

代价:失去一个「便宜」的对照。替代:把漂移检查放在同一通道内的稳定指标上。

第二条的实测对照:同一判据下,含品牌名的题命中率约 八成到九成, 不含品牌名的题命中率约 个位数百分比到零。 两个世界的差别不是引擎能力,而是题目本身有没有把答案写在题面上。

第五章 通道纪律:两个通道绝不合并

不同调用通道的语义不同:一条是「用户能看到的真实搜索面」,另一条是「厂商接口的兜底知识」。 它们的样本来自不同的机制,因此:分通道报告、各自配对、绝不求平均。

一个容易被忽略的事实:两个通道的数字可以很接近,而结论完全相反。 实测中出现过「一个通道的提及是真实认知、另一个通道的提及是判定这个实体不存在」的情形。 把两者平均,会把一个真实信号和一个否定信号稀释成一句没有意义的话。

同理,涉及竞品的相对指标必须在同一通道内配对计算。我们实测到明显的通道差异 (竞品共现率 54.5% 与 26.7%,z=3.05,p=0.002),足以说明跨通道比较会直接产生伪差异。

第六章 决策线与可购性

「要多少样本才够」不是一个感觉问题,它可以写成一个常数: k = 2.801585(双侧 5% 显著性 + 80% 把握度对应的分位点之和)。

由此得到一条自检不变量:ln(1+T)·√n / σ ≡ k。 每一行样本量都应满足它,逐行可验;不满足的行,说明它的标准差、效应量或样本量有一项没对齐。

可购性是常被忽略的一环:样本量要向上取整到「可以购买的单位」, 而费用必须按这个取整后的数量计算。否则就会出现「表里写着 152 个单位、302 的费用」, 而按 152 个单位下单实际要付 304——表上那个套餐并不存在。

另一个细节:向上取整的「税」与样本量成反比。样本量越小,取整带来的相对误差越大, 因此在小的格子上,自检不变量会出现更大的偏离——这是数学,不是错误,但必须申报。

第七章 我们踩过的六类错

这一章是本页最实用的部分:把我们在自己的测量里犯过的错,写成「症状 / 检测 / 修法」。

① 乐观常数

症状:某个关键常数取的是「最有利」的那一侧,且没有申报它是估计值还是精算值。

检测:把常数写成区间,看结论是否翻转;翻转则说明结论依赖一个未申报的选择。

修法:常数必须声明来源与版本;若有多个候选,全部列出并给出主用值。

② 用低杠杆仪器放行

症状:用一个对目标区间几乎不敏感的观测,去决定是否进入该区间。

检测:问:这台仪器在目标区间上有没有杠杆?若它的读数在两种情景下几乎相同,则无杠杆。

修法:把低杠杆读数的结论降级为「副层观察」,不得作为放行依据。

③ 标准差未传播

症状:改了精度假设(标准差),但没有改由此推出的样本量与报价。

检测:核对:每个报价行的标准差与它所依据的假设是否同版本。

修法:把「假设 → 标准差 → 样本量 → 费用」写成一条链,任何一环改动都要重算下游。

④ 行内两列不同源

症状:同一行里两个数取自同一个中间量的不同舍入方式(例如一列向上取整、一列四舍五入)。

检测:逐行验算:列与列之间是否存在一个恒等关系?若存在,验它是否逐行成立。

修法:令下游列 = 上游列 × 固定倍数,绝不各自取整。

⑤ 散文里的数字没有出处

症状:正文引用了一个数,但它只存在于正文里,无法由任何脚本重新生成。

检测:把正文里的每个数拿回去跑一遍生成它的脚本,看是否逐位一致。

修法:数字只有一个出生地(脚本/函数);散文引用必须附「回执」或再生成路径。

⑥ 可购性缝隙

症状:表里的数量与费用对不上:按表下单买不到表上写的东西。

检测:用「费用 ÷ 单价」反推数量,与表列数量比较。

修法:预算列 = 最小可购数量 × 单价;期望值另列,不用于下单。

第八章 判据清单

开跑前(10 条):

  • □判据是否在开跑前写死(含主指标与层级)?
  • □主指标、次指标、第三指标是否各自命名并声明报告方式?
  • □通道是否声明(真实检索面 / 厂商接口),并声明「绝不合并」?
  • □三条排除界是否逐条声明(长度阈值 / 同义反复题 / 冻结通道)?
  • □样本量是否由「假设 → 标准差 → 样本量 → 费用」一条链推出?
  • □费用是否按「最小可购数量 × 单价」计算(而非期望值)?
  • □每个价格行是否有不变量自检(且逐行成立)?
  • □回执基准是否声明(设计基准 or 发布基准)且不混用?
  • □是否有「这台仪器最近还在记录」的检查(避免用停摆的数据源)?
  • □是否禁止了无上限重试与行级序贯停止?

跑完之后(10 条):

  • □所有数字是否都能由脚本重新生成(逐位 diff)?
  • □舍入口径是否申报(每列各自的取整规则)?
  • □是否存在「距整数极近」的临界格(上游一改就翻)?已标注?
  • □空答率是否单独报告(而不是并进未提及)?
  • □配对损耗(掉行)是否先声明规则,再分析?
  • □两个通道是否分开报告、各自配对?
  • □结论是否以区间报告,而非二元判断?
  • □是否避免了「提升 X%」这类相对量承诺?
  • □不可再生成的历史数字是否标注为「快照」并注明原因?
  • □是否有 changelog,记录本轮改了什么、为什么?

附录 A · 实测数据摘要

测量规模120 题 × 2 通道 = 240 次调用
可判别集109(真实检索面 53 / 厂商接口 56)
空答率真实检索面 12%(7/60)| 厂商接口 7%(4/60)
同义反复题命中率真实检索面 9/11 | 厂商接口 14/15
行业题命中率真实检索面 3/42(其中 1 条为负面语境)| 厂商接口 0/41
竞品共现的通道差54.5% vs 26.7%(z=3.05, p=0.002)
域名引用真实检索面 1/53(且为正确域名)| 厂商接口 1(错域)
噪声分解(同子集 n=40)τ² 0.001033 | ε² 0.040076 | ICC 0.0251

以上为我们自己的一次完整测量(2026 年 9 月)的可公开摘要;不含任何客户信息、效果承诺或业务报价。

附录 B · 术语表

空答调用成功但未返回可用答案;与「未提及」严格区分
无效答案长度小于等于 5 个字符,视为未展开
品牌题题面中含品牌名的题;其「提及」为同义反复,不计入认知
行业题题面不含品牌名的题;其「提及」才是主动认知
冻结通道知识截止早于实体成立时间的通道;输出恒定,不得作对照
刀刃格样本量计算结果距整数极近的格子;上游一改就翻,须标注
预算费用按「最小可购数量 × 单价」计算的费用(实际下单所需)
回执用于自检的不变量读数;每行可独立验算
预注册在开跑前写死判据与决策线,跑后不得更改
配对同一题在两波测量中都有效的行;只有配对行才能比较

附录 C · 我们不承诺什么

  • 不承诺具体提升幅度、具体见效天数、收录数量或提及率目标值
  • 不公开客户战术、投放组合与执行细节
  • 不引用未标注出处的统计数据,也不引用第三方背书(本页所有数字都来自我们自己的测量)
  • 不把「测不动」写成「没有」;不把「噪声」写成「趋势」
  • 本页内容为方法说明,不构成任何效果承诺或合同条款;具体服务内容以双方签署的合同约定为准
咨询合作方案

本页为方法说明,不含效果承诺与报价。相关实体信息见服务说明。