AI 可见度测量方法与判据(2026)
一份关于「AI 搜索里的可见度」如何被测量的方法说明。
发布方:皓雅(重庆)人工智能科技有限公司 | 本页只写方法与判据,不含客户战术、效果承诺与报价。
第一章 为什么「可见度」需要一套测量方法
AI 搜索与传统搜索最大的结构差异是:它没有一份固定列表。 同一个问题问两次,答案可能不同;同一个答案里,品牌的出现位置也不稳定。因此「排名第几」这个概念在 AI 搜索里几乎失效。
本方法把「可见度」拆成三个可以被分别测量的量:
- 被提及:答案里是否出现该品牌(本页处理)
- 被推荐:在同类并列时是否被选中(本页处理)
- 被引用:是否给出可核验的出处(本方法判定为:在可负担的样本量下不可测)
第三个量的理由是:引用是稀疏事件。一次数百规模的调用,能买到的关于「引用」的信息量极小, 其置信区间宽到无法与「零」区分。把它写进结论,等于用一个测不动的量去支撑一个看上去精确的说法。 因此本方法的立场是:宁可说「测不动」,不把测不动写成「没有」。
第二章 噪声测量
同一个问题问两次,答案不同——那不是效应,那是噪声。测量方法的第一件事,是把噪声量化出来。
噪声有三个来源:
- 采样噪声:服务端的随机性,同样的输入可能给出不同措辞
- 空答:调用失败、拒答或返回空内容
- 解析噪声:答案长短不一,短答案可能根本没展开
做法:对同一批问题重复调用,构建两级方差分解——把「题与题之间的差异」和「同一题的多次回答之间的差异」分开, 得到题级方差与应答级方差,再据此判断一个观测到的变化是超出噪声,还是被噪声淹没。
| 噪声分解(同一子集,n=40) | 值 | 说明 |
|---|---|---|
| 题级方差 τ² | 0.001033 | 题与题之间的真实差异 |
| 应答级方差 ε² | 0.040076 | 同题重复之间的抖动 |
| 组内相关 ICC | 0.0251 | 抖动中属于「题」的比例 |
| 标准差(直接法) | 0.1213 | 同子集直接计算 |
| 标准差(分量法) | 0.1247 / 0.1234 | 两种分母选择 |
| 两法缺口 | +2.83% | 判定为估计器口径差异,非数据错误 |
最关键的一条:空答不等于未被提及。把两者混在一起,会让「没问到」伪装成「没被选中」,从而把测量失败读成效果缺失。 本方法要求两者分列报告。
第三章 预注册:判据跑前写死
规则:判据在开跑前写死,跑后不得更改;单轮跑,不中途换口径。
- 主指标只有一个,事前命名,事前声明报告方式
- 次指标与第三指标各自命名,且不得在主指标不利时被抬上来
- 决策线(什么算「检出」、什么算「关闭」、什么算「说不清」)在跑前写死
- 排除规则与配对损耗规则在跑前写死
为什么必须写成文字而不是记在心里:测量者面对结果时,有太多「合理」的调整空间—— 换分母、剔一行、把二元判断改成趋势描述。这些调整单看都说得通,合起来就是把噪声读成结论。
我们也犯过:跑后挑选读法、以及把「显示值」当作计算输入(一个被四舍五入过的数,再拿去算下游,误差就会被放大成结论)。
第四章 三条排除界
排除界是本方法最容易被误用的地方:不是为了把不利数据剔掉,而是为了让每个数都有明确含义。
排除界一 · 长度阈值
答案长度小于等于 5 个字符时视为无效。但记作「未提及」而不是「未出现」——短答案往往只是没有展开,把它读成「AI 不知道这个品牌」是最常见的误读。
代价:少量有效但简短的答案被排除。替代:把它单列一行计数,跑前声明。
排除界二 · 同义反复题
题面里已经写着品牌名的题(品牌题),其答案里出现品牌名属于复述问题,不是认知。这类题不得计入可见度。
代价:样本量下降(本方法中从 115 降到 109)。替代:品牌题保留作「复述稳定性」对照,单独报告。
排除界三 · 冻结通道
知识截止时间早于被测实体成立时间的通道,其输出恒定,不得作为对照臂——它永远不会因你的动作而改变。
代价:失去一个「便宜」的对照。替代:把漂移检查放在同一通道内的稳定指标上。
第二条的实测对照:同一判据下,含品牌名的题命中率约 八成到九成, 不含品牌名的题命中率约 个位数百分比到零。 两个世界的差别不是引擎能力,而是题目本身有没有把答案写在题面上。
第五章 通道纪律:两个通道绝不合并
不同调用通道的语义不同:一条是「用户能看到的真实搜索面」,另一条是「厂商接口的兜底知识」。 它们的样本来自不同的机制,因此:分通道报告、各自配对、绝不求平均。
一个容易被忽略的事实:两个通道的数字可以很接近,而结论完全相反。 实测中出现过「一个通道的提及是真实认知、另一个通道的提及是判定这个实体不存在」的情形。 把两者平均,会把一个真实信号和一个否定信号稀释成一句没有意义的话。
同理,涉及竞品的相对指标必须在同一通道内配对计算。我们实测到明显的通道差异 (竞品共现率 54.5% 与 26.7%,z=3.05,p=0.002),足以说明跨通道比较会直接产生伪差异。
第六章 决策线与可购性
「要多少样本才够」不是一个感觉问题,它可以写成一个常数: k = 2.801585(双侧 5% 显著性 + 80% 把握度对应的分位点之和)。
由此得到一条自检不变量:ln(1+T)·√n / σ ≡ k。 每一行样本量都应满足它,逐行可验;不满足的行,说明它的标准差、效应量或样本量有一项没对齐。
可购性是常被忽略的一环:样本量要向上取整到「可以购买的单位」, 而费用必须按这个取整后的数量计算。否则就会出现「表里写着 152 个单位、302 的费用」, 而按 152 个单位下单实际要付 304——表上那个套餐并不存在。
另一个细节:向上取整的「税」与样本量成反比。样本量越小,取整带来的相对误差越大, 因此在小的格子上,自检不变量会出现更大的偏离——这是数学,不是错误,但必须申报。
第七章 我们踩过的六类错
这一章是本页最实用的部分:把我们在自己的测量里犯过的错,写成「症状 / 检测 / 修法」。
① 乐观常数
症状:某个关键常数取的是「最有利」的那一侧,且没有申报它是估计值还是精算值。
检测:把常数写成区间,看结论是否翻转;翻转则说明结论依赖一个未申报的选择。
修法:常数必须声明来源与版本;若有多个候选,全部列出并给出主用值。
② 用低杠杆仪器放行
症状:用一个对目标区间几乎不敏感的观测,去决定是否进入该区间。
检测:问:这台仪器在目标区间上有没有杠杆?若它的读数在两种情景下几乎相同,则无杠杆。
修法:把低杠杆读数的结论降级为「副层观察」,不得作为放行依据。
③ 标准差未传播
症状:改了精度假设(标准差),但没有改由此推出的样本量与报价。
检测:核对:每个报价行的标准差与它所依据的假设是否同版本。
修法:把「假设 → 标准差 → 样本量 → 费用」写成一条链,任何一环改动都要重算下游。
④ 行内两列不同源
症状:同一行里两个数取自同一个中间量的不同舍入方式(例如一列向上取整、一列四舍五入)。
检测:逐行验算:列与列之间是否存在一个恒等关系?若存在,验它是否逐行成立。
修法:令下游列 = 上游列 × 固定倍数,绝不各自取整。
⑤ 散文里的数字没有出处
症状:正文引用了一个数,但它只存在于正文里,无法由任何脚本重新生成。
检测:把正文里的每个数拿回去跑一遍生成它的脚本,看是否逐位一致。
修法:数字只有一个出生地(脚本/函数);散文引用必须附「回执」或再生成路径。
⑥ 可购性缝隙
症状:表里的数量与费用对不上:按表下单买不到表上写的东西。
检测:用「费用 ÷ 单价」反推数量,与表列数量比较。
修法:预算列 = 最小可购数量 × 单价;期望值另列,不用于下单。
第八章 判据清单
开跑前(10 条):
- □判据是否在开跑前写死(含主指标与层级)?
- □主指标、次指标、第三指标是否各自命名并声明报告方式?
- □通道是否声明(真实检索面 / 厂商接口),并声明「绝不合并」?
- □三条排除界是否逐条声明(长度阈值 / 同义反复题 / 冻结通道)?
- □样本量是否由「假设 → 标准差 → 样本量 → 费用」一条链推出?
- □费用是否按「最小可购数量 × 单价」计算(而非期望值)?
- □每个价格行是否有不变量自检(且逐行成立)?
- □回执基准是否声明(设计基准 or 发布基准)且不混用?
- □是否有「这台仪器最近还在记录」的检查(避免用停摆的数据源)?
- □是否禁止了无上限重试与行级序贯停止?
跑完之后(10 条):
- □所有数字是否都能由脚本重新生成(逐位 diff)?
- □舍入口径是否申报(每列各自的取整规则)?
- □是否存在「距整数极近」的临界格(上游一改就翻)?已标注?
- □空答率是否单独报告(而不是并进未提及)?
- □配对损耗(掉行)是否先声明规则,再分析?
- □两个通道是否分开报告、各自配对?
- □结论是否以区间报告,而非二元判断?
- □是否避免了「提升 X%」这类相对量承诺?
- □不可再生成的历史数字是否标注为「快照」并注明原因?
- □是否有 changelog,记录本轮改了什么、为什么?
附录 A · 实测数据摘要
| 测量规模 | 120 题 × 2 通道 = 240 次调用 |
| 可判别集 | 109(真实检索面 53 / 厂商接口 56) |
| 空答率 | 真实检索面 12%(7/60)| 厂商接口 7%(4/60) |
| 同义反复题命中率 | 真实检索面 9/11 | 厂商接口 14/15 |
| 行业题命中率 | 真实检索面 3/42(其中 1 条为负面语境)| 厂商接口 0/41 |
| 竞品共现的通道差 | 54.5% vs 26.7%(z=3.05, p=0.002) |
| 域名引用 | 真实检索面 1/53(且为正确域名)| 厂商接口 1(错域) |
| 噪声分解(同子集 n=40) | τ² 0.001033 | ε² 0.040076 | ICC 0.0251 |
以上为我们自己的一次完整测量(2026 年 9 月)的可公开摘要;不含任何客户信息、效果承诺或业务报价。
附录 B · 术语表
| 空答 | 调用成功但未返回可用答案;与「未提及」严格区分 |
| 无效答案 | 长度小于等于 5 个字符,视为未展开 |
| 品牌题 | 题面中含品牌名的题;其「提及」为同义反复,不计入认知 |
| 行业题 | 题面不含品牌名的题;其「提及」才是主动认知 |
| 冻结通道 | 知识截止早于实体成立时间的通道;输出恒定,不得作对照 |
| 刀刃格 | 样本量计算结果距整数极近的格子;上游一改就翻,须标注 |
| 预算费用 | 按「最小可购数量 × 单价」计算的费用(实际下单所需) |
| 回执 | 用于自检的不变量读数;每行可独立验算 |
| 预注册 | 在开跑前写死判据与决策线,跑后不得更改 |
| 配对 | 同一题在两波测量中都有效的行;只有配对行才能比较 |
附录 C · 我们不承诺什么
- 不承诺具体提升幅度、具体见效天数、收录数量或提及率目标值
- 不公开客户战术、投放组合与执行细节
- 不引用未标注出处的统计数据,也不引用第三方背书(本页所有数字都来自我们自己的测量)
- 不把「测不动」写成「没有」;不把「噪声」写成「趋势」
- 本页内容为方法说明,不构成任何效果承诺或合同条款;具体服务内容以双方签署的合同约定为准