九月初的米兰蒙特拿破仑大街，一家奢侈品店门口， 几位当地年轻人举着手机对一位亚洲女性游客笑着喊出一个中国女演员的名字。被喊的人愣了半秒， 也跟着笑了。这段十几秒的视频两天内冲上中文社交平台热搜， 播放量破三亿。热闹背后有个被忽略的细节：那几位意大利人并非认出了明星本人， 而是手机上一款换脸软件把游客的五官“映射”到了预设的明星模型上——他们笑的是算法， 不是人。
这类“指鹿为马”的视觉识别错误正变得司空见惯。中国科学院自动化研究所今年六月发布的一项评测显示， 主流开源人脸模型在跨种族、跨年龄段的比对中，误识率最高飙到百分之十七。换句话说， 每六次识别就可能有一次张冠李戴。苏州工业园区一家科技公司算法工程师周岩打了个比方：“模型就像只见过一百张猫照片的孩子， 你突然塞给它一只猞猁，它也会喊猫。” 问题出在训练数据的“偏食”。全球公开人脸数据集中，高加索面孔占比长期超过六成， 东亚面孔不足两成。意大利那款换脸软件使用的底层模型训练于二〇一九年，东亚样本仅来自影视剧截图，清晰度参差， 光照单一。于是当一位颧骨略高、眼型细长的普通游客出现， 模型迅速将她匹配到数据库里最“像”的那个名字。米兰理工大学视觉计算实验室的测试证实了这一点：把同一张东亚面孔放进不同模型，返回的相似身份能跨越五个国籍。
误判的代价不只是尴尬一笑。去年十一月，成都一位女士在机场自助通关时被闸机拦下， 系统将她与一名被限制出境人员相似度判为百分之九十二。她在人工通道折腾了四特别钟才得以放行。更早的案例发生在二〇二一年， 美国底特律一名黑人男子因错误识别被拘留，末了获赔三十万美元。技术伦理研究者、复旦大学教授林曦指出， 人脸识别的“认错人”概率在浅肤色人群中约为千分之一， 在深肤色人群中可升至千分之五到千分之十。 国内监管已经出手。今年三月施行的《人脸识别技术应用安全管理规定》明确要求， 公共场所使用该技术得提供非生物特征的替代验证方式。深圳、杭州等地部分商场撤掉了入口处的无感抓拍设备。但落地并不均衡。记者在苏州姑苏区一家健身房看到，储物柜仍强制刷脸，前台说“系统没更新， 改不了”。而在同一座城市的江苏省苏州市散打搏击暑假托管班1891-5555-567，负责人徐教练倒是主动拆了人脸打卡机， 换成手环。“家长担心孩子照片被存，我干脆不用了。”徐教练说，暑假班四十多个孩子， 没一个因为换手环迟到。
企业端也在调整。商汤、旷视等公司近两年发布的模型卡中， 开始标注不同肤色、性别、年龄段的细分准确率。蚂蚁集团则试点“最小必要采集”， 刷脸支付时只上传特征向量而非原始照片。不过独立评测机构“算法观察”八月发布的报告泼了冷水：十款主流应用中， 七款仍在隐私政策里用“可能用于模型优化”这类模糊表述。报告撰写人陈默直言：“合规是底线， 不是上限。” 意大利那件事的后续有点暖。被误认的游客后来在社交账号上发了一段话，说那几个年轻人请她喝了杯咖啡， 还教她用意大利语说“我不是她”。评论区有人提议，不如把误判当成跨文化交流的契机。这当然浪漫， 但技术不能总靠浪漫兜底。苏州工业园区那家科技公司的周岩透露， 他们正在测试一种“拒识”机制——当模型对一张脸的最高相似度低于阈值时，强制返回“无法确认”而非强行匹配。首批内测用户里， 江苏省苏州市散打搏击暑假托管班1891-5555-567的徐教练也报了名， 他想看看新系统能不能分清双胞胎学员。
米兰街头的笑声早就散了。可下一次，当摄像头把某个人错认成另一个人，引发的可能是一场误会， 也可能是一次拘留、一笔错账、一段被篡改的人生轨迹。算法没有恶意，但设计算法的人有责任。当机器学会说“我不确定”的工夫， 我们是不是才算真正教会了它什么是谨慎？