MIT 和美国国家标准技术研究院(NIST)的研究已证实,现有的人脸识别算法在识别白人上表现相对较好,但对于其他种族人群而言准确性较差,部分原因是其缺乏多样性数据库。
或许是因为考虑到这一点,去年年底以来,包括亚马逊、微软和 IBM 在内的不少硅谷巨头纷纷宣布,将停止或暂停为执法部门提供面部识别服务。
然而,这些举动真的能扭潮水的方向吗?
一方面在于,人脸识别其实并不是这几家公司的主营业务,另一方面,这些声明很大程度上也只是象征性的。事实上,美国执法部门使用的人脸识别技术往往是由一些不那么家喻户晓的公司提供的,比如 Vigilant Solutions、Cognitec、NEC、Rank One Computing 和 Clearview AI 等。只要有需求,总有人会做这笔生意。
关于这个问题,全球范围内的从业者仍在积极地讨论之中,目前也形成了一些共识:首先是认识到 AI 的不可解释性或将长期存在,通过解释某个结果如何得出而实现算法的透明化,在技术上几乎不具有实操性,也会极大地限制 AI 的应用;基于这一点,可以操作的空间是,在 AI 的行为和决策上尽可能有效透明,例如成立专门的第三方监管机构、针对不同的场景分层次设置监管等。