因对西部地区穆斯林少数民族进行严厉镇压，包括将多达一百万人关押在拘禁营，中国政府已受到国际社会的广泛谴责。现在，文件和访谈显示，当局还在使用一个庞大、秘密的先进面部识别技术系统来跟踪和控制维吾尔人 —— 一个以穆斯林为主的少数民族。专家说，这是目前已知的第一例政府有意使用人工智能进行种族归纳的情况。面部识别技术已整合到中国迅速扩张的监控摄像机网络当中，它根据外貌专门识别维吾尔人，并记录他们的行踪用以搜索和审查。这种做法使中国成为应用下一代技术对民众进行监控的先行者，或将开启一个自动化种族主义的新时代。该技术及其对中国 1100 万维吾尔人进行监视的用途，是基于五名对这些系统有直接了解的人士所述，他们因担心遭到报复要求匿名。《纽约时报》还查阅了警方使用的数据库、政府采购文件和制造此类系统的 AI 公司分发的广告材料。中国当局已经在生活着许多维族人的西部新疆地区维护一个庞大的监控网络，包括用 DNA 追踪维族人。但这类之前未报道的新系统的规模正将监控范围扩展到中国许多其他角落。
宣传其软件可以对人进行大致的划分。但中国出于执法目的对单一族群进行识别已然打破了原有界限。中国初创企业云从科技在对自身监控系统的营销过程中概述了一个体验样本，其中表示这项技术可以识别出 “敏感人群”。“如果起初一个维吾尔人生活在一个社区，20 天内出现了六个维吾尔人，” 该公司在其网站上说，“它会立即” 通知执法部门。其中两名知情人士表示，在实际应用中，这些系统并不完善。它们的准确性通常取决于灯光和拍摄机位等环境因素。在美国和欧洲，人工智能社区的争论集中在技术设计方的无意识偏见上。最近的测试表明，IBM 和亚马逊这类公司制造的面部识别系统在识别肤色较深人群的特征方面不太准确。中国的举动引发了更为棘手的问题。虽然面部识别技术可以使用肤色和面部形状等特征对照片或视频中的图像进行排序，但它必须由人类发出命令才能根据种族或族群的社会定义对人进行分类。在初创企业的帮助下，中国警方已经做到了这一点。“这在美国人看来相当惊人，我们的算法很有可能置入了种族歧视，但不是以这样公开的方式，” 电子前沿基金会 (Electronic Frontier Foundation) 的监控诉讼主任詹妮弗・林奇 (Jennifer Lynch) 说。“例如，没有一个系统可以将某人识别为非裔美国人。”该软件背后的中国 AI 公司包括易途、旷视科技、商汤科技和云从科技，其估值均在 10 亿美元以上。据其中一位知情者表示，另一家销售摄像头及图像处理软件的公司海康威视提供了一项少数民族识别功能，但在 2018 年开始逐步将其淘汰。2018 年，中国最高警察机关公安部根据名为 “天网” 和 “雪亮” 两项政府计划拨款数十亿美元的工程，用于对监控、警务和情报收集的计算机化。这些公司的估值随即骤增。商汤科技发言人在一则声明中称，她与 “相关团队” 进行了核实，他们并不知道其技术被用于人脸识别。旷视科技在声明中称，其所关注的是 “商业而非政治解决方案”，并补充称，“我们关注的是个别公民的福祉和安全，而不是关注人群监控。” 云从科技和易途均未回应置评请求。中国公安部没有回复记者通过传真发送的置评请求。这些初创企业销售的产品有 “火眼”、“天眼” 和 “蜻蜓之眼” 等名字，它们承诺利用人工智能分析中国监控摄像头的镜头。该技术还不成熟 ——2017 年公司在宣传中称警方在一座火车站对其发出的警报做出反应，成功率达到三分之一 —— 而且中国的许多摄像头都不够清晰，无法让面部识别软件有效工作。然而，它们有助于推进中国的社会控制架构。根据两名知情人士的说法和采购文件，为了让算法发挥作用，警方为有犯罪记录、精神疾病、吸毒记录以及因不满向政府请愿的人建立了人脸图像数据库。他们说，一个全国在逃罪犯数据库中收录了大约 30 万张面孔，而温州一个为有吸毒史者建立的数据库中共有 8000 张面孔。
通过一种叫做 “机器学习” 的过程，工程师将数据输入人工智能系统，训练它们识别人脸上的模式或特征。在进行种族归纳时，他们会提供成千上万维吾尔人和非维吾尔人的带标记照片。这将有助于产生一种区分种族群体的功能。这些人工智能公司从重要投资者那里获得了资金。富达国际 (Fidelity International) 和高通风投 (Qualcomm Ventures) 都是向商汤科技投资 6.2 亿美元的联合领投方的成员。红杉资本 (Sequoia) 投资了依图。旷视科技得到了中国知名科技投资者李开复的基金 —— 创新工场的支持。创新工场的一位发言人表示，该基金最近出售了其在旷视科技的部分股权，并放弃了在董事会的席位。富达拒绝置评。红杉和高通没有回复记者通过电子邮件提出的置评请求。李开复是中国人工智能的支持者，他认为，中国在发展人工智能方面具有优势，因为中国领导人不那么在意 “法律牵连” 或 “道德共识”。“在人工智能的故事中，我们不是被动的旁观者 —— 我们是它的创作者，” 李开复去年写道。“这意味着支撑我们对人工智能未来愿景的价值观很可能成为自我实现的预言。” 他拒绝就其基金对旷视科技的投资或该公司的做法置评。上述知情人士说，中国科技行业的种族归纳并非秘密。它已经变得非常普遍，以至于一位知情人士把它和短程无线技术蓝牙相提并论。另一位知情人士说，旷视科技的员工被警告说，种族目标是敏感话题，不应公开讨论。中国以新疆的民族暴力和其他地方的维吾尔族恐怖袭击为由，投入大量资源追踪维吾尔人。北京已将数十万维吾尔人和其他在新疆的人投入再教育营。该软件扩大了政府识别维吾尔人的能力。据两名知情人士说，一个国家数据库存储了所有离开新疆的维吾尔人的面孔。过去两年的政府采购文件也显示，需求已经扩大。根据一份文件，在湖南省永州市，执法人员正在寻找软件来 “识别和搜索维吾尔人”。在贵州省的两个县，警方列出了识别维吾尔人的必要性。其中一项要求是基于身份证照片识别维吾尔人的能力，准确率最高超过 97%。在中部大城市重庆和西藏地区，警方对类似软件做了招标。河北省的一份采购文件描述了如有多名维吾尔人在同一天预订同一航班时应如何通知警方。当局在 2018 年的一项研究中描述了对其他类型数据库的使用。这篇由上海一名警官参与撰写的论文称，安装在学校附近的人脸识别系统可以对数据库中收录的精神病患者或犯罪嫌疑人进行筛选。时报看到的一个由依图软件生成的数据库显示，从 2 月中旬开始，在一个多月时间里，三门峡警方使用依靠摄像头的软件试图对居民进行识别，达到 50 万次以上。除了 “rec_gender”（识别性别）和 “rec_sunglasses”（识别墨镜）等标签，代码中还有 “rec_uygur”（识别维吾尔人），如果软件认为它找到了维吾尔人，就会返回一个 “1”。在摄像头试图记录的 50 万人中，该软件猜测它看到了 2834 次维吾尔人。图片和数据条目保存在一起，以便警方进行核查。依图及其竞争对手有向海外扩张的雄心。麻省理工学院 (Massachusetts Institute of Technology) 的人工智能研究员乔纳森・弗兰克尔 (Jonathan Frankle) 说，这样的努力很容易让其他国家的政府得到种族分析软件。“我认为不夸张地说，这是关乎民主存亡的事，” 弗兰克尔说。“一旦一个国家采用这种威权模式，它就会利用数据来强化思维和规则，比 70 年前的苏联能做到的更加根深蒂固。从某种程度上说，这是一场我们正在梦游般慢慢走进去的紧迫危机。”
