图片源于：https://www.theguardian.com/technology/2024/nov/28/uk-government-failing-to-list-use-of-ai-on-mandatory-register
自政府宣布人工智能系统的使用将成为强制性要求以来，尚无任何白厅部门注册其使用，引发外界警告，称公共部门在影响数百万人生活的算法技术应用上正“盲目操作”。
人工智能已经被政府用于从福利支付到移民执法等诸多决策中，记录显示，公共机构已经授予了数量众多的人工智能和算法服务合同。上周，内政部设立的警察采购机构发布了一份价值高达2000万英镑的人脸识别软件合同，重新引发公众对“生物特征监控”的担忧。
然而，迄今为止，公众登记册上只提交了九个算法系统的详细信息，其中没有涉及日益增长的福利系统、内政部或警方使用的人工智能程序。尽管政府在今年2月宣布，使用人工智能登记册将成为所有政府部门的“要求”，但信息的稀缺依然存在。
专家们警告称，如果不加批判地采用人工智能，将带来潜在的危害，最近一些IT系统未能按预期工作，也包括邮政局的Horizon软件。白厅内使用的人工智能包括微软的Copilot系统，后者正在广泛试验中，以及福利系统中的自动化欺诈和错误检查。最近，工作和养老金部（DWP）发布的一份人工智能合同通知描述了“DWP内对这方面的兴趣正在快速增长，这种现象与更广泛的政府和社会形成了共鸣”。
科学与技术部秘书彼得·凯尔承认，公共部门“没有足够认真地对待政府使用算法的透明度问题”。
在被问及透明度缺失的问题时，凯尔告诉《卫报》：“我承认，如果政府在公众的名义下使用算法，公众有权知道。公众需要感到这些算法是为了服务他们而存在，而不是相反。唯一的方法就是对它们的使用保持透明。”
隐私权倡导组织大兄弟观察（Big Brother Watch）表示，尽管议员们警告缺乏立法来规范其使用，但警察的人脸识别合同的出现仍然是“政府在使用人工智能技术方面缺乏透明度的又一个例证”。
“秘密使用人工智能和算法影响人们的生活将每个人的数据权利置于风险之中。政府部门必须坦诚透明地对待它们如何使用这一技术，”首席倡导官马德琳·斯通表示。
内政部拒绝对此发表评论。
阿达·洛夫莱斯研究所（Ada Lovelace Institute）最近警告称，人工智能系统可能看似减轻行政负担，然而若所产生的预测或结果存在歧视性、有害或者根本无效，则可能严重破坏公众信任并降低公共利益。
数据与人工智能研究机构的副主任伊莫根·帕克表示：“透明度的缺乏不仅让公众处于黑暗中，还使得公共部门在采用人工智能时做好盲目的操作。不发布算法透明度记录限制了公共部门评估这些工具的效果、总结失败的经验，监测这些工具的不同社会影响的能力。”
自2022年底以来，只有三个算法被记录在全国注册表上。它们分别是内阁办公室用于识别长期历史价值的数字记录系统、一个用于分析剑桥行人过马路情况的人工智能摄像头以及一个用于分析NHS服务患者评价的系统。
但自今年2月以来，公共机构有164份合同提到人工智能，来自监测公共合同的公司Tussell的数据显示。包括微软和Meta在内的科技公司正在积极向政府推广其人工智能系统。谷歌云资助的一份报告声称，2023年前，如果更加广泛地部署生成性人工智能，公共部门每年的节省可能高达380亿英镑。凯尔称之为“生成性人工智能能够为政府服务带来革命性变化的有力提醒”。
并非所有最新的公共部门人工智能应用涉及公众数据。一份与德比市议会的700万英镑合同被描述为“通过人工智能技术转型委员会”，以及教育部的一份金额为450万英镑的合同则是为了“提高教育领域人工智能的绩效”。
科学与技术部的一位发言人证实，透明度标准“现在对所有部门都是强制执行的”，并表示“某些记录即将发布”。
政府目前在哪里使用人工智能？
福利与养老金部（DWP）已经使用生成性人工智能每天阅读超过20,000份文件，以“理解和总结通讯”，之后将完整信息与官员分享以供决策。该部门已自动化系统以检测普遍信贷申请中的欺诈和错误，人工智能还帮助负责个人独立支付申请的代理人总结证据。DWP在今年秋季开始在就业中心部署基本人工智能工具，允许工作教练提出有关普遍信贷指导的问题，以尝试提高与求职者对话的有效性。
内政部部署了一套人工智能驱动的移民执法系统，批评人士称之为“机器人案例工作者”。一个算法参与了决策的形成，包括将人们遣返回其本国。政府描述其为“基于规则”的系统，而非人工智能系统，因其并未通过对数据的机器学习。政府称其通过优先处理工作带来效率，但每个决定仍由人类负责。该系统在寻求庇护者的人数不断增加的背景下使用，目前大约有41,000人处于被移除的行动中。
多个警察部门使用人工智能的人脸识别软件追踪嫌疑犯，包括大都会警察局、南威尔士警察局和埃塞克斯警察局。批评人士警告称，这种软件“将把英国的街道变成高科技的警察排队”，但支持者表示它可捕捉犯罪嫌疑人，且无辜路人的数据不会被存储。
英国国家医疗服务体系（NHS）与Palantir签订了一项价值3.3亿英镑的合同，以创建一个庞大的新数据平台。与这家由唐纳德·特朗普支持者彼得·蒂尔领导的美国公司的交易引发了公共对患者隐私的担忧，尽管Palantir表示其客户保留对数据的完全控制权。
一款人工智能聊天机器人正在试验，以帮助人们浏览繁杂的gov.uk政府网站。该聊天机器人由政府数字服务使用OpenAI的ChatGPT技术构建。还有另一个名为Redbox的人工智能聊天机器人被用于唐宁街和其他政府部门，允许官员快速深入到安全的政府文件中，并获得快速摘要和定制的简报。
