新闻 › AI业界新闻

AI智能体推高公共服务请求量:政府系统面临身份核验、反滥用与行政扩容考验

· 来源:techcrunch.com

AI智能体推高公共服务请求量:政府系统面临身份核验、反滥用与行政扩容考验

随着生成式AI降低表格填写、投诉提交和司法申诉的门槛,多国公共服务平台的请求量显著上升,政府需在保障合法权益与防范自动化滥用之间重构数字服务能力。

生成式AI和智能体正改变公众进入政府服务体系的方式:过去需要理解规则、整理材料并反复填写表格的投诉、福利申请和申诉流程,如今可由AI协助完成。随之而来的并不只是网站访问量增加,还包括大量更易提交、却仍需逐件审核的正式请求。公共数字基础设施因此面临身份验证、资格核验、反自动化滥用、审计追责及服务公平等多重压力。

TechCrunch援引研究者克里斯·施密茨(Chris Schmitz)即将在AI Ethics and Society会议发表的论文称,他追踪了11个司法辖区内84起潜在“智能体洪泛”(agentic flooding)案例,覆盖福利申请、官方司法上诉等可经线上服务访问的事项。研究并未断言AI直接造成申请激增,但多个案例都呈现出相似轨迹:2022年前提交量大体平稳,随后伴随AI工具普及而加速增长,且多数尚未显现放缓迹象。

报道列举的数字显示,英国住房监察专员收到的投诉已从2022年的2600件增至去年的略高于7000件;美国消费者金融保护局(CFPB)同期收到的投诉增长约5倍。巴西的司法请愿和德国的议会请愿也出现类似增长。AI如今可以根据一封来信、照片或少量上下文生成回应和材料,显著降低了申请过程中的操作难度。

这类流量不能被简单视为垃圾信息。施密茨认为,大多数新增提交来自原本就拥有正当权利的真实申请人;他们过去未必放弃了权利,而是被复杂流程形成的“行政负担”挡在门外。对政府而言,这意味着AI可能扩大公共服务可及性,却也可能让预算和人手不变的机构承担数倍的受理、分流、核验与答复任务。企业漏洞赏金项目曾遭遇低质量大模型报告涌入的情况,也提示公共部门不能只依赖人工逐件甄别。

应对重点将从单纯限流转向更细致的服务重构:公共API和在线入口需要区分个人本人操作、经授权的代理操作及批量自动化请求;身份与授权机制应让代办行为可验证、可撤销、可追溯;风险控制则要识别重复、虚假或恶意提交,同时避免因过度拦截而误伤需要辅助工具的弱势群体。机构还需保留可审计记录,并通过队列管理、标准化材料校验和自动初筛,将有限行政能力优先用于实质性案件。

公共部门也在探索与技术企业共同部署数字化能力。印度卡纳塔克邦9月11日宣布,计划在三年内投入25亿卢比,支持约100家初创企业在政府部门开展试点;入选企业单个试点可获得最高250万卢比的工作订单。该邦“Government First”计划覆盖人工智能、数字治理、医疗、农业、教育和交通等领域,试点达到既定成果后可被推荐采购和推广。此类计划为政府引入新工具提供渠道,但也凸显了一个前提:技术部署必须与公共服务的验证、问责和公平规则同步设计。

—— 综合整理自:TechCrunch、The Economic Times

原文:techcrunch.com