新西兰政府正试图让更多人摆脱福利依赖并就业，作为控制政府开支计划的一部分。（ABC新闻图表：Jarrod Fankhauser）
<
div class=”ArticleRender_article__7i2EW”>
机器人债务计划被视为澳大利亚现代史上最大的公共政策丑闻之一，如今人们担心塔斯曼海峡对岸可能重蹈覆辙。
新西兰保守党政府目前正试图扩大福利体系中”自动化决策”的应用范围，作为控制公共开支的协同努力之一。
但批评者担忧，这些改革将使关于弱势群体的关键决策脱离人工判断，转而由算法决定福利发放对象。
救世军社会政策倡导者安娜·伊卡理解政府希望提高效率，”但效率提升是有代价的”。
“这个代价关乎人命，是救世军每天都会接触的真实生命”
她说道。
新西兰社会发展部试图缓解公众忧虑，称这项技术将使福利体系更便于民众使用。
“任何拒绝福利申请的决定最终都将由工作人员作出，”组织保障与传播部副部长梅丽莎·吉尔表示，”目前也没有改变这一规定的计划”。
何为”自动化决策”？
公众对人工智能的浓厚兴趣引发了对政府和企业自动化应用的质疑。（供图：乔恩·麦科马克）
自动化决策（ADM）涵盖各类基于规则的计算机系统，用于辅助或取代人类决策。
其应用场景从决定银行贷款额度的在线表格，到实时数据驱动设定网约车价格的算法不等。
2022年，该部门曾运用该技术向超过85.8万人自动发放冬季能源补贴，据估算若采用人工处理，需600名全职员工连续工作八周。
“这将增加纳税人负担并可能导致发放延迟，”吉尔女士解释。
目前政府计划使用ADM核查福利领取者是否符合续领条件，被拒者仍需与工作人员沟通。
“保障服务对象的福祉与尊严至关重要，任何ADM应用都需在效率与这些价值间取得平衡，”吉尔强调。
但部分倡导者质疑现有保障措施是否足以避免重蹈机器人债务丑闻覆辙。
技术缺陷与决策失误
福利领取者往往还需依赖紧急食品服务，如南奥克兰的”关怀之舟”组织。（ABC新闻：卢克·鲍登）
机器人债务是澳大利亚前保守党政府2016年推出的债务追讨计划，承诺通过自动化节省数十亿开支。
但严重的设计缺陷导致超40万份错误债务通知，在政治渎职指控及虚假债务引发多起自杀事件的舆论压力下，最终促成皇家委员会调查。
虽然新西兰政府并非要建立类似机制，但《社会保障修正法案》中宽泛的自动化应用条款已引发法律界忧虑。
新西兰法律协会指出，关于自动化决策的条款”未设任何限制，法案配套文件也未对该提案进行分析”。
“在需要评估判断的领域，自动化系统如何准确适当地运作尚不明确，”该协会在提交给议会委员会的报告中写道。
前车之鉴
慈善机构担忧自动化决策扩张将伤害新西兰最弱势群体。（路透社：托马斯·奎斯塔）
在2022年澳大利亚机器人债务皇家委员会成立前数月，新西兰社会发展部已出台ADM使用标准，包含确保透明度和申诉渠道的条款。
目前该标准正与隐私专员合作修订。
吉尔女士称该部门”能从澳大利亚及其他国家的教训中学习”，确保保障措施”预防其他社会福利系统应用AI时出现的问题”。
“社会发展部的ADM标准对复杂算法应用有额外要求，”她表示，”这些要求在算法开发阶段加强监管，确保使用前充分考虑隐私、人权和伦理因素”。
但救世军对自动化扩张仍持谨慎态度，伊卡透露已有计算错误影响服务对象的案例。
“在现有复杂体系上叠加新机制，只会加剧民众困境，”她警告道，担心自动化导致对弱势群体采取”一刀切”方式。
“真正理解家庭处境需要人工判断，”伊卡强调。
自动化伦理困境
救世军服务的对象多具有复杂背景和处境。（ABC中西部：梅兰妮·皮尔斯）
人工智能引发的公众关注浪潮，促使人们重新审视政府与企业对自动化流程的应用——从复杂的生成式AI模型到基础算法。
怀卡托大学研究新技术伦理影响的尼古拉斯·阿加尔教授认为，AI在解决复杂问题和帮助弱势群体方面潜力巨大，但需要平衡”惊人优势”与潜在风险。
“当使用尚未完全理解的技术时——甚至开发者都未必完全理解——就可能出错并伤害民众，”他警示道，”盲目应用AI可能以机器人债务式的结局收场”。
此番福利改革正值新西兰政府试图在2030年前让5万人脱离求职补助并就业。
阿加尔教授指出，若设定正确目标，AI技术能有效连接弱势群体与服务资源，”但如果目标模糊，仅追求降低成本，就可能适得其反”。
新法真能改善现状？
