找回密码
 立即注册
  • 回复
  • 收藏

福利国家正在通过人工智能自杀

tdmin 2018-12-26 07:48 52人围观 人工智能

每个人都喜欢谈论自由主义可能被杀害的方式,无论是在国内的民粹主义还是在国外的敌人。很少有人谈论丹麦这样的地方日益增长的迹象,即自由民主可能会意外地自杀。

作为一种政府哲学,自由主义的前提是相信公共当局的强制权力应该用于个人自由和繁荣,因此它们应该受到控制其范围,限制和自由裁量权的法律的约束。这是斯堪的纳维亚福利国家基础设施建立的人权和法治等历史性自由主义成就的基础。
然而,法律约束的想法越来越难以与人工智能和机器学习所承诺的革命相协调 - 具体而言,这些技术承诺提供巨大的社会利益,以换取无限制的数据访问,并且缺乏对可以采取的措施的充分监管。它。算法具有为福利国家提供更广泛利益以及更有效地提供这些利益的吸引力。

治理方面的这种改进无疑是诱人的。然而,我们应该关注的是,实现它们的手段不是自由的。现在有越来越多的迹象表明,西方正在逐步走向算法统治 - 一个勇敢的新世界,在这个新世界中,人类生活的广阔领域将受到人类无形和无法理解的数字代码的支配,具有超越个人抵抗和法律的重要政治权力挑战。自由民主国家已经开始这种安静的,技术上的革命,即使它破坏了自己的社会基础。

考虑一下丹麦的情况。该国目前领导世界司法项目的法治排名,尤其是因为其管理良好的福利国家。但该国似乎并未充分了解通过人工智能应用加强福利国家所涉及的风险。例如,哥本哈根Gladsaxe市正在悄悄地试验一种系统,该系统将使用算法识别有滥用风险的儿童,允许当局针对被标记的家庭进行早期干预,最终可能导致被迫清除。

这些孩子将根据专门设计的算法进行定位,这些算法的任务是处理丹麦政府已收集的信息,并与出生时分配给所有丹麦人的个人识别号码相关联。这些信息包括健康记录,就业信息等。

从丹麦政府的角度来看,儿童福利算法提案仅仅是其已经存在的用于检测社会欺诈和滥用的系统的扩展。覆盖数百万丹麦人的福利和权利长期以来由中央机构(Udbetaling Danmark)处理,并且基于该机构收集和处理的大量个人数据,算法创建所谓的拼图列表,识别可能暗示欺诈的可疑模式或滥用。然后,许多市政当局运营的“控制单位”可以对这些清单采取行动,以调查那些被怀疑无法获得其无权享受的福利的人。数据可能包括配偶和子女的信息,以及金融机构的信息。

这些做法似乎既有意义,也有很大程度上是良性的。毕竟,如果由于系统的自由和滥用而导致其作出贡献的人的信任崩溃,那么普遍的福利国家就无法运作。在Gladsaxe开发的原型中,大数据和算法处理的应用似乎是完全有道德的,旨在维护脆弱儿童的核心人权。

但是,任务蔓延的可能性非常明显。Udbetaling Danmark就是一个很好的例子:多年来,该机构的权力及其对数据的访问一直在稳步扩展。最近的一项提案甚至旨在为丹麦家庭提供电力使用方案,以便更好地识别已登记虚假地址的人,以获得额外福利。丹麦政府还利用欧洲新的数字数据规则的漏洞,允许公共当局使用一个借口收集的数据用于完全不同的目的。

然而,这些计划的风险比利益更少被理解和讨论。部分原因可能是,西方对公共服务算法的接受是旨在实现更好治理的崇高而真正有益的举措的副产品。但是,这些外部因素对于那些掌握并行形式的治理以及更熟悉的立法和政策制定工具的人来说也是有益的。并且算法权力的不透明性意味着要确定何时算法治理停止服务于共同利益并且成为权力的仆人并不容易。这将不可避免地对隐私,家庭生活和言论自由造成影响,因为个人将不确定他们的个人行为何时可能受到政府的关注。

这种政府算法也削弱了公众对政府的责任。没有要求丹麦公民对已经进行的大规模数据处理给予特别同意。如果将它们放在“拼图列表”上,也不会通知它们,也不会在法律上质疑一个人的名称。Gladsaxe市政府以外的任何人都不知道其算法如何识别处于危险中的儿童。

鲜花

握手

雷人

路过

鸡蛋
我有话说......