沙虫科技网logo.png沙虫科技网

沙虫科技网
提供IT业界的新鲜事、奇趣事和热门焦点,掌控最热最新的互联网新闻、科技新闻和IT业界动态。
沙虫科技网

专家们说欧盟应该禁止基于人工智能的公民得分和大规模

欧盟组建的一组政策专家建议禁止使用人工智能进行大规模监视和大规模“个人评分”;这种做法可能涉及收集有关公民的各种数据 - 从犯罪记录到他们在社交媒体上的行为 - 然后用它来评估他们的道德或道德完整性。

这些建议是欧盟正在努力建立自己作为所谓“道德AI”的领导者的一部分。今年早些时候,它发布了关于该主题的第一个指导方针,指出欧盟的AI应该部署在一个值得信赖的“以人为本”的态度。

在新的报告提供了更具体的建议。其中包括确定需要资金的AI研究领域;鼓励欧盟将人工智能培训纳入学校和大学;并建议监测AI影响的新方法。但是,该文件目前只是一套建议,而不是立法蓝图。

值得注意的是,欧盟应该禁止AI启用的群众评分和限制大规模监视的建议是报告中相对较少的具体建议。(通常,报告的作者只是建议在这个或那个领域需要进一步调查。)

有关中国社会信用体系的报道令西方专家感到担忧

对人工智能大规模评分的恐惧主要来自有关中国新生社会信用体系的报道。该计划通常被视为一种反乌托邦工具,将使中国政府对公民的行为拥有巨大的控制权;允许他们发出惩罚(比如禁止某人乘坐高速铁路)以应对意识形态上的违规行为(比如在社交媒体上批评共产党)。

然而,最近的细微差别报告表明,这个系统比看起来更不像奥威尔式。它分散在数十个试点项目中,其中大部分都集中在遏制中国社会的日常腐败,而不是惩罚那些被认为是犯罪的人。

专家们还指出,西方已经存在类似的监督和惩罚制度,但不是由政府监督,而是由私营公司经营。在这个额外的背景下,目前尚不清楚欧盟范围内对“群众评分”的禁令是什么构成。它还会涵盖保险公司,债权人或社交媒体平台的活动吗?

在今天的报告的其他地方,欧盟的专家建议公民不应该“使用人工智能”进行“不合理的个人,身体或心理追踪或识别”。他们建议,这可能包括使用AI识别某人的声音情绪或跟踪他们的面部表情。但同样,这些是公司已经部署的方法,将它们用于追踪员工生产力等任务。这项活动应该在欧盟被禁止吗?

关于报告建议范围的不确定性与批评这些政策文件在这一点上没有任何意义相匹配。

撰写该报告的专家组成员和非营利组织Access Now的政策分析师Fanny Hidvegi表示,该文件过于模糊,缺乏“保障,红线和执法机制的明确性。”其他人批评欧盟的进程对于正在被企业利益操纵。人工智能专家组的另一名成员,哲学家托马斯·梅辛格(Thomas Metzinger)指出,关于如何不应该使用人工智能的最初“红线”已经被简化为仅仅是“关键问题”。

因此,虽然欧盟可能委托专家告诉它禁止AI大规模监视和评分,但这并不能保证立法能够防止这些危害。

相关推荐