周三,欧洲议会通过了一项名为「人工智慧」的法律草案,欧盟(EU)在向世界提供第一套围绕人工智慧(AI)的治理规则方面迈出了重要一步。行为。
人工智慧该法案于 2021 年 4 月 21 日由欧盟首次提出,被誉为世界上第一个也是最全面的监管架构。自从提案提出以来,欧盟委员会、欧盟理事会和欧洲议会一直致力于修改和完善其初步草案,预计最终版本要到今年稍后才会出台。
虽然最初的草案是在包括聊天机器人在内的生成式人工智慧激增之前制定的,但这项新的法律草案无疑考虑了 OpenAI 的 ChatGPT 等生成式人工智慧系统及其带来的影响。
部署前测试
该法案适用于所有欧盟成员国,要求欧盟成员国建立至少一个监管“沙箱”,以便在部署人工智慧系统之前对其进行测试。
「我们希望透过这份文本实现的一件事是平衡,」欧洲议会议员德拉戈什·图多拉什 (Dragoş Tudorache) 告诉记者。他补充说,该法案在保护公民的同时,也「促进创新,而不是阻碍创造力以及人工智慧在欧洲的部署和发展」。
对人类危害最大的潜力
周三通过的法案的核心是,生成式人工智慧将受到新的透明度要求的约束,其中包括发布用于训练系统的受版权保护的材料摘要,以及实施保护措施以防止人工智慧产生非法内容。
该法案采用「基于风险」的方式来监管人工智慧,重点关注对人类造成最大伤害的用例,包括利用人工智慧系统来运作水或能源等关键基础设施、我们的法律司法系统以及确定公共服务和服务的取得情形。
该技术的开发人员需要在将该技术纳入主流之前进行风险评估,类似于目前药物审批流程的运作方式。
禁止脸部辨识
另一个激烈争论的领域围绕著脸部辨识技术的使用。欧洲议会投票禁止使用即时脸部识别,但仍对在国家安全和其他执法目的的情况下是否应例外使用持开放态度。
除此之外,人工智慧的另一项规定。该法案将禁止公司从社交媒体上抓取生物特征数据来帮助建立数据库——这在面部识别公司Clearview AI 因非法收集和处理生物识别数据而被法国数据保护机构(CNIL) 罚款2000 万美元之后成为一个主要问题。
生成式 AI 将为全球经济增加 4.4 兆美元?
根据麦肯锡公司周三发布的报告,生成式人工智慧预计将为全球经济增加 4.4 兆美元。
虽然这个数字处于麦肯锡预测的生成式人工智慧价值范围的上限,但题为「生成式人工智慧的经济潜力」的报告也提供了该范围的下限,即 2.6 兆美元。
周三在巴黎举行的 Viva 会议上,Meta 的首席人工智慧科学家 Yann LeCun 谈到了生成式人工智慧目前的局限性,特别是那些接受大型语言模型训练的人工智慧。
LeCun 认为,仅接受语言训练的生成式人工智慧并不是很聪明。
「这些系统非常有限,它们对现实世界的底层现实没有任何了解,因为它们纯粹是接受文本、大量文本的训练,」LeCun 说。 “大多数人类知识与语言无关……因此,人工智慧无法捕捉到这部分人类经验。”
「我们今天创造了历史,」负责欧盟人工智慧法案的欧洲议会议员布兰多·贝尼菲 (Brando Benifei) 告诉记者。
贝尼菲补充道:“虽然大型科技公司对自己的创造敲响了警钟,但欧洲已经率先提出了针对人工智慧开始带来的风险的具体应对措施。”
本周,在耶鲁大学执行长高峰会上,超过40% 的商界领袖,包括沃尔玛执行长道格·麦克米利恩(Doug McMillion) 和可口可乐执行长詹姆斯·昆西(James Quincy) 都表示,他们相信人工智慧有可能在5 到10 年后毁灭人类。
《人工智慧法案》将我们在欧洲GDPR 隐私框架中看到的处罚更进一步,其中从事禁止的人工智慧实践的公司可能会被处以最高4,300 万美元的罚款,或相当于公司全球年营业额7%的罚款,以两者为准更高。
GDPR 目前的罚款最高可达 1,080 万美元,或最高可达公司全球营业额的 2%,以较高者为准。
在其他新闻中,了解超维运算以及为什么我们对人工智慧的看法可能完全错误。
点击此处查看 Hypemoon 的完整画廊