撰文：Anna Fell?nder，anch.AI 的创始人、ETHICAL AI GOVERNANCE GROUP 委员会成员
2023 年 2 月，欧洲议会 AI 伦理领域的顾问 Anna Fell?nder 在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》，提出了关于为什么要对生成式 AI 进行监管的背景、原因和解释。笔者认为，这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一，我们看这篇，也主要是作为一个国际动向进行关注。
全文如下：
最近新发布的人工智能方案 ChatGPT，以一种全新的方式挑战着所有人。随着生成式 AI 系统创造的机会，我们同时也面临着具有历史意义的十字路口：
欧盟委员会官员：元宇宙政策应考虑歧视、安全、数据控制:金色财经报道，欧盟委员会数字部门DG CONNECT数据总监Yvo Volman表示，欧盟在考虑如何监管元宇宙时，需要考虑非歧视、用户安全和数据隐私等问题。我们必须确保人们在虚拟世界中感到安全，就像他们在现实世界中一样安全，甚至可能更安全。我们需要确保人们拥有正确的技能和工具来保护他们在虚拟世界中的资产——他们的数据。
据悉，欧盟执行机构准备在定于5月发布的一份政策文件中阐述其关于虚拟世界的战略。（CoinDesk）[2023/2/25 12:28:08]
也就是，究竟是人工智能来控制人类，还是人类来控制人工智能。
瑞典的企业和当局（因为 Anna Fell?nder 在瑞典），需要对人工智能采取 Ethical approach ，也就是伦理学上的考量，但最重要的是，需要建立风险评估框架，来支撑这种发展，从而指导符合人类价值观的人工智能解决方案的发展。
声音 | 欧盟委员会副主席：欧盟对监管加密货币的规则应该专注于金融稳定性与消费者保护方面:欧盟委员会副主席东布罗夫斯基斯：欧盟对监管加密货币的规则应该专注于金融稳定性与消费者保护方面。（金十）[2019/10/8]
此外，欧盟人工智能立法，对发展负责任的人工智能来说，指日可待，而政府迫切需要组建发展负责任的人工智能机构。
（1）首先，创造了人们内心期待已久的人工智能民主化，更多的人可以参与进来这次技术带来的迭代，自己去创造由算法在历史数据上生成的新内容。各个组织实现 AI 技术价值的门槛显著降低，新的创新商业模式也层出不穷，能够有效地加强客户和人们的关系。
（2）同时，所有个体和社会，每天都面临着由于不受监管的人工智能解决方案，从而导致的道德和法律问题。其中一个原因是，人工智能模型的学习是基于历史数据，而其中，很可能存在不必要的偏见，这种偏见，可能导致社会排斥和歧视，包括其他的违规行为。
声音 | 欧盟委员会副主席：欧盟年底前将决定是否制定新法规监管虚拟货币:据第一财经消息，欧盟委员会分管金融服务事务的副主席瓦尔季斯·东布罗夫斯基称，欧盟目前只占全球虚拟货币市场的5%。所以，我们目前认为虚拟货币不会影响欧盟的金融稳定，因为虚拟货币的主要市场不在欧盟。但是，我们认为，虚拟货币牵涉投资保护问题。欧盟监管机构已对投资者发出警告，揭示虚拟货币高度投机的性质和其中的风险。虚拟货币没有任何准备金，其价格纯粹是由供给关系控制的。其次，虚拟货币会对反带来挑战。我们已经着手监控虚拟货币的交易所，防止通过虚拟货币兑现来规避反法规。我们正在审视现有法规，在年底前会决是制定新的法规还是修改现有法规来监管这些包括虚拟货币在内的虚拟财富。[2018/9/30]
比如说，当我们这些个体，批准自己数据在某种情况下被使用时，可能并不会意识到，当我们自己的数据与其他数据结合时，算法如何创造出侵犯个人隐私的见解。
欧盟委员会设立地平线奖项鼓励发展公益区块链:欧盟委员会最近发起了一项竞赛，希望能推动更多具有社会公益价值的区块链项目发展，为积极的变革社会创造解决方案。来自5个不同奖项的获奖者将总计获得100万英镑的奖金。[2017/12/31]
注意：这对公司和各国政府来说，代价都很高，例如可能会撤回投资，或者导致声誉受到损失。最近的案例表明，2021 年，由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外，还有个基于 OpenAI 的 GPT-3 的医疗聊天机器人被发出测试，其结果是建议病人自杀。
参考资料：GPT-3 medical chatbot tells suicidal test patient to kill themselves | Boing Boing
生成式人工智能系统，比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是，生成式人工智能系统的使用往往是通过 API 进行的，这使得解决方案的透明度很低，并且，对它的发展难以控制。
同时，道德和法律方面的违规行为，通常发生得很微妙，也很突然，虽然这些违规行为可能会小到无法察觉，但是极有可能造成指数级的损失。
其中一个例子是深度造假，比如说，被用来操纵视频或照片中的面孔和声音。而要注意到的是，生成式人工智能模型通常以 API 的形式提供，这就可以使用户更容易获得和使用该技术，这可能会增加滥用的风险。
需要承认的是，基于 API 的生成性人工智能模型本身并没有风险，但它们的使用方式和训练的数据会使他们具备风险。
欧盟的人工智能立法，即《人工智能法案》，将于 2024 年正式生效。
《人工智能法案》的目标，是让公民和消费者感到信任，并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议，成员国必须任命或建立至少一个监督机构，负责确保「必要的程序得到遵循」。
随着生成式人工智能系统逐步出现的巨大潜力，尤其是在医疗保健方面，例如正确诊断和优化疾病的治疗，关键是，要有可用的风险评估框架，并任命一个负责任的机构。
人工智能的伦理框架，为所有部门创造了一个高度的创新环境。因此，有关机构迫切需要任命这一负责机构，并提供风险评估框架，以便瑞典企业和瑞典当局不会像 GDPR 那样对人工智能法案缺乏警惕性。
【参考文献】
https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai
Artificial intelligence: huge potential if ethical risks are addressed | News | European Parliament (europa.eu)
Welcome to anch.AI - AI and Equality in Public Administration- a report by anch.AI and the Swedish Gender Equality Authority.
阿法兔
个人专栏
阅读更多
金色早8点
金色财经
Odaily星球日报
欧科云链
澎湃新闻
Arcane Labs
深潮TechFlow
MarsBit
BTCStudy
链得得
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。