欧盟网络与信息安全局（ENISA）近日发布了题为《建立网络安全政策发展框架——对自主代理的安全和隐私考虑》的报告，旨在为欧盟成员国提供一个政策制定框架，以应对AI引发的安全和隐私问题。

欧洲委员会在对数字单一市场战略的中期审查中指出，建立欧洲科学和工业优势以及发展创新企业是保持其在人工智能技术、平台和应用程序领域领先地位的重要措施。2018年年中，欧盟提出了一项关于人工智能的欧洲倡议，旨在推动人工智能在社会经济各个方面的应用，为人工智能带来的社会经济变革做好准备，并确保为基于人工智能的应用程序建立适当的道德和法律框架。

报告首先对人工智能和自主代理技术进行了讨论。如今人工智能技术已经应用到医疗、驾驶、金融、制造、社交等各个领域，涉及到深度学习、知识表达、决策系统和大数据等不同技术。在不同的应用领域中，人工智能技术设计了多种多样的自主代理来智能地执行工作。

这些自主代理在自主程度和操作环境上有很大的差异，相应的安全性和隐私考虑也会有所不同。报告随后介绍了常见的安全和隐私需求。安全方面的需求和挑战主要有检测系统中运行的恶意或未授权的自主代理、自主代理代码的劫持和滥用、对代理系统传感器的干扰、自主代理执行代码的透明性和可审计性，以及对各类安全原则的遵守。隐私方面的需求和挑战则包括数据的最小化收集、数据保留和保护方法、数据聚合和重新调整用途以及人工智能算法带来的处理过程不透明性。

在过去几年中，人工智能为各种应用领域提供了巨大的潜力和可能性，但也带来了许多挑战。由于创新的快节奏，期望对每项技术进步都专门立法是不可行的。必须采取更广泛的方法来平衡所有利益相关方的权益，同时为新挑战提出解决方案。基于对人工智能众多应用领域的分析，报告指出，制定网络安全政策框架应遵循两个主要原则：

1.包容性原则

应当反映和考虑更广泛的利益相关方的权益和优先事项；

2.开放性原则

应当支持未来数字革新技术在不同领域的应用。

具体来说，该框架应该促进技术标准和规范的制定和采用；鼓励最佳安全实践和经验的交流推广；促进利益相关方的协同和合作关系。

报告最后总结了在制定政策发展框架过程中所面临的主要挑战，包括：

1.应用安全和隐私设计原则

自主系统的关键就是能够处理大量数据，因此必须使用确保关键安全特性包括可用性、机密性、完整性和可审计性的设计方法来构思、设计和实现自主系统，并在其从初始部署、维护到退役的整个生命周期中确保支持这些安全属性。

2.制定安全需求基准

人工智能和自主代理领域的快速发展，催生了系统及产品建立、设计和开发过程中对协调方法和指南的需求。开发人员可以从这些指南中识别和克服已知的安全和隐私挑战。这些指南可通过最佳实践、安全需求基线自愿标准的开发来得出。

3.协调和解决伦理问题

自主代理系统常常需要做出一些复杂的决策，并面临与人权、尊严和非歧视等相关的伦理问题。解决这一困境需要一种跨学科和协调的方法。欧盟委员会已发布了正式版的人工智能道德准则，提出了实现可信赖人工智能的七个要素，分别是：人的能动性和监督；稳健性和安全性；隐私和数据管理；透明度；多样性、非歧视性和公平性；社会和环境福祉；问责制。