图片说明：2018世界人工智能大会安全高端对话今天下午在沪举行。
东方网记者王佳妮、王玲、曹子琛9月18日报道：“人工智能发展需要保障用户的数据安全”“人工智能发展应当审慎运用在军事领域”……在今天下午举行的2018世界人工智能大会安全高端对话论坛上，《人工智能安全发展上海倡议》正式发布。人工智能发展将面对怎样的挑战与风险？政府或行业应该设立怎样的“游戏规则”，让新技术能够与人类社会良性互动？
细分行业“独角兽”不断涌现 安全方面仍处构建初期
同声传译、写新闻稿、协助医生看病、战胜围棋世界冠军，人工智能在当今世界的应用可谓“百花齐放”。去年7月，国务院在印发的《新一代人工智能发展规划》（以下简称《规划》）中提出，到2020年，我国人工智能核心产业规模超过1500亿元，带动相关产业规模超过1万亿元。除了顶层设计，人工智能各巨头也发力布局生态，细分行业“独角兽”不断涌现。
然而，当人工智能不断融入人类生活的同时，这一领域也不断引发公众的忧虑。国外社交平台“脸书”曾发生过一件令人匪夷所思的事情。该平台人工智能研究所中的两个聊天机器人“失控”，发展出了人类无法理解的语言，继而“被迫关闭”。尽管最后被证明是一场“乌龙”，只是因为工程师忘记加入“使用英语语法”这一条件，但当时该事件还是引发公众高度关注。不少业内专家表示，失实的夸大报道其实是显示出媒体和公众对人工智能的忧虑。
人工智能技术是否安全？其究竟处于何种现状？根据今天下午发布的《人工智能安全白皮书》显示，在人工智能相关的政策法规、标准规范上，目前各国大多处于建设初期或研究阶段。
中国信息通信研究院安全研究所高级工程师牛金行介绍，以无人驾驶为例，美国、德国都将安全作为自动驾驶第一准则，但均未形成统一的安全评测标准体系和方法。同时，政府目前多数靠约束企业自身开展测试验证工作，缺乏独立的第三方评测认证机构。还有专家认为，除了要解决人工智能使用中基本的安全问题外，使用者与服务提供者的责任界定也应予以明确界定。比如，一旦无人驾驶汽车出现事故，如何判断使用者、软件提供商以及车辆制造商等多方主体的责任，如何在后续赔偿和保险理赔中进行规定？这都需要进一步明确。
图片说明：论坛现场。
ai时代人变成“透明人”？技术、法律保障缺一不可
在人工智能应用场景的安全问题中，个人隐私保护也是公众较为关注的一个话题。当人们在享受人工智能带来便利的同时，也面临着泄露身份和位置隐私、视觉恐怖主义、僵尸网络病毒、非法权限获取等安全问题。进入人工智能时代，意味着开始进入“无隐私”时代？ai在分析和使用大数据的同时，用户的隐私权如何保障？
“未来人是‘透明人’，这恐怕是一个无法阻挡的趋势。”华东政法大学人工智能与大数据指数研究院院长高奇琦表示，即便是现在，如果有心人专门去搜集你在微信朋友圈、微博及其他社交工具上留下的信息和痕迹，很容易就得到个人隐私数据。“随着社会的发展，人们对于隐私的要求越来越强烈，因此，隐私保护问题将是人工智能时代需要深入研究的一个重大课题。”
而碁震keen公司创始人王琦则认为，隐私泄漏等安全问题并非是人工智能时代才有的，”隐私信息泄露，其实现在也是经常见诸报端，但如果到了人工智能时代不加以约束的话，后果要严重得多”。如何解决用户对于隐私的这种担忧？在王琦看来，最重要的是法律保障，用法律的手段让人工智能行业的从业者加强自律，保持敬畏之心。上海优刻得信息科技公司ceo季昕华则表示，还需要技术手段对人工智能进行约束，“让ai可以分析数据，但是不
获取数据，这应该是技术层面努力的方向”。
下一个产业发展蓝海？或将成为国际重要合作领域
人工智能时代，网络空间安全威胁全面泛化，如何利用人工智能思想和技术应对各类安全威胁无疑是国内外产业界共同努力的方向。
东方网记者获悉，腾讯公司安全管理部和上海赛博网络安全产业创新研究院今天下午联合推出《人工智能赋能网络空间安全：模式与实践》。该报告聚焦ai在安全场景的应用模式与案例，从风险演进和技术逻辑的视角阐述了网络空间安全的内涵和趋势。
在“ai+安全”领域，腾讯提出5项展望：人工智能安全将成为人工智能产业发展最大蓝海；人工智能的本体安全决定安全应用的发展进程；“人工”+“智能”将长期主导安全实践；人工智能技术路线丰富将改善安全困境；网络空间安全将驱动人工智能国际合作。
腾讯公司安全管理部副总经理杨鹏表示，随着智慧城市、工业互联网、自动驾驶等陆续普及，人工智能安全将成为产业发展的蓝海。面对技术规范、行业标准、法律法规尚未健全的人工智能新领域，制定统一的安全监测标准、安全防范架构、安全评估体系需要各方参与共同协调，“未来，网络空间安全将成为人工智能国际间合作的重要领域”。