世界人工智能大会热议信息安全，数字化程度越高安全挑战越大

7月8日，在2021世界人工智能大会上，除人工智能发展的最新成果和观点以外，关于信息安全、人工智能伦理的话题亦被频繁提起。

360集团创始人、董事长周鸿祎在开幕式演讲中表示，“在大数据时代，当数据积攒到一定程度，数据安全就成为一个挑战，甚至会关系到国家安全。”西门子股份公司董事会主席、总裁兼首席执行官博乐仁（Roland Busch）在会上亦提及，想在人工智能领域取得成功，建立信任和网络信息安全保障开展协作是先决条件之一。此外商汤科技联合创始人、CEO徐立指出，人工智能的创新来源于对过往认知的颠覆，但机器在很多情况下还没能达到完整控制和迭代，因此人工智能在行业应用中的伦理治理问题至关重要。

周鸿祎：数字化程度越高，安全的挑战就越大

在周鸿祎看来，数字城市是数字化的一个核心场景，未来数字城市一定是一个高度复杂的数字化环境，因此给网络安全带来更大挑战。

“城市的构成，不仅仅是成千上万个联网的政府部门和企事业单位，还包括数字化的城市基础设施。比如，智慧交通、智慧电网，各种政务云和大数据中心，以及背后数以亿万计的互联网设备，工业互联网设备、IT设备和数字化终端等。从本质上看，城市的数字化转型，就是以大数据为核心，利用物联网传感器、云计算、5G、人工智能边缘计算、区块链等技术，通过数据的生产、采集、运营和赋能，打通数字空间和物理空间，形成数字闭环。”周鸿祎提到。

与此同时，多年从事网络安全事业的周鸿祎亦认为，处在“一切皆可编程，万物均要互联，大数据驱动业务”的世界中，当数据积攒到一定程度产生质变，数据安全会和国家安全建立直接的联系。

“万物均要互联，打通了虚拟世界和物理世界，特别是工业互联网、车联网和物联网，它们已经把联网设备和基础设施连到网络上去了。过去虚拟世界里的攻击和伤害，现在会直接影响到现实世界，造成物理伤害，导致诸如工厂停工、大面积停电、社会停摆等状况。”周鸿祎称，“一切皆可编程，也意味着漏洞无处不在，也就意味着，支撑着我们整个城市运转的每个系统，都不可避免地存在安全漏洞。有漏洞就有可能被攻击。”

周鸿祎认为，当下谈安全不是为了限制新技术发展，而是为了更好地保障新技术的使用，“虽然数字城市有无限的想象空间，但从安全角度来看数字化程度越高，安全的挑战就越大。”对此周鸿祎建议与城市数字化转型同步，将安全体系与数字体系融合，攻防能力和管控能力融合，构建真正面向数字城市的新一代能力框架。

西门子CEO博乐仁：引入网络安全技术进行信息监管

通过视频连线，会上西门子股份公司董事会主席，总裁兼首席执行官博乐仁（Roland Busch）也提出，数字化正在推动产业变革，带来更高的生产力、质量和灵活性，以及可持续发展，其中信任和网络信息安全保障的建立至关重要。

“以基础设施为例，在商业楼宇运营和维护方面，数字化技术可以帮助节省高达20%的投入；在交通领域：数字信号技术可以在不增加任何基础设施的前提下提升20%的运力；在工业领域，60%的生产制造任务可以自动化，这意味着我们能够实现更高的资源效率”，博乐仁称，数字化转型是所有市场乃至社会经济实现高质量和韧性发展的必由之路，人工智能在这一变革中发挥着重要作用。

以汽车制造为例，在冲压工艺过程中，振动能够显示出机器的健康状况。然而，要人工监测并分析所有振动是不可能完成的任务。但基于传感器所生成的数以百万计的数据点，通过数据科学和人工智能技术，可轻松追踪振动情况，同时结合西门子专家的行业知识可以做出预测。“我们的人工智能解决方案在工厂部署后不久就识别出了一个异常振动规律，由此触发提前预警，帮助客户避免了设备故障。”博乐仁称 ，但他同时指出要在人工智能领域取得成功，先决条件之一便是信任和网络信息安全保障的建立。

“要在人工智能领域取得成果，需要深刻理解客户及其运营中所面临的挑战。此外，双方需要建立互信、共享数据。但即使有了最高程度的互信，数据仍有泄露的风险，安全系统仍有被破防的可能。因此，保证网络信息安全是成功实现数字化转型和人工智能应用的必要前提。中国已经意识到这一议题的重要性，这与西门子不谋而合。”博乐仁称。对此博乐仁建议，在建立平等合作生态系统的同时，应通过引入网络安全等技术来进行监管。

商汤科技创始人徐立：AI创新颠覆过往认知，秉承“发展”的人工智能伦理观

在题为《人工智能创新新范式-机器的猜想》的开幕演讲中，商汤科技联合创始人、CEO徐立提到，人工智能的突破将能够有规律地拓展人类的认知边界。他指出，无论是过去的经验归纳、推理演绎，还是现在利用大数据和仿真模拟，通常意义上的四种科研创新范式都有着既定的模式，但人类历史上很多颠覆性的科学创新和重大突破，都是颠覆共识的、不可预测的，多源于“天才的猜想”，造成这种现象的原因，在于人类对未知世界的认知局限。

“但在今天的人工智能时代，机器也可以进行猜想，有望帮助我们更早地发现科学规律的本质，更快地探索和发现未知，这正是人工智能所带来的创新的新范式。”徐立称。

以自动驾驶的发展为例，从无人泊车，到封闭园区的无人接驳，再到开放道路的自动驾驶，就是一个通过应用数据定义技术的使用边界和规范的过程，从而逐步做到技术的可控发展，更好地推动产业的进步。在更多巨大状态空间的决策应用中，如智能交通灯控制，通过利用视觉感知和AI智能决策，能在固定片区内将人均等待时间缩短20分钟，突破了传统模式的边界。

同时徐立强调，人工智能的创新来源于对过往认知的颠覆，因此行业应用中的伦理治理问题就愈发重要。“以人为本、技术可控、可持续”是国际上具有广泛共识的技术伦理治理框架，但在不同的发展阶段，需要三者的平衡发展。对此，徐立倡导行业社会要秉承“发展”的人工智能伦理观，其一是在谈论伦理治理时，我们要考虑普惠发展的目标，即用人工智能技术推动社会进步；其二是在先进技术落地的同时，要考虑行业变革的快速性，针对不同的发展阶段，找出不同治理框架下的发展平衡。

南都记者 马宁宁 实习生 林文琪