7月8日—7月10日，2021世界人工智能大会在上海世博中心召开。

本次大会期间，基于第三代人工智能的DeepReal深度伪造内容检测平台推出，其具备工业级检测性能，能够快速、精准地对多种格式与质量的图像进行真伪鉴别，为遏制和防范深度伪造技术的大规模滥用提供有效技术支撑。

关于人工智能安全性的担忧，一方面需要依靠法律法规和政府监管来约束，另一方面，需要从源头加强安全评估，提升鉴别技术等能力，借助技术手段提前布局。

针对于此，中国科学院院士、清华大学人工智能研究院院长、北京瑞莱智慧科技有限公司首席科学家张钹提出了“第三代人工智能”的概念，也就是安全、可靠、可信的人工智能。安全性将成为下一阶段人工智能发展必须的基础。

DeepReal深度伪造内容检测平台，就是RealAI基于第三代人工智能所研发的能够高效、快速鉴别深度伪造内容的平台，将成为遏制深度伪造作恶的手段之一。

“人工智能产业正进入高质量发展阶段，以深度伪造为代表各类安全问题层出不穷，亟待解决。”北京瑞莱智慧科技有限公司首席执行官田天指出。

“深度伪造”是指利用深度学习算法实现音频和视频的模拟和伪造，包括语音模拟、换脸、表情操纵等。

“比如公安机关、司法机关的图像鉴别工作，深度伪造技术的出现将导致举证工作存在风险。”田天介绍说，“深度伪造技术也可能成为国家之间发起虚假信息战争的最新武器，抹黑政治人物、伪造政治制度和破坏国家间关系，甚至在未来军事战场上损毁特定军事或情报行动。在这种背景下，国内外政府高度重视，都出台了相关的监管制度。”

“以深度伪造为代表的安全问题，正是目前人工智能产业当前所面临的瓶颈。人工智能产业正经历从高速增长向高质量发展的转变，一方面产业期待进一步提升，金融、医疗等更复杂的高价值场景的应用需求不断增加，智能化场景从单一感知向多元认知发展;另一方面，各种安全问题的爆发，要求在追求性能效率的同时关注安全性的提升与保障。”田天指出。

“深度伪造技术持续进化，网络数字内容多变、隐匿性强，监管难度大，因此开展主动技术防范与检测工作是必要的。”北京瑞莱智慧科技有限公司副总裁唐家渝认为，深度伪造技术检测工作当前面临两大难点，一是肉眼难以辨别，传统人工内容审核团队无法应对，二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、算法模型存在结构性缺陷等。因此他建议，首先监管部门需要设立专业技术检测团队，其次检测工作需遵守动态平衡机制，技术能力需不断升级迭代。

数据显示：在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。在检测速度方面，DeepReal可实现每帧画面的检测时间仅用时30毫秒。

“开展主动技术防范与检测评估工作是防范深度伪造技术作恶的必由之路。”唐家渝表示，未来，DeepReal检测平台将在网络虚假内容甄别、人脸资料审核以及影像物证真实性检验等实际应用场景中发挥作用。(记者 马爱平)