据报道，北京人工智能企业瑞莱智慧发布了全球首个可实时检测AI合成内容的AI鉴伪工具RealBelieve，中文名“尊嘟假嘟”。

北京瑞莱智慧科技有限公司（RealAI）是依托清华大学人工智能研究院发起的AI企业，2018年成立，致力于提供安全可靠的第三代人工智能技术一站式赋能方案。其业务领域已覆盖政务、金融、能源、制造、互联网等多个行业，提供了脸识别系统安全、自动驾驶系统安全、深度合成和伪造检测、隐私保护计算、AI攻防靶场等全套产品和解决方案。据了解，RealAI团队在2018年已开展AI合成检测技术研究和产品研发，先后推出生成式人工智能内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品并持续迭代升级，已服务百余家政务、金融等领域客户。

生成式人工智能内容检测平台DeepReal

与传统AIGC（生成式人工智能内容）检测产品不同，RealAI此次推出的RealBelieve检测模型基于贝叶斯深度学习技术开发，构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性推理决策。为个人用户提供文本、图片、视频和音频等多种模态的文件上传检测服务。RealBelieve不仅提供文件上传的被动检测方式，更实现了主动的实时检测防护，能够实时接入视频流鉴别人脸真伪，智能识别并提示浏览内容为AIGC合成内容的可能性等。

RealBelieve可应用于多种场景。比如，在视频通话场景中提供AI合成实时监测防护，依据视频内容主动发出预警信息，提示视频对方的人脸是否存在AI合成的风险，帮助用户快速确认对方身份，确保通话对方的真实性，防止AI换脸等欺诈行为。在进行网页浏览时，通过浏览器插件实时提示用户所浏览网页中的疑似AI合成内容，保护用户免受虚假信息的误导。还支持个人用户上传文本、图片、视频和音频等多种模态的文件进行检测，帮助用户识别文件中的AI合成内容，避免被AI诈骗，满足不同场景下的需求等。

AI换脸技术

安全检测专家认为，RealBelieve的发布，标志着人工智能安全检测技术迈出了重要一步。近年来，随着人工智能技术的不断发展和广泛应用，其内生及衍生的安全问题也变得愈加复杂，带来的挑战和已经引起的各类风险事件也持续引起公众、企业和政府的关注。AI诈骗手段不断升级，从最初的简单模仿到现在的深度伪造（如AI换脸、拟声技术等），使得诈骗行为更加难以辨别。全球范围内，AI诈骗案件频发，不仅涉及金融领域，还渗透到社交、政治等多个方面。AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。

奇安信发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000％，基于AI的钓鱼邮件增长了1000％；已发现多个有国家背景的APT组织，利用AI实施了10余起网络攻击事件。2024年初，某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗，仅此一案就已导致该公司受损2亿港元。近年来，我国AI诈骗案件数量及涉案金额也呈现指数级增长。2023年，我国被公开报道的AI诈骗案涉案金额已达数千万人民币。RealBelieve的推出恰逢其时，满足了市场对AI鉴伪工具的迫切需求。

RealBelieve的发布对于提升人工智能的可控性和安全性具有重要意义和深远影响。它不仅为用户提供了强有力的保护，还促进了AI鉴伪技术的发展和行业的进步。目前，RealBelieve已启动内测招募，邀请用户参与测试并反馈意见。未来，随着技术的不断完善和市场的逐步拓展，RealBelieve有望成为人工智能安全检测领域的标杆产品，为更多用户提供安全、可靠的AI合成内容检测服务。