新型电信诈骗手段猖獗 AI风险治理成焦点

发稿时间: 2024-11-17 20:18 来源:人民邮电报 作者: 2024-11-17
分享X

在我们拨打视频电话或召开视频会议过程中,诈骗分子通过AI技术可以替换仿冒任何人的面貌、表情和声音,还可以做到实时互动和交谈。普通人用肉眼几乎难以辨别这种新型伪造手段,而通过深度鉴伪、算法对抗等人工智能技术,高科技系统则可以瞬间鉴别真伪并发出预警提示。在11月16日国瑞数智战略发布会上,国瑞公司总裁肖洪涛向大家演示了上述场景,并称之为“用AI对抗AI”,引起参会专家学者们的高度关注。

肖洪涛在发布会上详细阐释了公司“从网络数据安全到AI风险治理”这一技术战略的内涵。他强调,国瑞公司将继续深耕网络数据安全技术研究与产品开发,致力于为信息通信行业提供面向未来AI安全管理与风险治理的一系列产品与解决方案。国瑞公司的技术发展方向不仅面向AI内生的系统、通信与算法安全层面,还高度关注大模型带来的数据隐私泄露风险管控,而更核心的战略方向是针对未来AI应用衍生出的实体域和认知域风险开展技术攻坚和攀登。

发布会上,浩瀚深度董事长张跃公布了于今年8月份正式完成对国瑞数智并购的相关事宜,这标志着浩瀚深度与国瑞公司将共筑数字生态,共享创新成果,共同应对挑战,携手开启数智化时代的新征程。

据了解,国瑞公司AI安全能力通过了行业最高级别技术  测评,取得了中国信通院深度伪造视频检测服务能力最高优秀级评测证书和中国信通院内容审核服务(文本、图片、音频、视频)全五星评测证书,检出率、准确率均达90%以上。此外,国瑞还积累了丰富的违规样本数据,为全国的行业监管部门、电信运营商提供反诈服务,并为全国网信系统贡献超过数十万小时的AI检测违规样本。

展望未来,国瑞公司将继续加大在人工智能安全监测与治理业务的投入,汇聚融合多源数据资源与分析能力,打造AI驱动、以网管网、以技管技、技管结合的新模式,统筹调度的人工智能监测平台,形成集中分析、针对性监管的AI应用治理体系,为客户提供更加全面、智能和主动的安全解决方案,以应对日益增长的网络安全挑战。(编辑:杨扬)

新闻附件:

新春走基层|我们一直在路上

特别推荐

相关新闻