okx

2023中关村论坛|瑞莱智慧:用AI让AI更安全

人工智能 安全

从ChatGPT火爆全网,到“AI换脸”新骗局全国频发,人工智能作为战略性新兴技术受到了市场广泛关注。如今,在“AI换脸”诈骗多发的背景下,如何破局AI技术滥用、如何应对AI技术安全风险无疑也引发业界深思。5月24日,瑞莱智慧RealAI合伙人、高级副总裁朱萌接受了北京商报记者专访,从目前的“AI换脸”骗局如何防范、鉴别,到其背后的深度合成技术,再到推动建立安全可控的AI治理体系,朱萌一一详谈了她的看法。

信息造假难度降低

“张嘴、摇头,摄像头捕捉到人的动作后,屏幕上原本静态的人像可以动起来,动作幅度和真人一致,还能眨眼和露齿微笑,仿真度颇高,几分钟内就能生成一段视频,脸还能被任意替换。”这就是“AI换脸”技术,成为不少黑产分子新型诈骗的工具。

近期,一家公司老板被“AI换脸”10分钟骗走430万元引发市场热议,“AI换脸”骗局不断。其中,包头市公安局电信网络犯罪侦查局近日也发布一起使用智能AI技术进行电信网络诈骗案件,不法分子利用“AI换声”“AI换脸”技术,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施诈骗。

据了解,“AI换脸”背后采用的是深度合成技术,利用深度学习、虚拟现实等生成合成类算法,制作图像、音频、视频等信息,目前在社交、影视、广告、医疗等诸多领域不断深化应用,有较大的技术价值和商用潜力,不过也存在着一定的安全隐患,“双刃剑”效应明显。

朱萌在接受北京商报记者专访时表示,随着研究的深入,深度合成技术得到快速发展,早期的换脸视频,由于技术不成熟、不完善,尚存在“微表情不自然”“面部边缘有锯齿”等明显换脸痕迹,可作为参照辨别真假。但近年来在社交媒体上广泛传播的换脸视频,动作的逼真度、自然度,以及视频整体的清晰度、流畅度都得到大幅提升,足以达到以假乱真水平,传统基于生物特征的鉴别方式越来越难以发挥作用,真假难辨的背后更是危害性的不断增强。

朱萌进而指出,深度合成技术大大降低了信息造假的难度,只需要拿到一张照片,就能生成非常逼真的伪造视频,用于捏造虚假信息、伪造不雅视频、恶搞特定人物等。

5月24日,中国互联网协会也发文称,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。

一道安全防火墙

针对“AI换脸”等技术被用于诈骗、诽谤等问题,朱萌对北京商报记者表示,RealAI已开发配套的治理工具,即深度伪造内容检测平台DeepReal,为防范大规模的视频造假提供技术支撑。

目前,学术界和产业界均已对深度合成鉴别检测技术的研发进行了大量投入。在国内,清华大学、中科大等高校均在深伪检测方面取得显著成果。瑞莱智慧RealAI、腾讯优图实验室等企业机构也已构建人脸合成检测平台并发布针对性的检测产品,支持对多种换脸方法进行检测。

据朱萌介绍,RealAI推出的深度伪造内容检测平台DeepReal,通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容一致性特征,能够快速、精准地对图像、视频、音频内容进行真伪鉴别,有效打击财产诈骗、虚假宣传、证据造假等违法行为。

据了解,DeepReal平台基于千万级训练数据,能够实现毫秒级检测速率,每帧画面检测时间仅需30毫秒,同时在主流数据集检测准确率达99%以上,在实际产业中检测准确率也达到业界顶尖水平。

深度合成技术的加速应用已成为现实趋势,据朱萌介绍,RealAI未来还将进一步扩展深度合成溯源、深度合成鉴定等方面的能力,全面提升技术应对能力。

目前,瑞莱智慧的产品解决方案主要在政务、金融、能源、制造、互联网等场景落地,致力于以安全、可信、可靠、可扩展的第三代人工智能技术为合作伙伴提供人脸识别系统安全、自动驾驶系统安全、深度合成和伪造检测、隐私保护计算、AI攻防靶场等全套产品和解决方案。

北京商报记者了解到,除了瑞莱智慧RealAI之外,部分涉足人脸识别的上市AI公司也已研发了视频图像鉴真相关产品。

让AI安全可控

伴随着“AI换脸”骗局在全国范围内爆发,AI技术的安全问题也受到了广泛重视。今年以来,有关推动建立安全可控的AI治理体系也被不断提及。

行业调查上,德勤今年发布的《2023技术趋势》报告显示,有七成左右的受访企业主管表示将看好AI技术业务变革;47%的业务主管更关心AI透明度问题;而41%的技术专家担忧AI会引发道德风险。

朱萌对北京商报记者表示,包括人脸识别、深度合成在内的人工智能技术的普遍应用,可能引发诸多治理挑战。从整个大市场来看,AI治理应该从法规与倡议约束、研究计划与竞赛引导、技术手段发展的角度全面展开。其中技术手段发展方面,应对AIGC生成内容的不断演化,对治理技术也提出了越来越高的挑战。从数据制作、传播到事后检测追责的全链条看,需要技术侧不断优化合成检测、检测结果可解释、数字水印、合成溯源等方面的技术能力。国内外相关机构也均推出和优化相应的技术工具。

据了解,为推动人工智能伦理治理体系的建立,RealAI在2022年6月正式成立AI治理研究院,提出“安全可控、敏捷评测、开放共治”的治理理念,搭建了由“研究体系”“实践体系”和“监督体系”组成的治理框架,持续开展人工智能伦理规则、治理实践与监督体系的研究,着力于伦理规则与立法贡献、治理技术落地与探索伦理安全规范。

此外,据朱萌介绍,推动建立负责任的AI技术治理体系,RealAI主要从“算法可靠、数据安全、应用可控”三个方面着手,提升算法模型的可靠性,解决模型训练与使用过程中的隐私保护与技术滥用问题等,还搭建了安全可靠可控的新一代人工智能基础设施,且目前已在政务、金融、工业互联网等高价值场景中发挥了重大作用,成为AI纵深赋能的坚实基座。

5月24日,北京商报记者就“AI换脸”诈骗、应对AI技术安全风险等相关问题与瑞莱智慧RealAI合伙人、高级副总裁朱萌进行了深度对话,以下附部分对话实录:

Q:面对利用AI技术的新型骗局,广大公众可以如何防范?

A:AI换脸、AI换声诈骗就是一个典型的AI安全风险,而且深度伪造技术一直在不断自我优化、升级换代,生成的声音越来越自然流畅,视频也越来越逼真,普通人的耳朵和肉眼已经很难辨别真伪了。如果遇到这类疑似AI换脸诈骗的情况,可以在视频时有意识地引导对方做一些特殊动作,如大幅度的摇头或张嘴。如果骗子技术手段较弱,那么我们有可能发现对方面部边缘或者牙齿的瑕疵,从而识别出AI换脸。如果疑似是声音伪造,可以试一下与对方用方言交流。另外,在防止自己上当受骗的同时,还要注意保护好个人图像,尽量避免在公开平台大量晒自己的照片和视频,给不法分子提供便利。深伪制作的原材料是个人音频、图片、视频,这些数据越多,训练出的视频也就越逼真、越难以鉴别。

Q:去年底ChatGPT横空出世,有关AI与人类未来的讨论愈演愈烈,也加深了人们对AI是否已经失控的担忧。如何看待市场上的这种担忧?

A:产生这种担忧是很正常的,不过大家如果去真实地使用它,就能发现它还是存在不少问题,会犯很多常识性的错误,尽管行文非常流畅,甚至逻辑和前后转换关系看起来很严谨,但内容却是错的。实际上,它离大家理想中的人工智能还存在差距,也不具备人类“举一反三”和创造的能力。反观历史,每当有新技术出现时,大家在初期都会有一定恐慌和忧虑,但后来这些技术不仅帮助我们提高了生产力和生产效率,还衍生出一些新的工作机会。这给我们的启示是要去学会利用ChatGPT这样的新兴工具,更好服务于生产和生活,恐慌是大可不必的。

Q:如何看待人工智能企业研发人员的重要性?目前瑞莱智慧研发团队人员情况是怎样的?

A:人才不仅是推动人工智能技术发展和创新的关键力量,也是人工智能企业成功的关键因素之一。目前瑞莱智慧公司研发团队占比超60%,硕士及博士占比超45%。在核心研发团队中,来自清华大学、北京大学的成员超过1/3。

北京商报记者 马换换

相关内容

扎实推动高质量发展在湖南农信系统落地生根

洪 樱 成依潇 刘雯娟 黄利飞 新型农业经营主体贷款余额177.2亿元,累计涉农贷款余额达6264.5亿元; 普惠型小微企业贷款余额达2182亿元,支持普惠型小微企业户数50.8万户; 新版手机银行客户数1244万户,收单商户数79万户,线···

全国港口前三季度吞吐量出炉

1-9月,全国港口集装箱吞吐量前10名分别是:上海港(第1)、宁波舟山港(第2)、深圳港(第3)、青岛港(第4)、广州港(第5)、天津港(第6)、厦门港(第7)、苏州港(第8)、北部湾港(第9)、日照港(第10)。图片来源于港口圈1-9月,···

定安打出组合拳推动知名企业纷纷落地

海南日报记者 李豌 特约记者 孙国富蜜雪冰城全球供应链总部基地和全国冷链物流总部基地项目、煌上煌集团……近年来,大企名企纷纷落地定安。国际投资单一窗口综合管理系统数据显示,2020年5月至今年9月,定安县在库项目36个,签约金额达158.9···

45年·45人·45个典型改革案例丨熊维政:一定要把信阳茶油做上市

□本报记者 胡巨成 刘宏冰潜心医药行业40余年,将一家作坊式医药小厂,做成大别山革命老区和全国贴膏剂药业首家上市企业,打造出“百亿级贴膏剂生产基地”的羚锐制药前“掌门人”熊维政,在他60岁时急流勇退,放手交棒,转身创办了信阳信锐油茶股份有限···

山东区划设想,二分滨州,组建渤海市,利津改区,邹平与高青互换

近年来,随着我国产业结构的不断调整,经济增长方式也在持续优化,特别是随着交通等基础设施的完善,区域经济开始朝着一体化发展方向迈进。如果用《射雕英雄传》中的一句话来形容,江苏是“东邪”、广东是“南帝”、四川是“西毒”,那么山东则是“北丐”,此···

为什么河南经济是最没有希望的?上车,带你深度了解河南的问题

“河南小孩出生就是为了离开河南”,这是我最近一个关于河南经济评论文章下点赞最高的评论。这句话我深深刺痛着自己,因为我自己就是河南人,深知这里面包含了多少无奈和心酸。当人们在聊地域之争的话题时,大家都会为自己的省份争辩几句,然而只有河南人,会···

关注双11丨“88VIP”淘宝天猫全网商品都能用花呗分期免息

2023天猫“双11”活动今晚8点正式开始。今年“88VIP”大额券总规模达到200亿,用户可领券额度最高可达860元。支付宝针对“88VIP”淘宝天猫用户还推出花呗分期免息服务,消费者购买大件商品又多了一重实惠。“88VIP”用户购买单价···

每日新闻,60秒知晓世界热点

2023年10月31日,星期二,农历九月十七1、31省份前三季度人均可支配收入公布:上海北京首超6万元位居全国前列,浙江天津江苏同属4万+梯队紧随其后;长三角万亿城市经济三季报:合肥增速第一,宁波增速超上半年;2、工行、农行、中行、建行、邮···

2024年城乡居民参保调整,一次性补缴5.9万,每月能领2300元吗?

随着时间的推移,社会保障制度也在不断地完善和调整。2024年城乡居民参保也将迎来新的一轮调整。据相关政策规定,未来居民参保需要一次性补缴5.9万,每月能领2300元。这个政策引起了很多人的关注和讨论。对于这个政策,有些人认为一次性补缴5.9···

老百姓:第三季度净利润同比增长32.78% “聚焦发展”战略优势凸显

中证网讯(记者 段芳媛)老百姓10月30日晚间披露2023年第三季度报告。公司前三季度实现营业收入160.42亿元,同比增长16.44%;实现归属于上市公司股东的净利润7.17亿元,同比增长17.54%。其中,第三季度实现营业收入52.31···

紧抓机遇开展差异化竞争 骆驼股份积极开拓国际市场

骆驼股份 黄剑波/供图 彭春霞/制图证券时报记者 韩忠楠越来越“卷”的新能源汽车赛道,既充满挑战,也酝酿着新的机遇。近期,受益于华为与赛力斯联合打造的全新问界M7的热销,与之相关的汽车产业链在A股市场的热度也随之升温。这当中,为问界M5/M···

宝山罗店:罗南二村 半年跌幅近乎恐怖 郊区老破小太可怕

前几天,我们写了几个宝山区二手房系列,美兰湖板块的万科琥珀郡园以半年跌幅近五分之一位列榜首,我以为就是跌幅极限。然后,今天现场去看了位于美兰湖南侧的罗南新村,在那周围详细地看了看,然后比较了一下罗南二村最近成交与4月份左右的成交记录,愕然发···

压倒许家印并不是造车,而是恒大童世界,砸几千亿搞了十几个鬼城

恒大集团以其高调的投资和建设项目而闻名,最近引起了人们的广泛关注。与传统地产业务不同,恒大集团的新尝试是在娱乐旅游领域建设恒大童世界。这一巨大的投资计划引发了广泛的争议和讨论。恒大童世界的建设规模之大令人瞩目。据报道,恒大集团计划投资数千亿···

《人民日报》警告奏效?98款,突破1亿台!华为正式宣布

导语:在科技的浪潮中,华为从遭遇“极限施压”,到芯片突破和鸿蒙生态的自研,始终展现出卓越的技术实力和坚韧不拔的创新决心。华为面对挑战:技术封锁与自主创新在2019年,《人民日报》发送《人民日报评华为遭"极限施压":科技自立,时不我待》一文,···

中国钢铁大王戴国芳,入狱5年东山再起,再造500强民企狂赚1957亿

他从一个收废品的穷小子,摇身一变,登上了中国400富豪榜。他的钢铁厂年销售额已超过1个亿,手下员工超过1千人,他就是钢铁大王戴国芳但是这个钢铁界的王者,却因为一时错误,被捕入狱,还坐了5年牢。出狱后,他不忘初心重操旧业,不仅再次创办炼钢厂,···

油价暴跌倒计时,专家透露:11月国内高油价将消失!

随着外资油站的进入,国内加油站市场的竞争格局正在发生重大变化。近日,多位专家在接受记者采访时表示,预计11月国内高油价将不复存在。这一预测的背后,是外资油站的入驻带来的市场冲击和国内油价的持续波动。外资油站的进入,打破了国内加油站的垄断格局···

共话中国经济新机遇丨专访:中国经济展现出发展韧性

新华社日内瓦10月30日电 专访:中国经济展现出发展韧性——访联合国贸发会议资深经济学家梁国勇新华社记者陈斌杰联合国贸发会议资深经济学家梁国勇日前接受新华社记者书面专访时表示,中国经济今年前三个季度的增长态势展现出了发展韧性和潜力。中国国家···

润达医疗:目前在上海、北京等地区部分医疗机构已开展LDT相关业务的试行

润达医疗近期接受投资者调研时称,目前在上海、北京等地区部分医疗机构已开展LDT相关业务的试行,公司在上海等地区积极和相关部分医疗机构展开合作,共同推进LDT相关业务在医疗机构的开展。未来随着相关政策法规进一步完善,LDT相关业务将给公司带来···

国航率先公布第三季度财报,疫情后首度扭亏

在阅读此文之前,希望用您发财的小手点一下“关注”,文章内容来源于网络但是最后会有小编的个人感悟,如有不足之处可以评论指出,谢谢您的支持。民航行业近期公布的积极消息显示了行业的积极向上趋势。多家航空公司在财报中宣布扭亏为盈,旅客运输量也逐步恢···

竹塑革命!中国发改委推动“以竹代塑”三年行动计划。

近日,中国国家发展和改革委员会发布了一份重要通知,名为《加快“以竹代塑”发展三年行动计划》,这一举措旨在推动“以竹代塑”产业体系的快速建立。这个消息将给与竹制品、造纸等行业密切相关的产业带来利好消息。竹子作为中国特色植物,广泛应用于造纸、包···