您的位置:首页 >热点 >

9秒钟,被骗132万!AI换脸诈骗又来了

2023-05-25 21:09:02    来源:凤凰网

据“安庆公安”官方微博5月25日消息,日前,安庆经开区发生一起“冒充熟人”诈骗案,诈骗分子使用了一段9秒钟的智能AI换脸视频,佯装“熟人”实施诈骗,金额高达132万元。

近期,“AI换脸”的应用范围越来越广,但存在滥用之嫌,甚至有人利用AI换脸实施犯罪,例如伪造不雅视频、换脸诈骗等。

中国互联网协会日前指出,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。


(资料图片仅供参考)

9秒被骗132万元!

据警方通报,日前,安庆经开区发生一起“冒充熟人”诈骗案。反诈中心民警调查发现,诈骗分子使用了一段9秒钟的智能AI换脸视频,佯装“熟人”让受害人放松警惕从而实施诈骗。

4月28日,专案民警连夜赶赴北京市抓获3名涉诈嫌疑人。5月22日,警方将先行追回的132万元被骗款及时返还给群众,目前案件正在进一步侦办中。

据媒体报道,5月22日,安徽安庆的何先生接到熟人视频电话,让他帮忙转一笔账。但9秒之后,对方以“在开会”为由,迅速挂断了电话,还称“微信和电话不能说,加一下QQ”。

图片来源:微博

“因为打了视频电话,又是熟人,我就没多想,就转账了。”事发时,何先生放松了警惕。发现被骗之后,何先生迅速报警,专案民警第一时间冻结相关账户,连夜赶赴北京市抓获3名涉诈嫌疑人,追回何先生被骗的132万元。

此前,据“平安包头”微信公众号消息,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元。今年4月,他的好友通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。基于对好友的信任,加上已经视频聊天“核实”了身份,郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。事后,郭先生拨打好友电话才得知被骗。

AI换脸还出现在直播带货中,此前,多个电商直播间被曝使用明星AI换脸直播,曾引发舆论关注。在一个展示换脸直播效果的视频中,使用者把名为“成龙”的模型载入相关软件后,摄像头前的人在直播画面中就有了与成龙相似的五官,但脸型和发型还保持原样。只有手掌从脸前划过时,动效才出现了比较明显的破绽。

一些使用换脸技术的直播并不会直接提到相关明星艺人的名字,但也不会主动声明或者否认。相关人士表示,该行为涉嫌欺诈或虚假宣传。有一款主打AI换脸的App由于如此换脸侵犯了公民的肖像权,在监管部门约谈后很快下架。

AI技术存在滥用风险

中国互联网协会5月24日消息指出,今年以来,ChatGPT和GPT-4等技术的应用,成为了信息科技领域的热点,引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。

值得一提的是,这些骗局中,骗子不是漫无目的地全面撒网,而是通过AI技术筛选受骗人群,别有用心地锁定特定对象。

如此以假乱真,让人防不胜防。“AI换脸”的法律边界在哪?普通人又该如何防范?

为规范人工智能发展,去年12月,《互联网信息服务深度合成管理规定》正式发布,明确了合成数据和技术管理规范。其中提到:深度合成服务提供者对使用其服务生成或编辑的信息内容,应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。

专家提示,“AI假脸”的纹理特征存在破绽,也有可能不符合正常人的生理特征,而且由于人嘴部的运动是最为频繁且快速的,因此AI软件无法真实准确地渲染连续动作,嘴部特征有可能辨别出真假。

中国互联网协会提醒,要做好个人信息安全第一责任人,加强个人信息保护意识,防止信息泄露;远程转账务必需要多重验证,把好“钱袋子”。在AI时代,文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款。如发生资金损失请及时报警。

标签:

相关推荐

知乎Q1职教收入涨幅超170%,C端收入占比首次过半

商务部:中美商务部长将会面

滚动:A股集体收跌:沪指探底回升险守3200点,光伏等新能源赛道股展开反弹

字迷一尺一打一个字是什么?一日进一尺打一字答案是什么?

貔貅适合什么生肖人戴_捡到貔貅怎么办

iphone4s必备软件有哪些?iphone4s什么时候出的?

孙京任中国卫通董事长、党委书记

这样买火车票更便宜!最高可省百余元!

世界信息:中轴线整体保护公众认同度上升报告建议:设计开发中轴线专题旅游及探访路线

全球资讯:市政协聚焦公交线路站点优化委员建议:加强轨道线网与公交线网融合衔接

北京居家养老创新试点推广加速

全球快资讯丨报告:2023/24年度新西兰乳制品出售将继续低迷 中国市场是“翻身”关键

意大利警方破获文物走私案 追回文物3500余件 快看

快资讯:“史上最高罚单”凸显欧美数据保护之争愈演愈烈

美媒:有意为之!美国严重且普遍的贫富文化是制度设计造成的

国际热评:胁迫外交“操盘大师” 美国令全球深受其害

效劳的意思是什么如何解释?效力和效劳的区别是什么?

粘上口香糖怎样清洗?口香糖可以咽下去吗?

飞入寻常百姓家的前一句是什么?飞入寻常百姓家出自哪里?

莫言获得诺贝尔文学奖的作品是什么?莫言个人资料及简介

近视眼视力一般是多少?近视眼怎么锻炼视力?

股市今想2023525

众泰汽车标志是什么?众泰汽车质量怎么样?

keys是什么车啊?方向盘带ib的是什么车?

“海外媒体数谷行”探访中国天眼FAST:感受大国重器的科技魅力_环球快资讯

突发!长城汽车公开举报比亚迪,发生了什么?

3d材料是什么材料?3d打印是什么东西?

长城汽车举报比亚迪!比亚迪回应:坚决反对,欢迎来查 天天新动态

风暴眼|独家文件揭秘南宁停车费事件隐情:72亿贷款质押为何秘而不宣?_精彩看点

“零首付”“负首付”买房?背后暗藏哪些风险?央媒调查-每日视点

小小姐们宋仲基客串的谁?小小姐们魏河俊是坏人吗?

今日热搜:爬上瓜秧的蜗牛有声绘本_爬上瓜秧的蜗牛的故事

库兹马晒与文班亚马合照:好气啊 你让我看起来像个控卫

5月26日起,房山区多条公交线路有调整

黄之锋藐视法庭被判入狱3个月,法官今日公布书面判词

一艘悬挂中国香港旗帜的货船在苏伊士运河搁浅-头条

环球消息!苏丹冲突双方互指对方违反停火协议

每日播报!在海上遇到祖国军舰,这互动超有爱

德防长:若停止提供武器,只恐乌克兰撑不过明天-天天热资讯

黄之锋藐视法庭被判入狱3个月,法官今日公布书面判词

普京:“新的紧张局势策源地正在出现” 环球资讯

当前速读:日本新版防卫白皮书草案:鼓吹“彻底强化反击能力”

环球报道:“美台21世纪贸易倡议”?岛内各界犀利吐槽:安慰剂、不及格

英派斯(002899.SZ):2023浩然前行,不负韶华

新资讯:快讯:杭州园林涨停 报于22.92元

比亚迪回应被长城汽车举报:反对任何形式不正当竞争行为-最新

爆了!三大妖股“上天”,“智能”二字再成点金手

长城汽车、比亚迪午后双双跳水 环球快消息

世博会生肖金条价格今天多少一克(2023年05月25日)

瓦罕走廊冰天雪地,昆仑大峡谷的杏花却在怒放 | 刁丽俊 微资讯

天天新动态:V观财报|澳洋健康及财务总监、董秘收警示函:业绩预告不准确等

利空!又有A股公司实控人被留置并立案 焦点关注

全球关注:助力解决职工“带娃难”,家庭托育如何发力?

全球微动态丨《@亚运 一起唱》杭州亚运演唱会完成录制

论文致谢,盛放大学生的独有浪漫

天天视讯!无人驾驶插秧机、精选杂交品种……各地抢抓农时有妙招

环球观察:朔州市开展重大事故隐患专项排查整治2023行动

天天微速讯:以智能家居打造智慧生活

多措并举推动新能源汽车下乡(政策解读)

杭州房东们的焦虑:我的二手房卖不掉

市场延续调整:沪指跌0.66%失守3200点,AI概念股持续调整 全球快看

即时看!独家专访《灰犀牛》作者米歇尔.沃克:美债危机如何影响世界?

全力保障“企业敢干” 护航经济高质量发展 环球微资讯

天天快播:升级智能仓储解决方案,日日顺助推产业链供应链智慧化升级

世界快资讯:创新养老服务模式 为居家养老提供“北京方案”

Vlog:中关村论坛提前探_世界热闻

又是一年好“丰”景!各地小麦陆续开镰收割

共青团开展2023届高校毕业生就业岗位帮扶

我国持续深入推进垃圾分类工作 世界球精选

今天午后起,京津冀等地部分地区将有8-10级雷暴大风或冰雹 天天百事通

看点:北京地铁:13号线部分列车延误

世界动态:@所有人:理性消费,拒绝浪费!这些建议走心了

安理会召开中东巴勒斯坦问题公开会 中方呼吁重启“两国方案”

意达利控股(00720.HK):沈仲平获任独立非执行董事

5只股票型ETF份额增加超2亿份 国泰中证全指证券公司ETF增加7.39亿份_天天速读

南宁糖业:后续白糖供需是否紧张需关注两个方面-热推荐

原油贸易现大变局 亚洲“赢麻了”?|快看点

万达连陷不利传闻,否认“160亿出售20个万达广场”

最早6月1日就没钱用了?耶伦:尚未对债务违约制定应急计划_每日热文

运力饱和 出行梦干瘪,网约车走下神坛? 世界快资讯

莫让舌尖消费变浪费 环球观焦点

相约北京!派逊校服“橙”邀您共赴“2023 全国首届校服展览会”

挑战极限 逐梦云端(强军一线)|焦点精选

今日要闻!港媒:国泰工会邮件印证痼疾根源 歧视做法可追溯到二十年前

美民调:越来越多美国人担忧校园枪支暴力 比例达10年来最高

在服务大局中彰显司法公正(法治头条·“法治护航高质量发展”调研行②)

环球即时看!中方宣布美光未通过安全审查,白宫急忙回应,称正与中方沟通

岸田政府,令人瞠目!_全球热闻

全球快看:一家五口遇难后,事故现场50米远仍在违规充电!

【环球聚看点】对公司调动变更工作地点,员工有权说“不”吗?法院判了

“两高两部”:办理性侵害未成年人刑事案件坚持这些原则-世界短讯

今日精选:美国债务上限逼近“悬崖”,两党谈判成赌博闹剧

榆社县“三优三促”激发企业发展“廉动力” 全球热闻

情人生日送什么礼物好呢男士(情人生日送什么礼物好呢女士)

同程旅行2023年一季度营收25.9亿元_当前热闻

5月前三周新房成交环比降近五成 零星热盘难带动市场

2023年我区特岗教师招聘考试(笔试) 和成人高等教育学士学位外语考试考前提醒发布 环球热消息

政协委员工作站 搭建为民服务“连心桥”

定期检修 每日清洁 垃圾转运站高效运转“不掉链”

社区协调​疏通管道