win10系统家园 - 专注分享最好用的电脑系统

当前位置: win10系统家园 >  微软资讯 >  微软总裁警告:AI深度造假成最令人担忧问题,国内多起被骗案例曝光

微软总裁警告:AI深度造假成最令人担忧问题,国内多起被骗案例曝光

更新时间:2023-05-26 13:59:34作者:qdhuajin

微软总裁警告:AI深度造假成最令人担忧问题,国内多起被骗案例曝光

鞭牛士 5月26日消息,微软总裁布拉德·史密斯周四表示。他对人工智能的最大担忧是深度造假(Deep Fakes ),看起来很逼真但内容是虚假的。

随着 OpenAI 的 ChatGPT 的出现,深度造假成为普遍存在的问题。在华盛顿的一次演讲中,史密斯呼吁采取措施确保人们知道照片或视频何时是真实的,何时是真实的。由 AI 生成,可能用于不良目的。

史密斯强调,“我们需要采取措施防止合法内容被篡改,以及意图通过使用人工智能进行欺骗的行为。”

国内消息,继此前“10分钟被AI换脸骗走430万元”事件引发关注之后,5月22日,又一起AI换脸诈骗发生。这次金额达到132万,且整个诈骗过程时间更短,只有9秒钟。

据澎湃新闻报道,5月22日,安徽安庆的何先生接到熟人视频电话,让他帮忙转一笔账。但9秒之后,对方以“在开会”为由,迅速挂断了电话,还称“微信和电话不能说,加一下QQ”。“因为打了视频电话,又是熟人,我就没多想,就转账了”。

事发时,何先生放松了警惕。发现被骗之后,何先生迅速报警,专案民警第一时间冻结相关账户,连夜赶赴北京市抓获3名涉诈嫌疑人,追回何先生被骗的132万元。

此前,据高台公安。近日,包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

4月20日中午,郭先生的好友突然通过微信视频联系他。自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。

基于对好友的信任,加上已经视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话,才知道被骗。骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。

值得注意的是,骗子并没有使用一个仿真的好友微信添加郭先生为好友,而是直接用好友微信发起视频聊天,这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是,接到报警后,福州、包头两地警银迅速启动止付机制,成功止付拦截336.84万元,但仍有93.16万元被转移,目前正在全力追缴中。

在应用商店搜“AI换脸”,随即发现市面上已有一批软件的换脸技术,几乎可以以假乱真。某短视频平台还推出一款“AI随拍”玩法,用户可以将自己的脸带入明星身上,即可发布视频。

专家提示,“AI假脸”的纹理特征存在破绽。另外,“AI假脸”有可能不符合正常人的生理特征。

Copyright ©  2012-2024 win10系统家园 版权声明