微软总裁布拉德·史密斯周四表示，他对人工智能的最大担忧是深度造假（Deep Fakes ），看起来很逼真但内容是虚假的。
随着OpenAI的 ChatGPT 的出现，深度造假成为普遍存在的问题。在华盛顿的一次演讲中，史密斯呼吁采取措施确保人们知道照片或视频何时是真实的，何时是真实的。由 AI 生成，可能用于不良目的。
史密斯强调，“我们需要采取措施防止合法内容被篡改，以及意图通过使用人工智能进行欺骗的行为。”
(资料图)
国内消息，继此前“10分钟被AI换脸骗走430万元”事件引发关注之后，5月22日，又一起AI换脸诈骗发生。这次金额达到132万，且整个诈骗过程时间更短，只有9秒钟。
据澎湃新闻报道，5月22日，安徽安庆的何先生接到熟人视频电话，让他帮忙转一笔账。但9秒之后，对方以“在开会”为由，迅速挂断了电话，还称“微信和电话不能说，加一下QQ”。“因为打了视频电话，又是熟人，我就没多想，就转账了”。
事发时，何先生放松了警惕。发现被骗之后，何先生迅速报警，专案民警第一时间冻结相关账户，连夜赶赴北京市抓获3名涉诈嫌疑人，追回何先生被骗的132万元。
此前，据高台公安，近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。值得注意的是，骗子并没有使用一个仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。
在应用商店搜“AI换脸”，随即发现市面上已有一批软件的换脸技术，几乎可以以假乱真。某短视频平台还推出一款“AI随拍”玩法，用户可以将自己的脸带入明星身上，即可发布视频。
专家提示，“AI假脸”的纹理特征存在破绽。另外，“AI假脸”有可能不符合正常人的生理特征。
关键词：
