最近，有网友发来一段视频询问：张文宏是不是带货了？在卖一种蛋白棒的东西，家里的老人信以为真，已经转发了很多群，还自己下单了。
记者核实发现，这个账号名为“般画234”，在视频中“张文宏”反复介绍一种产品，口型是他的，声音也是他的，但稍微懂点AI的小伙伴们一眼就能分辨，这是AI合成的视频！但是老年人哪里懂甄别啊？
记者发现这段视频已在该账号内不可见，但商品橱窗内还保留着蛋白棒售卖的页面，并显示已售1180件商品 ，跟买者达到了315人！
今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动在说道。
民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。
民警向老人进行耐心劝导，通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才醒悟过来。
今年10月老牌港星黄百鸣在社交媒体上发布声明表示，有人盗用他过去的影片，并利用人工智慧技术替换掉原有声音假借自家名义代言一个不知名的药膏品牌，这种行为纯属欺诈，旨在误导公众并从中取利。
民警同志，我被诈骗了，损失了 90 多万元…… 近日，西沽派出所接到一起电信诈骗警情，办案民警杨振和徐梓豪接警后第一时间赶往现场了解情况。
原来，报警人李先生前一天中午收到了一条短信，对方自称是李先生单位领导，要求李先生加其社交软件，详聊加上好友后，对方便以有急事需要资金周转为由，要求李先生向其转账，还保证事后钱款一并返还。
李先生起初并不相信，为了打消李先生的疑虑，对方主动打来视频电话，看到视频那头出现的确实是 领导 ，李先生瞬间就放下了心中的戒备，分三笔向对方汇款了 95 万元。当天下午，李先生与朋友聊天时提起了这件事，愈发觉得自己被骗才选择报警。
民警明白，当务之急就是要守住李先生的 钱袋子 ，及时将被骗资金进行止付，此时已经接近银行的下班时间，如果不及时协调，那么努力就会付之东流，于是杨振、徐梓豪火速联系相关银行，及时对三张银行卡进行止付操作。
由于民警操作及时，李先生的钱款大部分得以追回，银行成功冻结了涉案资金 83 万元，相关钱款正在处理返还流程当中。
得知这个好消息后，李先生激动地握住民警的双手： 你们为了我挽回了八十多万元的损失，太感谢你们了！
警方提示：一些不法分子利用 AI 换脸 技术实施诈骗，已成为一种新骗局。一张 肖像照片 、一段 貌似熟人的视频 都可能被不法分子利用成为诈骗的手段。不法分子首先会通过各种公开的渠道获取受害者 熟人 的个人肖像或视频资料，然后利用 AI 技术，对照片中的面容特征进行学习，从而模仿眨眼、摇头等动作，在与受害者打视频电话的过程中，能够实现以假乱真的效果。要加强对个人信息的保护，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享照片、视频等，尤其涉及 朋友 领导 等熟人要求转账、汇款的，务必通过多种渠道核实确认，不要未经核实随意转账汇款。
蚂蚁集团天玑实验室安全算法专家朱凯建议，通过遮挡结合“动起来”的方式，来识别到底是真人还是“数字人”——比如，在摁鼻子或摁脸的同时左右摇晃头部，这就是“动起来”的一种方式。目前很多“AI换脸”的基础是被模仿者的照片，照片是平面的，所以生成的“数字人”以正面、平面为主。当人脸动起来时，会呈现出脸部的三维结构，算法只能基于平面的照片推测三维结构，按照现有的技术手段，推测结果大多不太理想，从而让人发现漏洞。
此外，可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时，脸部表情、手部动作都很自然；如果是“数字人”，很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面，但“挥手”“比数字”意味更多的动作，目前技术还没办法实时生成完美效果，从而出现破绽。
值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展，“动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。
例如，不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着AI算法参考的数据越多，生成的“数字人”会更真实。
同时，在涉及资金交易等场景下，需要多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。例如，可以询问对方只有当事人之间知道答案的问题、共同经历的事情等。
（齐鲁晚报·齐鲁壹点编辑 袁野 综合 极目新闻、东方网、上观新闻、新闻晨报、央视财经等）