公安部8月10日通报，针对“AI换脸”导致群众被欺诈的问题，公安机关发起专项会战，侦破相关案件79起，抓获犯罪嫌疑人515名。

公安部网络安全保卫局副局长李彤在公安部举行的新闻发布会上介绍，随着人脸识别技术的广泛应用和人工智能技术的进步，人脸识别验证类犯罪伴随产生。犯罪分子用于实施“AI换脸”的物料主要为照片，特别是身份证照片，同时结合人员姓名、身份证号来突破人脸识别验证系统。

为防范和打击此类新型犯罪，公安机关联合国家重点实验室等单位，开展人脸识别与活体检测技术安全测评，覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP，及时发现人脸识别验证系统存在的风险隐患，通报运营主体升级安全保护措施和人脸识别算法。

李彤表示，公安机关还依托“净网”专项行动，组织专项会战，严打泄露身份证照片等图像信息的犯罪源头，破获“AI换脸”案件79起，抓获犯罪嫌疑人515名，有效遏制了该类犯罪势头。

“好友”打电话借钱，你借不借？

“好友”打电话借钱，你借不借？可能大多数人都会谨慎一点，进一步采取验证措施，毕竟，只闻其声而未见其人，担心对方不是李逵是李鬼；如果对方和你视频通话向你借钱呢？相信大家的警觉性就低了很多。但是，最近出现的“AI换脸”新骗局，让“视频借钱”也失去了可靠性——眼见不一定为实。

什么是“AI换脸”？即通过AI人工智能技术，把别人的脸换成自己的脸。将AI换脸和AI换声有机结合，就能合成一段表情自然、效果逼真的虚假视频。如果不法分子利用这样的AI技术行骗，骗局的成功率就会大大提升。这样的担忧并非杞人忧天，而是已经切实发生过。今年5月24日，中国互联网协会发文提示提醒公众，要小心防范“AI换脸”的新骗局。

新技术带来新风险

9.9元一键生成个人写真，效果堪比实体照相馆。近日，一款AI相机快速出圈，在社交媒体刷屏。随着AIGC（生成式人工智能）大模型的应用越来越多，数据非法获取、数据泄露及恶意滥用等法律风险也层出不穷。

先上传20张照片，付费9.9元就可以开始线上排队等待系统生成写真。在“妙鸭相机”走红之际，其触及用户隐私的使用条款引发争议。

“妙鸭相机”用户服务协议的相关授权许可规定：妙鸭相机不但可以使用用户AI生成的内容作为再训练数据，还永久的、不可撤销的、可转让的、可转授权的使用用户上传的内容，哪怕是在元宇宙等虚拟空间。

而后团队致歉，更改用户服务协议并承诺用户上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。

近期，有关AIGC监管文件快速出台。7月13日，网信办联合7部门发布了《生成式人工智能服务管理暂行办法》，其中规定“不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息”。这一规定将于8月15日正式落地。

在用户隐私存在风险的同时，滥用AIGC模型还可能生成欺骗性内容，也引发担忧。

AIGC给出假信息怎么办？8月3日，北京互联网法院发布涉网络暴力案件审理情况报告。报告指出，随着社交网络不断发展以及新技术的应用，新型网络暴力手段更新较快、层出不穷，以人肉搜索、合成虚假照片、制作表情包、传播“AI换脸”视频等形式发生的网络暴力愈演愈烈。

“AI换脸”并不是新物种，它是利用人工智能等信息技术手段，操纵、修改视频、影像数据，将某人的面部更换为他人的面部，但保留身体动作等躯干特征，并在此基础上形成高度逼真的图像、视频等。

规范人脸识别！

国家网信办公开征求意见

为规范人脸识别技术应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律法规，国家互联网信息办公室起草了《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，现向社会公开征求意见。

公众可以通过以下途径方式提出反馈意见：

1.登录中华人民共和国司法部中国政府法制信息网，进入首页主菜单的“立法意见征集”栏目提出意见。

2.通过电子邮件方式发送至：shujuju@cac.gov.cn。

3.通过信函方式将意见寄至：北京市海淀区阜成路15号国家互联网信息办公室网络数据管理局，邮编100048，并在信封上注明“人脸识别技术应用安全管理规定（试行）征求意见”。

意见反馈截止时间为2023年9月7日。

 ▲最新活动▼

云从“国家队”谎言戳破，寄望“从容大模型”救市

马化腾：腾讯不出AI半成品，有些人太急了

传三星电子开发XR芯片，剑指高通

大瓜！涉嫌重婚罪！腾讯前副总裁被拘

寒武纪裁员：软件研发部门为重灾区

戳“阅读原文”报名OFweek 2023（第八届）人工智能产业大会