AI人工智能行业资讯更多

学术分享丨CMU团队获ICRA 2023人机交互方向最佳论文奖：从人类物理反馈中学习，一种面向对象的一次性适应方法

2023-07-19 17:18

央视网GAITC 2023系列专访丨李洁主任：打造未来科技城的人工智能高地

2023-07-19 17:18

联汇科技OmBot自主智能体正式亮相2023世界人工智能大会

2023-07-18 20:05

学会通知丨中国人工智能学会关于推荐“2023年中国科协海智计划特聘专家”候选人的通知

2023-07-18 17:24

抖音出手规范AI生成内容！

来源：世展网分类：AI人工智能行业资讯 2023-05-10 18:25 阅读：4812

2025年深圳国际人工智能展GAIE

2025-05-22-05-24

距离8天

行业新闻早知道，点赞关注不迷路！

5月9日，抖音发布《抖音关于人工智能生成内容的平台规范暨行业倡议》。

抖音在倡议中表示，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。抖音同时表示，平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。平台将提供虚拟人的注册能力，并对已注册的虚拟人形象进行保护。平台将提供用户反馈渠道，方便用户反馈违规生成内容。具体来看，针对创作者、主播、用户、商家、广告主等平台生态参与者，抖音提出，在抖音应用生成式人工智能技术时，遵循以下规范：1）发布者应对人工智能生成内容进行显著标识；2）发布者需对人工智能生成内容产生的相应后果负责；3）虚拟人需在平台进行注册，虚拟人技术使用者需实名认证；4）禁止利用生成式人工智能技术创作、发布侵权内容；5）禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。抖音称平台也将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。针对这一方面，抖音发布了《关于人工智能生成内容标识的水印与元数据规范》。其中，标识水印规范旨在帮助AI生成工具和创作者可以使用统一样式和位置，来提示用户内容由AI生成；标识元数据规范则是通过规范人工智能生成内容的元数据格式，在相关图片和视频元数据中写入信息，达到行业通用识别的效果。国家政策端“插手”生成式AI伴随大模型AI发展，ChatGPT等类似应用越来越火热，因生成式人工智能引发的社会问题也开始出现。因此AI监管覆盖范围不断扩大、监管技术不断升级、监管主体逐渐国际化。政策方面，国家网信办在上个月也就《生成式人工智能服务管理办法》公开征求意见，这也是国家首次针对生成式AI产业发布规范性政策。根据规则草案，中国国家互联网信息办公室将要求企业在提供此类服务之前通过政府的安全评估，并要求企业对其AI服务产生的内容负责。规则规定，此类服务生成的内容不应包含可能颠覆国家政权、煽动分裂国家或扰乱社会秩序的内容。报道称，这些提议表明，中国政府希望对新技术保持强有力监管。除了上文提到的我国《生成式人工智能服务管理办法》之外，白宫本月刚刚宣布首个AI监管计划，政府承诺发布指导方针草案，以确保对人工智能的使用保障“美国人民的权利和安全”；欧盟也表示希望对AI生成的内容进行强制性的规定，人工智能生成的一切，无论是文本还是图像，都有义务告知它们是由人工智能完成的。安信证券认为，当前对AI生成内容的判别主要可以由两种技术途径来完成：1）通过算法识别AI模型生成内容的特征，从而鉴别相应的内容是否由AI生成。2）通过对AI生成的内容添加特定的标识，来区分相应内容是否由AI生成。值得一提的是，数字水印或许也有望成为有效解决方案的一种。数字水印是将一些标识信息直接嵌入数字载体当中，但不影响原载体的使用价值，也不容易被人的知觉系统觉察或注意。通过这些隐藏在载体中的信息，可确认内容创建者、购买者、传送隐秘信息或者判断载体是否被篡改。OpenAI方面此前也表示，考虑在ChatGPT中添加水印，以降低模型被滥用带来的负面影响。 ▼精彩视频▲ ▼推荐阅读▲