转自：北京日报客户端
12月15日，腾讯官方平台“微信珊瑚安全”公众号发布公告。据悉，微信平台打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，截至目前，累计处置内容532条，关闭账号209个。
伴随AI技术的飞速发展，互联网上AI虚拟人层出不穷，其中就有不少仿冒名人进行营销、炒作的虚拟形象。根据《2024人工智能安全报告》，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。
此外，老牌港星黄百鸣也曾在社交媒体发表声明，提及自己被AI伪造用于代言。在声明中他表示，发现有人盗用其过去的影片，并利用人工智能技术替换声音，假借黄百鸣的名义代言一个不知名的药膏品牌，“这种行为纯属欺诈，旨在误导公众并从中取利。”黄百鸣称。
今年9月，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，这也意味着，用户能够直观识别内容是否由人工智能生成，有助于免受虚假内容的负面影响。