《经济学人·商论》2024-01-30
AI-generated content is raising the value of trust
【首文】有图无真相
人工智能生成的内容正在提升信誉的价值
很快，谁发布了内容将比发布了什么内容更重要
现在只需轻点鼠标，就能生成虚假但逼真的内容。可能会是好玩的东西，比如一个TikTok账号下五花八门的视频中，有一则是人工合成的汤姆·克鲁斯穿着紫色长袍，对着抱着一只小狗狗的（真人）帕丽斯·希尔顿唱《小小舞者》（Tiny Dancer），该账号已经吸引了510万粉丝关注。这也是一个深刻的社会变化：在此之前，人们长久以来都认为图像、视频和音频几乎等同于某物真实存在的铁证。现在，搞电话诈骗的人只需要十秒钟的音频就能假扮某人的亲人求救，人工智能（AI）生成的汤姆·汉克斯和泰勒·斯威夫特在网上为可疑产品代言，有政客露脸的虚假视频也是层出不穷。
根本的问题其实是个老问题。从印刷术到互联网，新技术往往使传播不实信息或冒充可信者变得更加容易。通常情况下，人类会抓住某些破绽来识别猫腻，比如，如果拼写错误太多，就表明某封电子邮件可能是网络钓鱼攻击。至于最近，AI生成的人物图像往往会因为奇怪的手部细节被识破，伪造的视频和音频有时则会出现音画不同步的问题。现在，有悖于常理的内容马上就会引起那些清楚AI本领的人的怀疑。
麻烦在于，识别虚假的速度越发难以跟上造假的速度。随着计算能力和训练数据日益充裕，AI在不断进步。网页浏览器中内置的虚假内容检测AI软件能否识别计算机生成的内容？可惜不能。生成与检测之间的军备竞赛更有利于伪造者。最终，AI模型很可能能够生成像素级还原的赝品——假如它所呈现的事情真会发生，被记录下来的话也就会是这副样子。即便最好的检测系统也可能找不出破绽，无从下手。可以强制受监管的公司在运营的模型里加入水印，但这并不会影响使用开源模型的骗子们，他们在家里的笔记本电脑上就能调整和运行这些模型。……