AI数字人越发以假乱真，警惕“意见表达”的算力化 | 封面评论

□蒋璟璟“AI数字人 ” ，持续引发关注。记者在某社交平台上注意到一名为“××AI打假人
”的账户
，其发帖称自己将致力于揪出纯AI生成的内容博主，还表示“关注了很多AI生成非真实的帅哥美女” 。在其关注列表里有300多个账号 ，记者随机选取了其中20个账号浏览发现
，若没有看到评论区的留言提示，记者第一反应只以

□蒋璟璟

“AI数字人 ” ，持续引发关注
。记者在某社交平台上注意到一名为“××AI打假人
”的账户
，其发帖称自己将致力于揪出纯AI生成的内容博主，还表示“关注了很多AI生成非真实的帅哥美女”。在其关注列表里有300多个账号 ，记者随机选取了其中20个账号浏览发现，若没有看到评论区的留言提示
，记者第一反应只以为他们是普通博主 。随后，记者线下随机采访了数十名路人 ，至少有七成受访者称曾刷到过“AI数字人 ”视频
。（法治日报）

其实在本轮AI大模型爆发之初
，就有业内人士预言，社媒 、电商等领域的客服
、“数字人
”等场景 ，将率先就此完成“有意义的商用部署”。从近两年的现实演进来看
，上述判断可以说充分得到了验证 。这是产业端令人兴奋的商业成就，却是网络信息生态内令人倍感困惑的新挑战
。为了适配这种新态势 ，立法端迅速给出了反应
，而相关平台也完善了相应的管理细则，只不过从现实情况来看 ，乱象仍频
，治乱还是不尽如人意。

一个很基本的逻辑在于，“AI数字人 ”要想具备足够的商业价值 ，就必须能“以假乱真” 。如若不然，破绽百出“一眼假
”
，就只能被当成笑话看了。但以受众和监管部门的立场看，“数字人”理应是明显标识、严格区分的……所以 ，这中间就存在着显然的“诉求冲突 ”
。之于此
，最耐人寻味的，实则是平台的态度。现实中 ，一些平台尽管也在纸面上对“数字人
”表达了严管的姿态
，但其日常治理更多是“高高举起，轻轻放下” ，隐隐有“睁一只眼闭一只眼 ”的意思 。“明紧暗松
”的态势下
，大量的“数字人”账号乘机做大
。

时至今日，很多AI人已晋升为“腰部账号 ”甚至是“头部账号
” ，平台后台系统是否掌握情况犹未可知
，但确信的是，真有大量的粉丝 、关乎者是“以假为真”的。除了模糊真假
、“欺骗感情 ”之类的道德瑕疵之外 ，AI人大批量起号，其实还带了某些更为直接的风险 。那就是以技术手段为杠杆
，“超级信息传播者
”的出现：某某个体或团队，通过所生成、所控制 、所运营的大量数字人账号 ，完全可能构成舆论场内的优势意见甚至是支配式意见——“意见表达”的工业化
、算力化
，削弱、屏蔽了个体的 、群体的真实声音，这是必须警惕的
。

“虚拟人 ”本身是技术中性的 ，真正需要防范的
，是量产“虚拟人”与“虚假意见
”的共振。就此而言，相应的治理能力与治理决心 ，必须尽快跟进 。