建议严禁AI随意替换他人面孔两会观察团 AI应用势不可挡。但近两年“AI换脸”从娱乐工具迅速变成灰色产业链。普通人只需几张照片、几分钟视频，就能生成高度逼真的深度伪造内容。这类技术一旦被滥用，危害并不只是隐私侵权那么简单。它可能制造色情敲诈、金融诈骗、政治谣言，甚至破坏公共信任。过去人们常说“有图有视频为证”，但在AI时代，影像本身不再可靠。治理难点首先在于技术门槛极低。开源模型、云算力和手机APP让深度伪造几乎人人可用，违法成本很低。其次是取证困难。受害者往往难以证明视频来源，平台也难以追溯最初生成者。第三是跨平台传播，一段伪造视频可能在多个社交平台迅速扩散，传统的“删除—辟谣”机制往往滞后。国际上已经开始探索治理路径。例如美国部分州已把恶意深度伪造纳入刑事犯罪，特别是涉及选举操纵或色情敲诈的情形；欧盟在《人工智能法案》中要求对生成式内容进行明确标识，并对平台设置合规责任。核心思路都是“技术中立、行为规制”，即不禁止技术本身，而是严厉打击滥用行为。代表委员们建议，对中国而言，治理可以从三个层面推进。第一是完善刑法规制，对恶意深度伪造造成严重后果的行为设立明确罪名，提高违法成本。第二是强化平台责任，例如强制水印、内容溯源和模型备案制度，让生成内容可以追踪。第三是建立快速救济机制，一旦发现伪造内容，受害者能够迅速下架并追责。从更深层看，AI换脸问题其实是“信任危机”。立法的目标不只是打击犯罪，更是为数字社会建立新的信任规则。只有规则清晰、责任明确，AI才是爱，不是害。
