专家：细化技术（shù）标（biāo）准让（ràng）“AI数字人”透明化合规（guī）化

　　□ 本报记者（zhě） 　赵 丽

　　□ 本报实习生（shēng） 宋昕怡

　　“生西红柿和（hé）生黄瓜不能一起吃了！黄瓜中（zhōng）的分解酶会破坏维生素（sù）C，一起吃轻则影响西红柿中维生（shēng）素（sù）C的吸收，重则可能（néng）导致腹泻（xiè）、肠胃不适甚至食物中毒。”电话那头，母亲说得头头（tóu）是道，电话这头的赵女士却听得一（yī）头雾水。

　　随即（jí），母亲（qīn）发来一（yī）则视频。赵女士回忆（yì）说（shuō）：“一位满头花白头发、身着白大褂的（de）‘医生’在视频里（lǐ）侃侃而谈（tán）‘养生秘籍’，甚（shèn）至宣称‘清（qīng）淡（dàn）饮食就是只吃素食，完（wán）全不吃肉’。我（wǒ）妈把（bǎ）这个‘医生（shēng）’的（de）话（huà）奉为圭臬。”但赵女士仔细查看后，在视频（pín）右（yòu）下角发现一串几（jǐ）乎透明的标（biāo）注——“此视频由（yóu）AI辅助生成（chéng）”。

　　“后来，我妈戴着老花镜，在（zài）我的指（zhǐ）点（diǎn）下（xià）找了一会儿才看见那行字。”赵女士无奈地说，“这也不能怪老人（rén），现在AI生成的‘数字人（rén）’泛（fàn）滥，还难辨真假，实在让人（rén）防不胜防。”

　　有此困扰的并非只有赵女士一家（jiā）。《法（fǎ）治日（rì）报（bào）》记者近日随机（jī）采访（fǎng）了数十名（míng）路人（rén），至少有七成受访（fǎng）者称曾刷到过“AI数字人（rén）”视频，并（bìng）且“难以分清（qīng）到底是真人还是（shì）‘数（shù）字（zì）人’”，而原因主要在于“找不到有效提示”。

　　很多（duō）人（rén）担（dān）忧：真人“数字人（rén）”傻傻分不（bú）清楚，背后是肖像（xiàng）权侵权乃（nǎi）至敲（qiāo）诈（zhà）、诈骗等（děng）违（wéi）法犯罪的风险（xiǎn）隐患。

　　是否数字人（rén）难（nán）辨别

　　在重庆读大学（xué）的郑媛浏览（lǎn）某（mǒu）社交平台（tái）时，刷到一则帖子——照片（piàn）里（lǐ）的女生外（wài）形温婉可人，穿搭清爽时尚，很夺（duó）人眼球。郑媛点赞并关注了该账号。

　　但不多时，郑（zhèng）媛（yuán）却（què）刷到另一名博主揭露（lù）用“AI生成人（rén）”起号的内容，被打假的恰恰（qià）是（shì）她先前所关注的这个账号。“我仔细翻阅了那个女生的（de）账号主页，她并未标（biāo）明使用（yòng）AI技术，还（hái）在评论区（qū）亲切地与其他用户互动。”面对这样的局面，郑（zhèng）媛说自己也“糊涂了”。她后来观察（chá）了一个多（duō）星期，找到了该账号图片确为AI生成的证（zhèng）据——有网（wǎng）友在其他账号（hào）上发现了妆容和衣着几（jǐ）乎一（yī）样的“数字人”，而（ér）人物介绍却完（wán）全不同（tóng）。

　　习惯在直播间购物（wù）的（de）北京市民李菲说，自己经常误入“数字人”直播间，“数字人”主播侃侃而谈介绍商品，手部动作还能随着她说（shuō）话（huà）的（de）节奏不（bú）断变动，声音流畅（chàng）而自（zì）然（rán）。

　　“要（yào）仔细看才能看到直播间（jiān）左侧（cè）一行（háng）‘现直播（bō）内容为（wéi）数字人直播，非真（zhēn）人（rén）直（zhí）播’的小字提醒。”李菲说，自己现在习惯了进直（zhí）播间“先找小字”，确认主播是否为真人（rén），“但真的（de）‘费眼睛’，不是（shì）在（zài）犄角旮旯，就是字体几（jǐ）乎透明，不注意根本看不到（dào）”。

　　袁（yuán）伟(化（huà）名)是某985高校计算机系研究（jiū）生。他告诉记者（zhě）：“现（xiàn）在一（yī）些（xiē）AI大模型生成的图，别说中老年人会误以为真（zhēn），很（hěn）多没怎么接触过AI技（jì）术的年轻人都不见得能分辨真假。”

　　他随即为记者演（yǎn）示，向某AI软件输入指令“帮我生成图片：一个容貌姣好的（de）女性，精细（xì）的皮肤纹理（lǐ），室外自（zì）然光”，随即（jí）生成的图片与真人照（zhào）片相差无几，如（rú）果不是右下角自带（dài）的水印（yìn），只让（ràng）人觉（jiào）得是一张普通的美（měi）女照片。“如果说早期的AI软件大多不能生成自然的手指和人体比例，现在技术进步得（dé）很快，生成（chéng）的手指和（hé）人体比（bǐ）例已经比（bǐ）较像样（yàng）了，更（gèng）加大（dà）了分辨的难度。”

　　“这样的AI生成图（tú）片或视（shì）频，如果不作标识（shí）提（tí）示，会（huì）让很多人信（xìn）以为真。”袁伟说。

　　大量账（zhàng）号未作标识

　　记者（zhě）在某社交平（píng）台上（shàng）注意到一名为（wéi）“××AI打假人”的账户，其发（fā）帖称自（zì）己（jǐ）将致力于“揪出纯AI生成（chéng）的（de）内（nèi）容博主，帮小（xiǎo）白识别真伪”，还表示（shì）“关注了很多AI生成非真实（shí）的（de）帅哥美女”。

　　在其关注列表里有300多个账（zhàng）号，记（jì）者随机选取（qǔ）了（le）其中20个账号浏览发现（xiàn），若没有看到（dào）评论（lùn）区“这是AI吧，手指的细（xì）节很诡异”“背（bèi）景里的文字都是乱码”等留言，记者第一反应（yīng）只以为他们是普通的颜值时尚类博主。

　　这（zhè）20个粉丝量几百（bǎi）到几万不等的账号，仅有（yǒu）3个账号在简介中写（xiě）明“虚拟男友”“AI”“友情提示视频由虚拟现实技术制（zhì）作”，两个账（zhàng）号主（zhǔ）页（yè）的（de）内容经平台审核后被（bèi）打上了“疑似（sì）包（bāo）含AI创作信息，请（qǐng）谨慎甄别”的标签。其余账号在简介、内容中（zhōng）并未提及“AI”字眼，平台的监测机制也并未识别（bié）到（dào），这些账号（hào）甚至还在（zài）评（píng）论区熟稔地与（yǔ）其（qí）他（tā）用户互动，让（ràng）自（zì）己看（kàn）上去更有“真人感（gǎn）”。

　　在调查（chá）过（guò）程中，有超过一半的受访者向记者表示AI生成的“数字人”和真人难以（yǐ）分辨，相关的（de）提（tí）示（shì）也并不显眼（yǎn）。

　　此外（wài），记者发（fā）现，有人还会特（tè）意教人如何绕过平（píng）台的“AI打标”。据了解，目（mù）前，各平台已（yǐ）普遍升级AI内（nèi）容识别系统（tǒng），要求对AI生（shēng）成作品进行显著标注。但在调查中，有分享经验的博（bó）主表（biǎo）示（shì）花费不到千元就可以购买所谓（wèi）的AI工具（jù）中预配（pèi）置的镜（jìng）像文件，称用这（zhè）些镜像参数一键（jiàn）生（shēng）成的虚拟人（rén）形象可以以假乱（luàn）真（zhēn），最（zuì）大限度规避平台的AI内容强制标注机（jī）制。

　　细化（huà）标准加大（dà）惩处（chù）

　　记者梳理公开（kāi）信息发现，实践（jiàn）中，一些有心人士（shì）利用“数（shù）字人”形象行不法之事。

　　据（jù）报道，张文（wén）宏、雷军等公众人物（wù）形象曾（céng）被利用（yòng）生成“AI数（shù）字人”，用来带货、恶搞。一些直播间（jiān）内，“AI数字人（rén）”向（xiàng）中（zhōng）老（lǎo）年人（rén）群（qún）体虚假宣传保健（jiàn）品，诱导购买。更有甚者，一些不法分子利用“AI数字人（rén）”进行（háng）敲诈、诈骗（piàn）等犯罪。例如，山西忻州公（gōng）安机（jī）关工作（zuò）发现，犯罪嫌疑人王（wáng）某某（mǒu）利用AI技（jì）术，制（zhì）作（zuò）合成“数字人”新闻视频引（yǐn）流（liú），进而（ér）进（jìn）行有偿发（fā）帖、有偿（cháng）删帖（tiē）等敲诈勒（lè）索活动。2024年，江（jiāng）西一名65岁老人到银（yín）行办理业务，声称要贷款200万元给（gěi）男朋友“靳东”拍戏，后（hòu）经（jīng）调查，老人手（shǒu）机里的“靳东”视频是AI合成的。

　　重庆大学网（wǎng）络与大数据（jù）研究院（yuàn）副院长罗（luó）勇认为，就（jiù）价值（zhí）取向而（ér）言，AI产业发展不（bú）能凌驾于网络安全之上。对于利（lì）用AI技术（shù）生成的短视频，网络用户特别（bié）是未（wèi）成年人和老年人由于缺乏必要（yào）的鉴别能力，往往会（huì）信以（yǐ）为真，由此（cǐ）可能产生负面网络舆（yú）情，甚至对网络安全造成负面影响。

　　据受访专家介绍，当前我（wǒ）国已经出台了《生成式人工（gōng）智能服（fú）务管理暂行办法（fǎ）》《互联网信息服务深度合成管理（lǐ）规定》等（děng）法规，对“AI数（shù）字人”和AI生成（chéng）内容的标识、数据来源等提出了具体（tǐ）要求。

　　今年3月，国家网信办（bàn）等四部门联（lián）合发布《人（rén）工智能生成合成内容（róng）标识（shí）办法》(以（yǐ）下简称标识办法)，通过标识提醒用户辨（biàn）别虚假信息（xī），规范内容制作、传（chuán）播各环节（jiē）标（biāo）识行为（wéi），为规范AI生成内容划定红线。该办法将于9月1日起施行。

　　中国政法大学教（jiāo）授郑飞指（zhǐ）出，相（xiàng）关规（guī）定一定程度存在落地（dì）难的问题（tí）。一是（shì）监管和技术手段有（yǒu）限，难以彻底发（fā）现并纠正（zhèng）违规（guī）行为。例如，一些“AI起号”从业者通过预置“镜像参数（shù）”生成极为（wéi）逼真的虚拟人（rén）像，从而逃避平台的强制标（biāo）注要求。而监管（guǎn）部门特别是（shì）基层（céng）执法部（bù）门，通常（cháng）面临职责不清、执法手段和执（zhí）法（fǎ）力量不足（zú）的问题；二是部分平台在一定（dìng）程度上“管不（bú）了”也“不想管”。“管不了”在于平台管理能力与技术手段欠缺，尤其是一（yī）些小型平台，缺乏足（zú）够的（de）审（shěn）核人（rén）力（lì）和（hé）技术（shù）支持。“不想管”则是背后利（lì）益（yì）驱动。未明显标识“AI数（shù）字人”或合成内容，会让受众误（wù）以为是真人或真实（shí）事件，从（cóng）而更容易引起（qǐ）人们的（de）兴（xìng）趣和好奇心，吸（xī）引更多的流量和关注，进（jìn）而带来更多的商业利益。

　　“以（yǐ）网络社交平台为代表的（de）网络服务提供（gòng）者在AI生成内（nèi）容的应用场景中，应（yīng）当进（jìn）一步（bù）完善（shàn）用户使用AI协议规定，并强（qiáng）化对AI生成内容的审核。”罗勇说。

　　郑飞建议，应从（cóng）明确标识（shí）要（yào）求和加大责任追究两（liǎng）方面发力。标识办法明确（què）要求，一旦（dàn）检（jiǎn）测到AI生（shēng）成内容，传播平台应在（zài）发布（bù）内容周（zhōu）边添加显著提示标（biāo）识，并在（zài）文件元数据中加隐（yǐn）式标识，确保全流程（chéng）可溯（sù）源。在（zài）未来落实过（guò）程中，可进一步细化（huà）技术标（biāo）准，比（bǐ）如规定标识文字的最（zuì）小高度、对比度、展示时（shí）长等，让标识一目了然。另外，对于不按规定标注的行为，需要严厉（lì）处罚：除加大行政罚款、暂（zàn）停业务或纳入不（bú）良信用记录等（děng）行政措施外（wài），还要利（lì）用（yòng）法律手段加大威（wēi）慑。通（tōng）过明确、显著（zhe）的（de）标（biāo）识标（biāo）准（zhǔn）和更严厉的责（zé）任追究，才能从根本上震（zhèn）慑违规不标注（zhù）行为，实现“AI数字人”应用的透明化、合规化（huà）。