专家：细化技术标准（zhǔn）让“AI数字人”透明化合（hé）规化

　　□ 本报记者 　赵 丽

　　□ 本报（bào）实习生 宋（sòng）昕怡

　　“生西红柿（shì）和生黄瓜不能一起吃了！黄瓜中（zhōng）的分解酶会破坏维生（shēng）素（sù）C，一起吃轻则影响西红柿中维生素C的吸（xī）收（shōu），重则（zé）可能导致腹泻、肠胃不适甚至（zhì）食物中毒。”电话（huà）那头，母（mǔ）亲说得头头是道，电话这头的赵女（nǚ）士却听（tīng）得一头雾水。

　　随即，母亲发（fā）来一（yī）则视频。赵女士（shì）回忆说：“一位满（mǎn）头花白头发、身着白（bái）大褂的‘医生’在视频（pín）里侃侃而谈（tán）‘养生秘籍（jí）’，甚至宣称‘清淡饮食就是（shì）只吃素食，完全不吃肉’。我妈把这个（gè）‘医（yī）生’的话奉为圭臬。”但赵女士仔细（xì）查看后，在视频右下角（jiǎo）发现一串（chuàn）几乎透明的标注——“此（cǐ）视频（pín）由AI辅助生成”。

　　“后来，我妈戴着老花（huā）镜，在我的（de）指点（diǎn）下找了（le）一会儿才看见那（nà）行（háng）字。”赵（zhào）女士无（wú）奈地说，“这（zhè）也不能怪老人，现在AI生成的‘数字（zì）人’泛滥，还难辨真（zhēn）假，实在让人防不胜防（fáng）。”

　　有（yǒu）此困扰的并非只有赵女士一（yī）家。《法治（zhì）日报（bào）》记者近日随（suí）机采访（fǎng）了数十名（míng）路人，至少有七成（chéng）受访者称曾刷（shuā）到过“AI数字（zì）人（rén）”视频，并且“难以分清到底（dǐ）是真人（rén）还是‘数字人’”，而原（yuán）因（yīn）主要（yào）在于“找不到（dào）有效提示”。

　　很多人担忧：真人“数字人”傻傻分不清楚（chǔ），背后（hòu）是肖像（xiàng）权侵权乃至敲诈、诈骗（piàn）等违法（fǎ）犯（fàn）罪的风险隐患。

　　是否数字人难辨别

　　在（zài）重庆（qìng）读大学的郑媛（yuán）浏（liú）览某社交平台时（shí），刷到一则帖子——照片里的女生外（wài）形温婉（wǎn）可人，穿搭清爽时（shí）尚（shàng），很夺人（rén）眼球。郑媛点赞并关注了（le）该账号。

　　但不多时，郑媛却刷到另一名（míng）博主揭露用“AI生成人”起号（hào）的内容（róng），被打假的恰恰是她先前所关注的这个账号（hào）。“我（wǒ）仔细翻阅了那个（gè）女（nǚ）生的账号主页，她并未（wèi）标明使用AI技（jì）术，还在（zài）评论（lùn）区亲切地与其他（tā）用户互动。”面（miàn）对这样的局面，郑媛说自己也“糊涂了”。她后来（lái）观（guān）察了一个多星期，找到了该账（zhàng）号图片（piàn）确为AI生成的证据——有网友在其他（tā）账号上发（fā）现了妆容和衣（yī）着几（jǐ）乎一样的（de）“数字人”，而（ér）人物介绍却完全不同。

　　习（xí）惯（guàn）在直（zhí）播间购物的北京市民李菲说，自己（jǐ）经常误（wù）入“数字人”直（zhí）播间（jiān），“数字（zì）人”主（zhǔ）播侃侃而谈介绍商品（pǐn），手部动作还能随着她说话的（de）节奏不断变动，声音流畅而（ér）自然。

　　“要仔细看才能看到直播间左侧一行（háng）‘现直播（bō）内容为数字人直播，非（fēi）真人（rén）直播’的小（xiǎo）字提醒。”李菲说（shuō），自己（jǐ）现在习惯了进直播间“先找小字”，确认主（zhǔ）播是否（fǒu）为真人，“但真的‘费眼（yǎn）睛’，不是在犄角旮（gā）旯，就是（shì）字体（tǐ）几乎透明，不注意根本看不到（dào）”。

　　袁伟(化名)是（shì）某985高校计算机系研究（jiū）生。他告诉记（jì）者：“现在一些AI大模型生成的图，别说中（zhōng）老年人会误以为真，很多（duō）没怎么接触过AI技术（shù）的年轻人都不见（jiàn）得能分（fèn）辨真假。”

　　他随（suí）即为记者演示（shì），向某（mǒu）AI软件输入指令“帮我生成图片：一个容貌姣好的（de）女（nǚ）性，精细的皮肤纹理（lǐ），室外自（zì）然光”，随即生成的图片与真人（rén）照片相（xiàng）差无几，如果不（bú）是右下角自（zì）带的（de）水印，只让人觉得是一（yī）张普通的美女（nǚ）照片。“如果（guǒ）说早（zǎo）期的AI软件大多不能生（shēng）成自然的手指和人（rén）体比例，现在（zài）技术进（jìn）步（bù）得（dé）很快，生成的手指和人体比（bǐ）例（lì）已经（jīng）比（bǐ）较像样了，更（gèng）加大了分辨的难度。”

　　“这样的AI生成（chéng）图片或视（shì）频，如（rú）果不作（zuò）标识提示，会让很多人信以（yǐ）为真。”袁伟说（shuō）。

　　大量账（zhàng）号未作标（biāo）识

　　记者在某（mǒu）社（shè）交（jiāo）平台（tái）上注意到（dào）一名（míng）为“××AI打（dǎ）假人”的账户，其（qí）发帖称自己（jǐ）将致力（lì）于“揪出纯AI生成的（de）内容博主（zhǔ），帮小白识别真伪”，还表示（shì）“关（guān）注了很多AI生成非（fēi）真（zhēn）实的帅（shuài）哥美（měi）女”。

　　在其关注列表里（lǐ）有300多个账号，记者随机选取（qǔ）了其中20个账（zhàng）号（hào）浏览发现，若没有（yǒu）看到评论区“这是AI吧，手指的细（xì）节很诡异”“背景里的文（wén）字（zì）都是乱码”等留（liú）言，记（jì）者（zhě）第一（yī）反应只以为（wéi）他（tā）们是普通的颜值时尚类博主。

　　这20个（gè）粉丝量（liàng）几百到（dào）几万不等的账号（hào），仅有3个账（zhàng）号在简介中写（xiě）明“虚（xū）拟男（nán）友”“AI”“友情提示视频由虚拟现实技术制作（zuò）”，两个账号（hào）主页的内容经平台审核后（hòu）被打上了（le）“疑（yí）似包含AI创作信息，请谨慎甄别”的标（biāo）签。其余账号（hào）在（zài）简介、内容中并未提及“AI”字眼，平（píng）台的监（jiān）测机制也并未识别到，这些账号甚至还在评论区熟稔（rěn）地与其他用户互动，让自己看（kàn）上去更有“真（zhēn）人感”。

　　在调查过程中，有超（chāo）过一半的受（shòu）访（fǎng）者向记者表示（shì）AI生成的“数字（zì）人”和真人难以分辨，相关的提示也并不（bú）显眼。

　　此外（wài），记（jì）者发现，有人还会特意教人如何绕过平台的“AI打标”。据了解，目前（qián），各（gè）平（píng）台已普遍升（shēng）级AI内容识别系统，要（yào）求对AI生成作品进行显著标注。但在调查（chá）中，有分享（xiǎng）经验的博主表（biǎo）示（shì）花费不到千元（yuán）就（jiù）可以购买所谓的AI工具中预（yù）配置的镜像（xiàng）文件，称用这些（xiē）镜（jìng）像参数（shù）一键生成的虚（xū）拟（nǐ）人形象可以（yǐ）以假乱真，最大限度（dù）规避平台的AI内容强制标注（zhù）机制。

　　细化标准（zhǔn）加大惩处

　　记者梳（shū）理公（gōng）开信息发现，实践中，一些有心人士利用“数字人”形象行不（bú）法之事。

　　据报（bào）道，张文宏（hóng）、雷军等公众人（rén）物形象曾被利用（yòng）生成“AI数字人”，用来带货、恶搞。一些直播间内（nèi），“AI数字人”向中老（lǎo）年人群体虚假宣传保健品，诱导购（gòu）买。更有甚者，一些不（bú）法分子利用（yòng）“AI数（shù）字（zì）人”进行敲诈、诈骗等犯罪。例如，山西（xī）忻州公安（ān）机关工（gōng）作发现，犯（fàn）罪嫌疑人王某某利用AI技术，制作合成“数（shù）字人（rén）”新（xīn）闻视频引（yǐn）流（liú），进而进行有偿发帖、有偿删（shān）帖等（děng）敲诈勒索活动。2024年，江（jiāng）西一名65岁老人到（dào）银行办（bàn）理业务，声（shēng）称（chēng）要（yào）贷款200万元（yuán）给男朋（péng）友“靳（jìn）东”拍戏（xì），后经调查（chá），老人（rén）手（shǒu）机里（lǐ）的“靳东”视频是AI合成（chéng）的。

　　重庆大学网络与大数据研究院副院长罗勇认为（wéi），就价值取向（xiàng）而言（yán），AI产业发展不能凌驾（jià）于网络安全（quán）之上。对于利用AI技术生成的短视频，网络用（yòng）户特别（bié）是未成年人和老年人由于缺乏（fá）必（bì）要的鉴别能力，往往会信以为真，由此可（kě）能产生负面网（wǎng）络舆（yú）情（qíng），甚至对网络安全造成负面影响。

　　据受访（fǎng）专家（jiā）介绍，当前我国已经出台（tái）了《生成式人工智能服务（wù）管理（lǐ）暂行办法（fǎ）》《互联网信（xìn）息服务（wù）深度（dù）合（hé）成管理规定》等法（fǎ）规，对“AI数字人”和AI生成（chéng）内容的（de）标识、数据来源等提出了（le）具体（tǐ）要求。

　　今年3月，国家网（wǎng）信办等四部门联（lián）合发布《人工智能生成合成（chéng）内（nèi）容标识办法》(以下（xià）简称标识办法（fǎ）)，通过（guò）标识提醒用户辨别（bié）虚假信（xìn）息，规（guī）范（fàn）内容制作、传播各环节标识行为，为规范AI生成内容划定红线。该办法将于9月1日（rì）起施行。

　　中（zhōng）国政法大学教授郑飞指出，相关规定一定程度存在（zài）落地难的问题。一（yī）是监管和技术手段有（yǒu）限，难（nán）以彻底发现并纠正违规（guī）行为。例如，一些（xiē）“AI起（qǐ）号”从业者通过预置“镜像（xiàng）参数”生成极为逼真的虚拟人（rén）像，从（cóng）而逃避（bì）平台的强制标（biāo）注要求。而监管部门特（tè）别是基层执（zhí）法部门，通常面临职（zhí）责不清、执法手（shǒu）段和执法力量不（bú）足的问题；二是部分（fèn）平台在一定程度上“管不（bú）了”也“不想管（guǎn）”。“管不（bú）了”在于平台管理能力与技术手（shǒu）段欠缺，尤其是一（yī）些小型平台，缺乏足够的审核（hé）人力和技术支持。“不想管”则是（shì）背后利益驱动。未明显标识“AI数字人”或合成内容，会让受众（zhòng）误（wù）以为是真人（rén）或真实（shí）事件，从而（ér）更（gèng）容易引起人们的兴趣和好（hǎo）奇心，吸引更（gèng）多（duō）的流量和关注（zhù），进而带来更多的商业（yè）利益。

　　“以网（wǎng）络（luò）社（shè）交平（píng）台为代（dài）表的网络服务提供（gòng）者在AI生成内容的应用场景（jǐng）中（zhōng），应当进一步完善用户（hù）使用AI协议规定（dìng），并强化对AI生成（chéng）内容的审（shěn）核（hé）。”罗勇说。

　　郑飞建议，应从明确标识（shí）要（yào）求和加大（dà）责任追究两方（fāng）面（miàn）发力（lì）。标识（shí）办法明确要（yào）求，一旦检测到AI生成（chéng）内容，传播平台应在发布内容周边添加显著提示（shì）标识，并在文件元（yuán）数据中加隐（yǐn）式标（biāo）识，确保（bǎo）全流程可溯（sù）源。在未来落实（shí）过（guò）程（chéng）中，可进一步细化技术标准，比如规定（dìng）标识文字的最小高（gāo）度（dù）、对比度、展示时长等，让（ràng）标识（shí）一目了然（rán）。另（lìng）外，对于不按（àn）规定标（biāo）注的行为，需要严（yán）厉处罚（fá）：除加大（dà）行（háng）政罚款、暂停业务（wù）或纳入（rù）不良信用记录等行（háng）政措施（shī）外（wài），还要（yào）利用法律（lǜ）手段加大威慑。通过明确、显著的标识（shí）标准和更严厉的责任（rèn）追究，才能从根本上震慑违规不标注行（háng）为，实（shí）现（xiàn）“AI数字人（rén）”应（yīng）用的透（tòu）明化、合规化（huà）。