大财神app(中国)企业百科


    环(huán)球链产业(yè)

    区块链+产业资讯平台
    大财神app和环球链(liàn)产业
    当(dāng)前位置:首页 > 科技教育 > 正文 >

    真细化技术标准让“AI数(shù)字人”透明化合规化|人(rén)“数字人”傻傻分不清

    真细化技术标(biāo)准让“AI数字(zì)人”透明化合规化|人“数字人”傻傻分不清
    2025-07-07 11:17:27 来源:法治日报  
      真人“数(shù)字人”傻傻分不清

      专家:细化技术标准(zhǔn)让“AI数字人”透明化合(hé)规化

      □ 本报记者  赵 丽

      □ 本报(bào)实习生 宋(sòng)昕怡

     

     

      “生西红柿(shì)和生黄瓜不能一起吃了!黄瓜中(zhōng)的分解酶会破坏维生(shēng)素(sù)C,一起吃轻则影响西红柿中维生素C的吸(xī)收(shōu),重则(zé)可能导致腹泻、肠胃不适甚至(zhì)食物中毒。”电话(huà)那头,母(mǔ)亲说得头头是道,电话这头的赵女(nǚ)士却听(tīng)得一头雾水。

      随即,母亲发(fā)来一(yī)则视频。赵女士(shì)回忆说:“一位满(mǎn)头花白头发、身着白(bái)大褂的‘医生’在视频(pín)里侃侃而谈(tán)‘养生秘籍(jí)’,甚至宣称‘清淡饮食就是(shì)只吃素食,完全不吃肉’。我妈把这个(gè)‘医(yī)生’的话奉为圭臬。”但赵女士仔细(xì)查看后,在视频右下角(jiǎo)发现一串(chuàn)几乎透明的标注——“此(cǐ)视频(pín)由AI辅助生成”。

      “后来,我妈戴着老花(huā)镜,在我的(de)指点(diǎn)下找了(le)一会儿才看见那(nà)行(háng)字。”赵(zhào)女士无(wú)奈地说,“这(zhè)也不能怪老人,现在AI生成的‘数字(zì)人’泛滥,还难辨真(zhēn)假,实在让人防不胜防(fáng)。”

      有(yǒu)此困扰的并非只有赵女士一(yī)家。《法治(zhì)日报(bào)》记者近日随(suí)机采访(fǎng)了数十名(míng)路人,至少有七成(chéng)受访者称曾刷(shuā)到过“AI数字(zì)人(rén)”视频,并且“难以分清到底(dǐ)是真人(rén)还是‘数字人’”,而原(yuán)因(yīn)主要(yào)在于“找不到(dào)有效提示”。

      很多人担忧:真人“数字人”傻傻分不清楚(chǔ),背后(hòu)是肖像(xiàng)权侵权乃至敲诈、诈骗(piàn)等违法(fǎ)犯(fàn)罪的风险隐患。

      是否数字人难辨别

      在(zài)重庆(qìng)读大学的郑媛(yuán)浏(liú)览某社交平台时(shí),刷到一则帖子——照片里的女生外(wài)形温婉(wǎn)可人,穿搭清爽时(shí)尚(shàng),很夺人(rén)眼球。郑媛点赞并关注了(le)该账号。

      但不多时,郑媛却刷到另一名(míng)博主揭露用“AI生成人”起号(hào)的内容(róng),被打假的恰恰是她先前所关注的这个账号(hào)。“我(wǒ)仔细翻阅了那个(gè)女(nǚ)生的账号主页,她并未(wèi)标明使用AI技(jì)术,还在(zài)评论(lùn)区亲切地与其他(tā)用户互动。”面(miàn)对这样的局面,郑媛说自己也“糊涂了”。她后来(lái)观(guān)察了一个多星期,找到了该账(zhàng)号图片(piàn)确为AI生成的证据——有网友在其他(tā)账号上发(fā)现了妆容和衣(yī)着几(jǐ)乎一样的(de)“数字人”,而(ér)人物介绍却完全不同。

      习(xí)惯(guàn)在直(zhí)播间购物的北京市民李菲说,自己(jǐ)经常误(wù)入“数字人”直(zhí)播间(jiān),“数字(zì)人”主(zhǔ)播侃侃而谈介绍商品(pǐn),手部动作还能随着她说话的(de)节奏不断变动,声音流畅而(ér)自然。

      “要仔细看才能看到直播间左侧一行(háng)‘现直播(bō)内容为数字人直播,非(fēi)真人(rén)直播’的小(xiǎo)字提醒。”李菲说(shuō),自己(jǐ)现在习惯了进直播间“先找小字”,确认主(zhǔ)播是否(fǒu)为真人,“但真的‘费眼(yǎn)睛’,不是在犄角旮(gā)旯,就是(shì)字体(tǐ)几乎透明,不注意根本看不到(dào)”。

      袁伟(化名)是(shì)某985高校计算机系研究(jiū)生。他告诉记(jì)者:“现在一些AI大模型生成的图,别说中(zhōng)老年人会误以为真,很多(duō)没怎么接触过AI技术(shù)的年轻人都不见(jiàn)得能分(fèn)辨真假。”

      他随(suí)即为记者演示(shì),向某(mǒu)AI软件输入指令“帮我生成图片:一个容貌姣好的(de)女(nǚ)性,精细的皮肤纹理(lǐ),室外自(zì)然光”,随即生成的图片与真人(rén)照片相(xiàng)差无几,如果不(bú)是右下角自(zì)带的(de)水印,只让人觉得是一(yī)张普通的美女(nǚ)照片。“如果(guǒ)说早(zǎo)期的AI软件大多不能生(shēng)成自然的手指和人(rén)体比例,现在(zài)技术进(jìn)步(bù)得(dé)很快,生成的手指和人体比(bǐ)例(lì)已经(jīng)比(bǐ)较像样了,更(gèng)加大了分辨的难度。”

      “这样的AI生成(chéng)图片或视(shì)频,如(rú)果不作(zuò)标识提示,会让很多人信以(yǐ)为真。”袁伟说(shuō)。

      大量账(zhàng)号未作标(biāo)识

      记者在某(mǒu)社(shè)交(jiāo)平台(tái)上注意到(dào)一名(míng)为“××AI打(dǎ)假人”的账户,其(qí)发帖称自己(jǐ)将致力(lì)于“揪出纯AI生成的(de)内容博主(zhǔ),帮小白识别真伪”,还表示(shì)“关(guān)注了很多AI生成非(fēi)真(zhēn)实的帅(shuài)哥美(měi)女”。

      在其关注列表里(lǐ)有300多个账号,记者随机选取(qǔ)了其中20个账(zhàng)号(hào)浏览发现,若没有(yǒu)看到评论区“这是AI吧,手指的细(xì)节很诡异”“背景里的文(wén)字(zì)都是乱码”等留(liú)言,记(jì)者(zhě)第一(yī)反应只以为(wéi)他(tā)们是普通的颜值时尚类博主。

      这20个(gè)粉丝量(liàng)几百到(dào)几万不等的账号(hào),仅有3个账(zhàng)号在简介中写(xiě)明“虚(xū)拟男(nán)友”“AI”“友情提示视频由虚拟现实技术制作(zuò)”,两个账号(hào)主页的内容经平台审核后(hòu)被打上了(le)“疑(yí)似包含AI创作信息,请谨慎甄别”的标(biāo)签。其余账号(hào)在(zài)简介、内容中并未提及“AI”字眼,平(píng)台的监(jiān)测机制也并未识别到,这些账号甚至还在评论区熟稔(rěn)地与其他用户互动,让自己看(kàn)上去更有“真(zhēn)人感”。

      在调查过程中,有超(chāo)过一半的受(shòu)访(fǎng)者向记者表示(shì)AI生成的“数字(zì)人”和真人难以分辨,相关的提示也并不(bú)显眼。

      此外(wài),记(jì)者发现,有人还会特意教人如何绕过平台的“AI打标”。据了解,目前(qián),各(gè)平(píng)台已普遍升(shēng)级AI内容识别系统,要(yào)求对AI生成作品进行显著标注。但在调查(chá)中,有分享(xiǎng)经验的博主表(biǎo)示(shì)花费不到千元(yuán)就(jiù)可以购买所谓的AI工具中预(yù)配置的镜像(xiàng)文件,称用这些(xiē)镜(jìng)像参数(shù)一键生成的虚(xū)拟(nǐ)人形象可以(yǐ)以假乱真,最大限度(dù)规避平台的AI内容强制标注(zhù)机制。

      细化标准(zhǔn)加大惩处

      记者梳(shū)理公(gōng)开信息发现,实践中,一些有心人士利用“数字人”形象行不(bú)法之事。

      据报(bào)道,张文宏(hóng)、雷军等公众人(rén)物形象曾被利用(yòng)生成“AI数字人”,用来带货、恶搞。一些直播间内(nèi),“AI数字人”向中老(lǎo)年人群体虚假宣传保健品,诱导购(gòu)买。更有甚者,一些不(bú)法分子利用(yòng)“AI数(shù)字(zì)人”进行敲诈、诈骗等犯罪。例如,山西(xī)忻州公安(ān)机关工(gōng)作发现,犯(fàn)罪嫌疑人王某某利用AI技术,制作合成“数(shù)字人(rén)”新(xīn)闻视频引(yǐn)流(liú),进而进行有偿发帖、有偿删(shān)帖等(děng)敲诈勒索活动。2024年,江(jiāng)西一名65岁老人到(dào)银行办(bàn)理业务,声(shēng)称(chēng)要(yào)贷款200万元(yuán)给男朋(péng)友“靳(jìn)东”拍戏(xì),后经调查(chá),老人(rén)手(shǒu)机里(lǐ)的“靳东”视频是AI合成(chéng)的。

      重庆大学网络与大数据研究院副院长罗勇认为(wéi),就价值取向(xiàng)而言(yán),AI产业发展不能凌驾(jià)于网络安全(quán)之上。对于利用AI技术生成的短视频,网络用(yòng)户特别(bié)是未成年人和老年人由于缺乏(fá)必(bì)要的鉴别能力,往往会信以为真,由此可(kě)能产生负面网(wǎng)络舆(yú)情(qíng),甚至对网络安全造成负面影响。

      据受访(fǎng)专家(jiā)介绍,当前我国已经出台(tái)了《生成式人工智能服务(wù)管理(lǐ)暂行办法(fǎ)》《互联网信(xìn)息服务(wù)深度(dù)合(hé)成管理规定》等法(fǎ)规,对“AI数字人”和AI生成(chéng)内容的(de)标识、数据来源等提出了(le)具体(tǐ)要求。

      今年3月,国家网(wǎng)信办等四部门联(lián)合发布《人工智能生成合成(chéng)内(nèi)容标识办法》(以下(xià)简称标识办法(fǎ)),通过(guò)标识提醒用户辨别(bié)虚假信(xìn)息,规(guī)范(fàn)内容制作、传播各环节标识行为,为规范AI生成内容划定红线。该办法将于9月1日(rì)起施行。

      中(zhōng)国政法大学教授郑飞指出,相关规定一定程度存在(zài)落地难的问题。一(yī)是监管和技术手段有(yǒu)限,难(nán)以彻底发现并纠正违规(guī)行为。例如,一些(xiē)“AI起(qǐ)号”从业者通过预置“镜像(xiàng)参数”生成极为逼真的虚拟人(rén)像,从(cóng)而逃避(bì)平台的强制标(biāo)注要求。而监管部门特(tè)别是基层执(zhí)法部门,通常面临职(zhí)责不清、执法手(shǒu)段和执法力量不(bú)足的问题;二是部分(fèn)平台在一定程度上“管不(bú)了”也“不想管(guǎn)”。“管不(bú)了”在于平台管理能力与技术手(shǒu)段欠缺,尤其是一(yī)些小型平台,缺乏足够的审核(hé)人力和技术支持。“不想管”则是(shì)背后利益驱动。未明显标识“AI数字人”或合成内容,会让受众(zhòng)误(wù)以为是真人(rén)或真实(shí)事件,从而(ér)更(gèng)容易引起人们的兴趣和好(hǎo)奇心,吸引更(gèng)多(duō)的流量和关注(zhù),进而带来更多的商业(yè)利益。

      “以网(wǎng)络(luò)社(shè)交平(píng)台为代(dài)表的网络服务提供(gòng)者在AI生成内容的应用场景(jǐng)中(zhōng),应当进一步完善用户(hù)使用AI协议规定(dìng),并强化对AI生成(chéng)内容的审(shěn)核(hé)。”罗勇说。

      郑飞建议,应从明确标识(shí)要(yào)求和加大(dà)责任追究两方(fāng)面(miàn)发力(lì)。标识(shí)办法明确要(yào)求,一旦检测到AI生成(chéng)内容,传播平台应在发布内容周边添加显著提示(shì)标识,并在文件元(yuán)数据中加隐(yǐn)式标(biāo)识,确保(bǎo)全流程可溯(sù)源。在未来落实(shí)过(guò)程(chéng)中,可进一步细化技术标准,比如规定(dìng)标识文字的最小高(gāo)度(dù)、对比度、展示时长等,让(ràng)标识(shí)一目了然(rán)。另(lìng)外,对于不按(àn)规定标(biāo)注的行为,需要严(yán)厉处罚(fá):除加大(dà)行(háng)政罚款、暂停业务(wù)或纳入(rù)不良信用记录等行(háng)政措施(shī)外(wài),还要(yào)利用法律(lǜ)手段加大威慑。通过明确、显著的标识(shí)标准和更严厉的责任(rèn)追究,才能从根本上震慑违规不标注行(háng)为,实(shí)现(xiàn)“AI数字人(rén)”应(yīng)用的透(tòu)明化、合规化(huà)。

     
     
    关键词:

    大财神app(中国)企业百科

    大财神app(中国)企业百科