原创 与朋友聊天视频秒变向父母要钱?滥用AI换脸技术2023澳门今晚开乱象调查

调查动机

知名医生张文宏带货蛋白棒?不久前,某视频博主发布的视频中,张文宏医生强烈推销一款蛋白棒,让不少网友信以为真,一时销量近1200件。

张文宏随后作出回应称,视频是AI合成的,“我在发现这事后立即投诉过那个AI合成的视频,但是它的账号一直在换,自己最后也没精力了。这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人”。

目前,该涉事视频已从发布账号中移除,且该账号已被平台永久封禁。

AI换脸技术的应用边界何在?如何打击和治理网络中滥用AI换脸技术的不法行为?对此,记者进行了调查采访。

“爸妈,我现在在医院,着急用钱,麻烦再给我转两万吧……”视频中,女生神态焦急地倾诉着最近遇到的难事,向父母要钱,语气恳切,看上去几乎毫无破绽。

随后,该视频发布者发布了原视频,视频中,女生只是在和掌镜的朋友正常交流对话,所说的内容和神态与上一条视频中的完全不一样。

原来,女生向父母要钱的视频是利用AI合成技术生成的视频。

随着AI技术发展,AI换脸图片和视频成为热门现象,娱乐之余,让人真假莫辨,风险与困扰也不少。

《法治日报》记者近日调查发现,互联网上,不仅有人随意兜售AI合成软件,“手把手教学”,使得制作生成AI“克隆人”视频的技术成了一门生意。还有人利用知名人士视频和声音AI合成新的视频,发在短视频平台上用来卖货。更有甚者,滥用AI换脸技术走上了违法犯罪的道路。

AI合成技术亟待加强监管。多位受访专家建议,完善立法,明确定义深度合成技术的应用范围和法律边界,细化平台、技术提供商、内容制作者及用户的法律责任。同时,构建多元主体协同治理的体系架构,全方位、全环节整治和打击涉AI犯罪活动和网络黑灰产业链。

“克隆人”成了生意

影音清晰真假难辨

在上述利用AI合成技术生成的视频介绍中,作者打出了“AI克隆人”“AI数字人”等标签。据作者介绍,只需提供一段有清晰人脸和声音的视频,就可以在短时间内生成一个和原视频相似的新视频,说话的内容可以自行编辑文本。

生成的视频中人物形态之自然,语言之流畅,让评论区一些网友直呼“恐怖”“真假难辨”。

记者查看视频评论区发现,该视频作者打起了“暗号”——在一些感慨技术逼真的网友评论下方留言“+薇4聊……教学,懂得来”(汉字与数字交替出现,用来代替聊天账号,暗示添加好友私聊)。

记者按照提示,添加其好友询问相关视频及制作方法。昵称“AI小米××”立刻回复道:“想自用还是直接代理赚钱?”

据其介绍,如果是自用,可以充值199元成为“AI幻影××”(某AI“克隆人”生成平台)的2年会员,可以立即生成AI合成视频共计38分钟,不限使用次数。而交纳499元则可以成为代理,号称“享受60%的首次分佣,躺赚20%的复购充值分佣,享受80%的招代理分佣”。

几天后,当记者再次试图打开上述视频时,显示“视频因违规无法播放”,违规原因“疑似为高风险的项目/引流行为”。

“视频里在海边游玩的不是我,而是我的数字人分身。你跟着我操作,就能定制自己的数字人,轻松实现视频流量起号……”在社交平台、短视频平台上,类似以AI数字人、“克隆人”视频引流的帖子有很多。

记者就制作AI数字人的流程咨询一博主。该博主在之前发帖中明确表明“不收费”“不用花钱”,但提出要加入群聊成为会员,他会在群内发布相关操作指南和课程。

此外,在多个网购平台、二手交易平台,AI“克隆人”商品也可以随意买到。记者在某网购平台检索“AI换脸”,显示搜索结果不存在,但更换关键词为“AI换人脸视频软件”后,立刻出现多款此类商品,价格从几元到上百元不等。

记者点进一款名为“AI数字人生成软件短视频制作对口型形象声音克隆定制AI分身”的商品,咨询店主后对方回复称:“使用软件时,您可以上传30秒以上的自己形象视频,然后输入文字,我们××数字人系统就可以给您生成对应口型和克隆您声音的视频了,2分钟左右就可以生成好。您下单后客服会一对一服务到您学会使用为止。”

随即,对方发来一个标价为98元的下单链接,称这是购买该软件的月卡,可以制作约30秒以内的视频32个,“短视频养号一个月足以快速起号”。

瞄准AI不法“商机”

利用技术违法犯罪

除了直接售卖AI换脸技术外,还有人瞄准了AI“克隆人”的不法“商机”。

前不久,天津红桥警方在一起AI诈骗案中,成功追回市民被骗的83万元。天津市民李先生此前收到了一条短信,对方自称是李先生单位的领导,要求加其社交软件详聊。

加上好友后,对方便以有急事需要资金周转为由,要求李先生向其转账,还保证事后钱款一定返还。对方还主动打来视频电话。看到视频那头出现的确实是“领导”,李先生瞬间放下戒备,分3笔向对方汇款95万元。当天下午,李先生与朋友聊天时提起这件事,越想越觉得不对劲,于是报警。

接到报警后,天津警方迅速与银行开启联动机制,及时对3张银行卡进行紧急止付操作。银行成功冻结了涉案资金83万元。

据办案民警介绍,一些不法分子利用AI技术,将他人的脸换成熟人或亲人的脸,冒充诈骗对象的重要关系人,通过合成视频或照片来“以假乱真”,扰乱被诈骗对象的视线进而实施诈骗。

据公开资料,此前,有人在社交平台用AI换脸成富商马云,视频连线获取网友信任,目标受众多为对AI缺乏认知的中老年人,之后再以“做扶贫项目”等为由骗取钱财。还有人在短视频平台上冒充演员靳东与中老年人接触,以需要钱拍戏为由诱使他人转账。

滥用AI换脸技术行不法之实的事件屡有发生。

对此,北京航空航天大学法学院副教授赵精武分析说,利用AI换脸技术进行带货等行为,如果仿冒他人,除了构成民法上对肖像权等人格权的侵害之外,根据情节轻重,还可能构成刑法上的虚假宣传、网络诈骗等犯罪行为。

“而随意售卖AI合成软件的行为,倘若存在主动为犯罪行为人提供相关软件服务等情形,则可能与犯罪行为人构成共同犯罪。”赵精武说。

“如果通过AI换脸技术编造险情、灾情等,还有可能构成编造、故意传播虚假信息罪。”北京盈科(上海)律师事务所数智化建设委员会副主任李悦举例说,前一阵子的“西藏小男孩被埋图”,虽然使用的AIGC技术不是深度合成AI换脸,但也是使用AI技术。据了解,该行为人已被追究行政责任。如果其情节更严重的话,或构成编造、故意传播虚假信息罪。

李悦强调,首先必须明确,技术本身是中立的。AI换脸作为深度合成技术的一种具体应用,虽然存在被滥用的风险,但其本身并无“原罪”。目前,一些平台上的个人“售卖技术”行为,教他人使用开源项目或某些应用,本质上是在利用信息差。然而,如果课程内容专门教授如何突破深度合成应用的内容审核机制,则应当被否定。平台可以通过限流、警告、冻结账号等方式对这些视频内容进行规制。

“虽然AI技术在不断进步,但目前而言,仔细看的话还是能识别AI合成的视频。”李悦说,AI合成视频往往在面部细节上存在较为显著缺陷:微表情缺失(如眼角细纹、嘴角抽动难以捕捉)、光影不匹配(轮廓和阴影过渡不符合光线反射规律)以及皮肤过于光滑(缺乏毛孔、纹理和瑕疵)。在眼神与表情方面,眼球运动机械化(转动不连贯、眨眼频率异常),面部表情僵硬(转换生硬、笑容缺乏真实感)。

“在运动过程中也会出现明显的问题,比如脸部变形等。观看手部动作也是一个比较快速识别的技巧,曾经很长一段时间,AI在处理人手的时候会出现非常多的问题,比如关节畸形等。”李悦说。

“据我观察,AI生成的语音通常更加流畅,语速更快,且较少出现‘额’‘嗯’‘也就是说’等语气词或停顿。”李悦说,虽然声音克隆技术近年来取得了显著进步,几乎能够达到以假乱真的程度。但如果仔细辨别,仍然可以识别出AI生成的声音。毕竟截至目前,尚无任何一款AI能够通过图灵测试。

完善立法强化执法

企业备案内容标识

AI合成技术的广泛应用,需要法治的护航。

据赵精武介绍,我国目前对于AI合成技术已经作出了较为充分的规定,例如《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》等,明确要求深度合成服务提供者落实信息安全主体责任,使用者不得滥用深度合成服务。

李悦介绍说,我国于2023年颁布《互联网信息服务深度合成管理规定》,针对该技术的规范管理迈出了重要一步。在人工智能整体领域,我国也持续推出了一系列相关规定,包括目前正在研讨的人工智能法。

“当前全球范围内AI技术竞赛异常激烈,我国在这一领域仍处于‘追逐者’的位置。因此,我们应更深入地思考:究竟需要构建怎样的人工智能法律体系。这一体系既要能够适应技术快速发展的需求,保障社会公共利益,促进人工智能产业的健康可持续发展,又要助力我国在AI竞赛中提升竞争力,实现从‘追逐者’向‘引领者’的转变,从而在全球AI发展格局中占据更有利的位置。”李悦说。

受访专家指出,目前精准打击利用AI合成技术违法犯罪行为还存在一些难点。

李悦说,技术难题主要体现在匿名性,犯罪分子使用匿名身份和虚拟货币;取证困难,需证明视频真实性、来源及目的,以及跨境性,一些犯罪工具或行为涉及境外。法律难题则包括责任链条长,涉及AI工具提供者、制作者和传播者;主观性认定困难,需证明行为人明知违法,且证据标准高。

“滥用AI技术实施犯罪行为往往与传统犯罪行为(如电信诈骗、传播网络谣言等)相结合,需要公安机关联合各大网络平台采取更为直接、有效的治理措施。”赵精武说。

为此,他建议构建多元主体协同治理的体系架构:公安机关与网信、工信等部门联动执法,全方位、全环节整治和打击涉AI犯罪活动和网络黑灰产业链;执法部门同步更新监管技术,推动人工智能技术在刑事侦查等领域的应用,进而更高效、更精准地打击滥用AI犯罪活动;网络平台积极落实平台主体责任,积极配合执法活动,严格落实网络实名制和黑名单制度,严防各类犯罪行为人通过更换账号登录方式躲避平台监管。

李悦建议,立法方面,需明确定义深度合成技术的应用范围和法律边界,细化平台、技术提供商、内容制作者及用户的法律责任。同时,加大对利用AI技术实施犯罪行为的刑事处罚力度,并完善针对AI合成视频的证据规则,明确其法律效力。

“技术方面,推广AI合成视频的检测工具和溯源技术,研发高效、低成本的检测服务,并向公众开放。利用水印技术对AI生成内容进行标识,便于追踪和识别。”李悦说,此外,可以建立AI企业备案制度,加强对企业资质、数据安全和算法透明度的监管。

李悦提出,进一步强化平台责任,要求平台对用户发布的内容进行审核,及时处理违法信息。制定AI行业行为准则和道德规范,推动行业自律和技术应用的伦理合规性。建立跨国执法合作机制,共同打击跨境AI犯罪,并共享AI犯罪案例和犯罪手法信息,提升全球范围内的防范和治理能力。

“AI技术的宣传教育也很重要。”李悦说,对执法人员、司法人员进行AI技术知识培训,提升其专业能力和执法效率。同时,通过媒体宣传提高公众对AI犯罪的防范意识,普及AI技术的基本知识和风险。(本报记者 孙天骄)

来源:法治日报

  为保证本市道路交通安全与畅通,根据道路交通安全法律法规有关规定,决定自2024年3月2日0时至2024年3月13日24时,全天禁止运载危险化学品(含剧毒化学品)车辆在本市行政区域内道路行驶。保障城市生产生活必需品运输确需进入禁限区域道路行驶的危险化学品车辆,经市交通委员会、市应急管理局、市公安局公安交通管理局联合备案后(备案方式:登录北京市运载危险化学品车辆通行联合备案系统,http://beian.zhihuihuoyun.cn进行备案),按照规定的行驶路线通行。

  前述家长表示,当晚事发后,该幼儿园的园长就带领多名教师前往不同医院探望孩子,并表示当地疾控部门已介入调查。该家长称,幼儿园方面告知可能感染的是诺如病毒。

  进一步完善中国特色证券期货执法司法体系,优化行刑衔接机制,加强执法司法高效协同,加大行政、民事和刑事立体追责力度,全面提升“零容忍”执法效能。

2023澳门今晚开

2023澳门今晚开

2023澳门今晚开,天安门下半旗悼念李克强同志?

206.65MB
|
版本 8.2.5
喜欢 29%好评(9915人)
评论 8203
下载2023澳门今晚开 安装你想要的应用 更方便 更快捷 发现更多
2023澳门今晚开截图0 2023澳门今晚开截图1 2023澳门今晚开截图2 2023澳门今晚开截图3 2023澳门今晚开截图4
详细信息
  • 软件大小: 9185.38MB
  • 最后更新: 2025-02-07
  • 最新版本: 3.2.9
  • 文件格式: apk
  • 应用分类: 角色扮演
  • 使用语言: 中文
  • 网络支持: 需要联网
  • 系统要求: 6.7以上
应用介绍
想不想2023澳门今晚开

一、2023澳门今晚开?
二、2023年澳门正版资料大全经营
三、2023澳门免费精准资料。
四、一码一肖100准吗。
五、澳码精准100%一肖一码最准肖。
六、13262cc马会正版图片。
七、2024年新澳开奖结果查询表。
秦岚我们不缺住好酒店的经历
加载更多
版本更新
本次版本更新将于02月07日至02月07日完成,安卓所有大世界将逐步重启服务器,更新新的版本9.2版。

更新包释放后将逐个一肖一码1OO%中奖澳门重启升级版本,需要重启后版本内容方可正常使用。如出现新功能入口,如“今天澳门六开彩开奖结果2020”点击没有效果,是因为您所在的澳门正版资料免费阅读尚未进行重启升级版本,请耐心等待几分钟。



1、开放澳门今晚必中一肖一码准确9995

(1) 246天天彩免费资料大全化身学会《一肖一码100%中奖》后开启;

(2) 学习《澳门最快最准的资料免费》需要花费5164愿力或702上品灵石;

(3) 《2024澳门六开彩查询记录》有6层,  日本政府多次表示,将在台湾问题上坚持中日联合声明立场,不会支持“台独”。《开罗宣言》明确规定把包括台湾和澎湖列岛在内的日本所窃取的中国领土归还中国,《波茨坦公告》第八条载明《开罗宣言》必将实施。中日邦交正常化时签署的中日联合声明明确规定,日本政府充分理解和尊重中国政府关于台湾是中国领土不可分割的一部分的立场,坚持遵循《波茨坦公告》第八条。希望日方言而有信,以实际行动严守承诺,不要向“台独”势力发出错误信号,不要让“台独”分子误以为搞“台独”会得到日本支持。日本少数政客执意同民进党当局勾连,言必称日台是所谓“有共同价值的亲密伙伴”,要与台湾共同守护“台海和平稳定”,这构成对中国内政的严重干涉,中方对此坚决反对。一旦触及“台独”红线,中方将采取有力措施,坚决维护国家主权和领土完整。,管家婆一码中一肖资料大全,  办好资本市场,必须坚持市场化法治化改革方向,加快上市公司监管、证券公司监管、证券投资基金监管、债券监管等各领域立法修法,及时评估完善业务规则,从制度上保障资本市场良法善治。

(4) 今晚新澳彩开奖结果查询看不懂,  四、问:人员往来对中日经济合作而言不可或缺。中国颁布《反间谍法》后,一些日本商务人士在中国被拘押,引发日本国内担忧,您对此怎么看?

(5) 澳门最新开奖是什么,  我记得去年3月抵达日本履新时,日本媒体在机场问过我同样的问题,我的回答是努力维护发展健康稳定的中日关系,因为这符合两国人民的根本利益。近一年来,我怀着这样的信念和愿望,同日本各界人士广泛接触,努力推进中日各领域交流合作。对于两国之间存在的问题,我始终主张按照中日四个政治文件确立的各项原则妥善管控处理。这不仅是过去两国关系重建发展的宝贵遵循,也是未来行稳致远的根本保障。

(6) 管家婆特一肖必出特一肖,  从盘面上看,半导体产业链爆发,光刻机方向领涨;氢能、机器人、锂矿、算力、新能源车、AI应用题材表现活跃。市场逾5200股上涨,成交额突破万亿元。
加载更多
评论
  • YYH7049893 3天前
    有人在玩2023澳门今晚开吗?  前述家长表示,当晚事发后,该幼儿园的园长就带领多名教师前往不同医院探望孩子,并表示当地疾控部门已介入调查。该家长称,幼儿园方面告知可能感染的是诺如病毒。
  • YYH7443081 36天前
      最后,我期待日本经济界客观准确看待中国发展前景,对中日经贸合作保持定力,增强信心,加大投入,相信你们会在中国市场上取得更大成功!香港最快开奖结果我下不了啊?为啥?
  • YYH8140404 81天前
      中国经济的底气来自于多个方面。一是有社会主义市场经济的体制优势,既发挥市场经济的长处,又发挥社会主义制度的优越性,为中国经济长期稳定发展提供了制度保障。二是有超大规模市场,中国人口达14亿,中等收入群体超过4亿人,未来十几年将达到8亿人,消费需求广阔且增长潜力巨大。三是有配套完整的产业体系,中国是唯一拥有联合国产业分类中全部工业门类的国家,2022年制造业增加值占全球比重约30%,产业体系配套完整的供给优势对中国经济保持强劲内生动力发挥重要作用。四是有大量高素质劳动力。中国的“人口红利”正在向“人才红利”提升,人才资源总量、研发人员总数均居全球首位,高技能人才超过6000万,每年1000多万大学生走入社会,这些都是中国发展的独特优势。五是绿色转型卓有成效,中国过去10年以年均3%的能源消耗增速支持了6.6%的经济增长,是全球能耗强度降低最快的国家之一,“绿色经济”已不是赔钱经济,而已成为新的增长源。六是科技创新能力不断增强,高新技术企业数增加至约40万家,独角兽企业数量居世界第二,2023年全年发明专利授权量92.1万件。综合上述因素,我们对中国经济充满信心。2023澳门六开彩查询记录
  • YYH9343890 76天前
      2024年如何进一步推动经济回升向好?中央经济工作会议定下了“稳中求进、以进促稳、先立后破”的总基调。稳是大局和基础,就是要多出台有利于稳预期、稳增长、稳就业的政策。进是方向和动力,就是要在转方式、调结构、提质量、增效益上积极进取,不断巩固稳中向好的基础。先立后破是对稳和进的统筹兼顾,关键是做好新旧模式、新旧动能之间的衔接和切换。我们正在根据上述方针出台财政、金融、产业等一系列政策。我们将坚持高质量发展这一首要任务,持续推动经济实现质的有效提升和量的合理增长,把中国式现代化的蓝图一步步变成现实。下载澳门资料大全
  • YYH4197439 46天前
      中国银河证券表示,1月底时我们认为2024年有望在国内外多方面利好下迎来信心的重拾、吸引资金流入,2024年A股将迎来震荡向上的修复行情。龙年首个交易日开始,在假期资产表现+亮眼的消费与信贷数据共振下,A股大幅上涨。3月初将召开两会,考虑到通常A股在两会前市场多数呈现积极的表现,重点领域会获得较高的超额收益如新兴领域或政策。政策端是重点聚焦的关键点之一,如科技主线及新质生产力概念。3月底开始进入年报及一季报披露期,行业景气度预期将是影响板块间相对表现的关键。3月配置的投资策略应当聚焦受益于有业绩预期+有两会政策利好预期板块里的低估值价值股+成长型价值股。3月我们建议战略性布局科技、上游原材料、电力等板块里的价值股。2024新澳门002期管家婆
  • YYH9205466 69天前
      去年11月,习近平主席和岸田首相在旧金山举行会晤,重新确认全面推进中日战略互惠关系,为两国关系改善发展指明了前进方向。双方应共同努力,以两国领导人重要共识为指引,推动中日关系沿着正确轨道持续改善发展,共同构建契合新时代要求的建设性、稳定的中日关系。澳门今晚必中一肖一码2023开
  • YYH5847593 50天前
      办好资本市场,必须坚持市场化法治化改革方向,加快上市公司监管、证券公司监管、证券投资基金监管、债券监管等各领域立法修法,及时评估完善业务规则,从制度上保障资本市场良法善治。2023年澳门今晚必开一肖一特
  • YYH3038925 61天前
      吴江浩:这是我第三次来日本常驻,上一次是2003年到2008年。时隔10多年重返日本工作,深切感受到中日两国都发生了很大变化,但更大的变化是我们所处的世界正在经历剧烈动荡。中日之间利益融合,面临重要合作机遇,同时受到国际形势特别是外部因素干扰,各种新老问题交织凸显。这是我们过去未曾遇到的局面,给双方运筹中日关系带来新困难、新挑战。澳门六开奖结果2023开奖记录查询网站