韩国政府机构承诺将应对社交媒体平台上名人深度伪造博彩广告数量激增的问题,这些广告使用人工智能生成的视频,主角包括IU和孙兴慜等明星。
逼真的视频中,韩国顶级歌手兼演员IU手持运行赌场应用的智能手机。
类似视频中,足球明星孙兴慜用韩语敦促观众下载博彩应用。
演员李政宰和防弹少年团成员RM的深度伪造视频也出现在多个视频分享平台。
这些视频盗用了江原乐园（High1赌场运营商）的标识和营销素材,另有视频则挪用了韩国经济财政部的素材。
深度伪造博彩广告在Facebook泛滥成灾
韩国法律禁止网络博彩,但专家指出,此类广告通过盗用政府及持牌赌场标识与主题,意图“误导民众认为博彩合法”。
韩国媒体Insight报道称,政府消费者权益监管机构韩国消费者院指出,至少38条此类广告在Facebook等平台传播。
这些广告采用“高度精良的视频合成技术”,其中多段深度伪造视频中,名人形象被用于“亲自推荐”某博彩应用。
另外还发现了八段视频,这些视频拼接了MBC和KBS等地面电视台的新闻片段,“伪装成关于博彩网站的官方广播”。
该媒体写道：“这些视频经过了极其精确的合成处理,连声音和口型都难以与真实广播区分开来。”
广告盗用数据并采用深度伪造技术
二十余条广告非法使用政府部门及大型企业运营商的官方标识,并标注“政府认证”“合法运营”等字样。
另有十余条广告未经授权使用知名企业角色形象,涉及东行彩票、聊天应用运营商Kakao及大型便利店品牌。
这些广告暗示赌场与上述企业存在关联。调查发现,广告商“通过巧妙利用算法,在用户首次观看后反复展示相似广告,积极诱骗受害者”。
媒体报道称,这些广告主的身份大多不明。
韩国消费者院表示已将调查结果转交Meta公司,并要求脸书运营商“采取措施阻止重复发布相同或相似广告”。
该机构称计划加强“各大网络平台”上深度伪造赌场广告的监管力度。
某机构发言人表示：“网络博彩本身就是非法的。随着人工智能技术的近期发展,制作冒充名人、新闻机构和公共机构的深度伪造视频变得极其容易。公众必须格外警惕。”
执法部门补充称,公众可向非法博彩行业监测举报中心举报可疑的非法网络博彩案件。
今年8月,江原兰德曾誓言要对一段深度伪造视频的制作者采取行动。该视频显示孙正熙似乎在为一款虚假的江原兰德博彩应用做代言。这家赌场运营商表示,视频制作者位于海外。
