防范AI被用于诈骗，应建立行之有效监管手段

　　长江日报大武汉客户端1月9日讯 “很多专业AI工具为用户提供良好的用户体验，使用的技术门槛越来越低，却被越来越多的不法分子频频滥用。”1月6日，长江日报直播间邀请市政协委员热议AI健康发展和有效监管。直播中，市政协委员、致公党青山区工委主委、武汉科技大学教授卢振明认为，针对采用移花接木手段恶搞或进行广告虚假宣传，不法分子采用合成头像和声音进行诈骗等非法AI使用场景，需要建立一套行之有效的监管手段。

　　直播访谈现场。高亚楠 摄

　　今年两会，卢振明带来了提案《关于加强AI领域伦理治理的建议》。在直播间内，卢振明说，很多专业AI工具为用户提供良好的用户体验，使用的技术门槛越来越低，却被越来越多的不法分子频频滥用。如不法分子采用合成头像和声音进行诈骗；采用移花接木手段恶搞或进行广告虚假宣传，严重侵犯个人肖像权和名誉权；高校也频现学生、教师采用诸如人工智能生成论文的学术不端行为。

　　“AI不可怕，不知道是AI才可怕！”直播中，市政协委员、民建洪山区副主委、武汉理工大学经济学教授赵凯说，AI技术本身没问题，但使用AI的人出了问题就是问题。AI换脸、换声音是一种新事物，但用错了地方，用来从事诈骗等违法行为，导致AI诈骗案件层出不穷。

　　如何防范？例如，在社交平台上，AI虚拟人、AI换脸、AI换声音等AI创作需要强制性标注AI标签，让大家知道这是AI创作，而不是真实的，将接受AI的选择权交给用户。政府管理部门要出台相关AI标识、告知的规定，强制AI创作的传播平台、渠道对其进行标注。

　　1月6日，记者尝试用相关AI换脸APP进行一了一段AI创作，将记者的脸换到了一位姑娘的脸上。APP生成的视频左下角标注有“Generated　by　AI”。记者通过剪辑软件去掉了“Generated　by　AI”，并上传至多个社交平台。记者发现，这些社交平台并未识别其是AI创作视频，也未标注AI相关提示。

　　“希望政府不要等到AI野蛮生长成为毒瘤后再管。”直播讨论中，市政协委员、武汉东科创星管理咨询有限公司董事长朱自芳说，要分清楚AI换脸、换声等创作的本意和行为边界，有的人纯粹用来自娱自乐，没危害，但有的人AI创作后大肆传播，甚至用作违法用途，造成了实际性危害。政府部门要未雨绸缪，做好三点工作：一是从孩子抓起，从家庭抓起，告诉大家，什么是AI创作，什么防范AI诈骗，何为真假评判标准；二是号召所有媒体、自媒体人，肩负起宣传正确使用AI的社会责任；三是要建立一套行之有效的溯源体系和责任体系，当AI被用于违法用途时，可以及时分析出创作者、传播者，并责任到人。

　　（长江日报记者杨荣峰 汪文汉 徐佳）

　　【编辑：陈明】