6月15日，公安部网络安全保卫局公布了10起打击整治网络谣言违法犯罪典型案例。其中一例涉及利用人工智能生成技术编造虚假信息，并冒用人民警察公职人员形象进行商业营销。

今年4月，广西玉林市容县公安局网安大队工作人员在网络巡查中发现一段短视频。该视频利用人工智能技术生成，冒用人民警察公职人员形象，为某娱乐场所进行广告宣传。

容县公安局网络安全保卫大队大队长戴智斌表示，该视频经初步辨识即显现人工智能合成特征，如人物神态、口型均与正常采访画面存在明显差异。经溯源侦查，警方迅速将发布者黄某传唤至容县公安局执法办案中心接受调查。

调查查明，黄某在容县经营一家娱乐场所，其利用人工智能技术制作了上述虚假采访视频，并将视频发布至某社交平台及本地生活群组，意图吸引客流。

戴智斌指出，人民警察制式服装及警务形象属于法定专属标识。黄某的行为违反了《中华人民共和国治安管理处罚法》《中华人民共和国人民警察法》及《中华人民共和国网络安全法》，构成利用网络编造、传播虚假信息，扰乱社会公共秩序，并造成不良影响。

目前，属地公安机关已依法对黄某作出行政处罚。警方提示，网络空间并非法外之地，切勿为博取关注而触碰法律红线。

此类利用人工智能工具生成虚假视频的现象并非孤例。近日，上海市公安局轨交分局民警在工作中发现，有网民发布视频称上海地铁出现顶部墙皮脱落情况，经核查，该视频内容亦为人工智能生成。

6月13日，上海市公安局轨交分局民警监测到，一段标题为“上海地铁突发惊魂一幕！头顶墙皮轰然掉落，早高峰谁还敢安心走？”的视频在网络上广泛传播。视频声称事件发生于6月12日。经核实，6月12日早高峰期间，上海地铁18号线江浦路站确有少量墙皮脱落，但该视频所呈现的夸张画面与实际情况严重不符。公安机关迅速锁定视频发布者——居住在湖北黄石的孙某。

上海市公安局轨交分局治安支队副支队长陆志豪表示，违法行为人孙某为博取流量、吸引粉丝，将相关新闻报道内容输入人工智能系统进行视频生成，最终产出一段夸大事实的视频，并在其个人微信视频号发布，造成了恶劣社会影响。

公安机关认定，孙某利用人工智能工具生成虚假视频，并通过互联网进行散布，误导公众认知，实施了故意虚构事实、扰乱公共秩序的违法行为。依据《中华人民共和国治安管理处罚法》相关规定，上海市公安局轨交分局于今年6月15日依法对孙某处以行政拘留七日的行政处罚。