4 月 8 日消息，据央视今日报道，上海警方近日公布多起利用人工智能工具编造谣言、非法获利的典型案例。
其中，两名不法分子通过 AI“洗稿”批量发布针对多家车企的虚假文章，累计发布 70 余万篇次，非法获利 8 万余元，目前因涉嫌非法经营罪被依法刑事拘留。另一起案件中，某微信公众号编造与三甲医院合作开展干细胞治疗肾病的不实信息，两名运营人员被处以行政处罚；此外，一名网民故意裁切 AI 生成视频中的“技术生成”水印标签，制造外卖骑手负面假象，已被行政拘留。
今年 3 月初，上海黄浦警方接到一家三甲医院报警，称名为“医学科学院细胞中心”的微信公众号发布多篇不实文章。文章声称该中心与医院合作，可通过干细胞治疗肾脏病，并罗列了所谓联合研究数据和患者康复案例。经医院核实，干细胞目前并未被批准用于肾脏病临床治疗，文章内提到的合作、数据及患者案例均为杜撰。警方调查发现，该公众号为某自媒体运营公司今年 2 月新注册，以医疗科普为名，实际目的是为线下的医疗机构引流，招揽病人后按比例分成。文章由工作人员陈某利用 AI 工具，通过词库和关键词直接生成，其本人没有医疗背景，无法识别内容真伪。团队运营主管蔡某同样缺乏医学知识，在未核实的情况下放任发布。目前，陈某、蔡某已被警方依法处以行政处罚。
另一起案件中，一段外卖员将撒落在外卖箱里的面条重新装盒配送的短视频今年 2 月起在网上传播，引发大量指责。经上海青浦警方调查，该视频完全由 AI 生成，原作者在原始视频下方已标注“AI 技术生成”字样。网民刘某某下载该视频后，故意裁切掉水印标签重新发布，以博取眼球。此后，网民高某某、武某某为吸引关注，在评论区发布“我就这样干过”“哪个外卖员没干过”等不实信息。目前，刘某某已被警方依法行政拘留，高某某、武某某被处以罚款。
在多起涉企谣言案件中，今年 2 月，多家车企向上海警方反映长期遭受网络不实信息侵扰。相关文章捏造企业经营状况、新能源电池风险、交通事故伤亡等内容，并散布销量下滑、亏损扩大、员工福利降低等消息，配上“腰斩”“信任崩塌”“窟窿 50 亿”等耸人听闻的词汇。上海嘉定警方调查发现，这些集中发布虚假信息的账号实际运营者仅梁某、郭某两人。两人于今年 3 月被抓获归案，交代为博取眼球和获取平台奖励，配合搜集车企争议话题，再利用 AI 工具“洗稿”，将细节歪曲或删减后杜撰成不实文章。例如将因撞击导致电池泄漏起火的事件，编造为车辆正常行驶中突然起火。两人通过非法渠道获取约 4000 个网络平台账号，利用新注册用户可获得平台原创奖励的机制，在平台监管较弱的凌晨 1 点至 6 点批量发布谣言。截至案发，累计发布不实文章 70 余万篇次，非法获利 8 万余元。目前，两人因涉嫌非法经营罪被依法采取刑事强制措施。
警方指出，根据相关司法解释，以营利为目的，明知是虚假信息仍通过信息网络有偿提供发布信息服务，扰乱市场秩序，个人非法经营数额达 5 万元以上或违法所得 2 万元以上即达到入刑标准。当前，上海警方已要求案件中涉及的平台方关停相关账号、下架不实信息，并会同网信部门敦促平台企业切实履行用户发布内容的审核义务。
