“我不知道上海有一家华山医院，也不知道‘张明远’是谁，（内容）都是AI生成的。”
“我们有500多个账号，每天发一万多条帖文。”
“直到警察找来，我都不知道是哪篇帖子出问题了。”
今年3月，一则内容为“华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅”的图文信息，一度在社交平台和微信群刷屏，造成不良社会影响。
由AI生成、自媒体发布的谣言内容截图
上海公安部门发现这一情况后，立即展开调查：静安公安分局到华山医院询问情况，核实发现该院不仅没有名叫“张明远”的前院长，甚至没有叫这个名字的职工；网安总队利用技术手段开始追溯，消息来源指向某网络信息平台的自媒体账号。最终结果显示，该网帖内容为不实信息，涉嫌造谣。
掌握相关证据后，静安警方将犯罪嫌疑人王某某、郭某某和石某某三人抓获。目前，三人因涉嫌非法利用信息网络罪，被上海警方依法采取刑事强制措施，相关违法账号被依法封禁。
据上观新闻报道，由王某某创立的三人工作室，共控制了 500多个自媒体账号， 日均发帖万余条，累 计发布 不实帖文30余万条。而 这些帖文内容，均由AI改写或生成。他们摸索着平台的流量密码，设置关键词让AI产生“爆款内容”，以此获取分成收益。至于内容的真实性，似乎不在他们的考虑范围内。
“华山医院”“张明远”，都是AI编的
记者：这条谣言是怎么产生的？
王某某：（内容）都是AI生成的。我不知道上海有一家华山医院，也不知道“张明远”是谁。具体是什么内容，到现在我也不清楚，我们是批量采集和发布的。
记者：生成这条谣言时，给AI下了哪些指令？
王某某：有一个网络上的pp，是我们的素材库，可以按照不同领域、阅读量、发布时间等维度，搜索平台的爆款帖文。人工采集这些内容后，我们就让AI软件进行批量改写或生成新内容，之后再用软件发到平台上。
当时，让AI生成这条信息的具体指令，我不记得了。一般来说，我们会输入爆款帖文的原文，然后要求AI变换语序、语气以及需要包含的关键词，生成新的文字内容。另一种，就是用AI的联网功能，让它根据爆款帖文的中心思想，先在网上搜索关联信息，再生成新的文字内容。
记者：你认为自己发布的内容是属于什么性质？
王某某：算是综合的，有些是新闻，有些是事故，有些是观点，主要还是热度榜的话题和内容来分类。
记者：对于AI生成的内容，会审核真伪吗？
王某某：当时真的没有考虑那么多，我想的是，我们发的内容都是别人发过的，只不过做了加工，而且我们也是从平台热度榜单采集的素材，感觉是比较权威的。
站在我们的角度，需要审核的内容，就是根据平台的要求，删除一些敏感词。
说实话，直到警察找来，我都不知道是哪篇帖子出了问题。
日均编造发布上万条帖文
记者：你们会标注内容是由AI生成的吗？
王某某：不会。平台也没有这方面的要求。只要没有敏感词、涉黄涉暴画面这些内容，就能通过平台审核。我没有遇到过平台对文字内容出现违规提示。据我了解，（自媒体）这个圈子里，绝大多人都是这样做的。
记者：如何靠发文获利？
王某某：我们的账号每条帖文在200-500字。我们有4个“大号”，还有500多个“小号”。“大号”是跟MCN合作的机构账号，每个“大号”可以添加“小号”作为子账号，子账号获得的收益再流转到母账号，根据流量情况，每个月从平台分成获益。
记者：收入跟流量的关系是什么？
王某某： 对我们来说，流量就意味着收入。我们每天发布一万多条帖文，内容要有些差异，AI都能完成。然后再用API端口自动发布到不同账号里。
具体的流量说不准，有的帖文有几万阅读量，最高的一条能有十几万。阅读量达到一万，我们就能有5元左右的收益。
从2月底开始到被抓，我们总共有4万多元的收益，但是还要跟MCN机构分成。收入并不高。
曾编造
“某女明星去世后孩子抚养权”相关内容
被平台警示
记者：你有没有观察过，哪些内容比较有流量？
王某某：八卦类的内容，比如明星八卦，社会八卦。还有涉及职场、科技、养老、国际、教育、医疗等这些领域内容，都比较吸睛，流量比较好。
现在想来，像“华山医院前院长”这条，可能重叠涵盖了社会、职场、医疗、国际等领域，所以才得到关注。
记者：之前用AI生成的内容，有被判定为谣言的吗？
王某某：某女明星刚去世时，对于孩子抚养权的问题，我们也用AI生成过内容。后来被平台判定为谣言，有过警示，也被扣分处罚了。
像“已过时效”“标题党”“谣言”这些，都会被平台处罚，但我们还是有侥幸心理。其实， 相比于我们生成发布的内容数量，被平台判别处罚的内容比例非常低。
记者：你认为你们发布的哪些内容算谣言？
王某某：以前没想过这个问题。这几天在反思，我们用AI生成了很多没有事实根据的、带来不良社会影响的内容。
反思流量，“应该有底线”
记者：你是怎么进入自媒体行业的？
王某某：我以前是做电商的，自己没有货源，相当于做别人的代理。但是这两年效益不好，利润低、成本高，然后就想着转换赛道。
后来，互联网圈里的朋友推荐我做自媒体。使用的软件和工具在网上都能找到，方法也有人教，只要花时间进去，就能赚钱，成本很低。
记者：你认为追逐流量需要底线吗？
王某某： 肯定要有底线，不应该胡编乱造或者夸大其词，不应该编造发布虚假信息。我现在认识到了以前做得不足的地方，没有把握好尺度，也没有好好审核。
记者：对于自己做的事情，有什么反思？
王某某：经过警方的教育，我们知道自己错在哪里，也感到非常后悔。其实做这个事没有挣到什么钱。我会接受法律应有的惩罚，吸取教训。
警方解读：“毒流量”是对网络环境的劣化
这一团伙造谣的目的是什么？在网安总队三队队长符斌看来，这一行为主要是为了“养号”涨粉，以便后续直播带货等牟利。
“这是常见‘流量经济’劣化的表现形式。”符斌说，正常账号吸粉、涨粉，都需要时间精力的投入，而此案通过AI编造大量不实、虚假、有害的劣质信息， 这是“AI的幻觉”，是“毒流量”，也是对网络环境的一种劣化。
据悉，目前上海公安机关和头部平台建立了畅通的工作联动机制，通过案件管理合作，及时通报掌握的问题。“我们始终认为，算法必须向善，不能流量至上。”符斌表示。
今年以来，上海公安机关全力开展打击整治网络谣言专项行动，按照“以打开路、以打促治”思路重拳出击，全量清理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。
上海警方将坚决依法严厉打击，持续加强网络生态治理，全力营造清朗有序的网络环境。
来源：话匣子综合自上观新闻、新民晚报
编辑：周洁返回搜狐，查看更多
