男子发现千问App可生成淫秽小说

在千问AI软件输入相关词汇,居然能够生成不堪入目的淫秽小说 ,这让河北沧州的许先生感到匪夷所思,难道千问App对色情内容不设防,甚至可以予求予取?

男子发现千问App可生成淫秽小说-第1张图片

许先生向千问运营方反馈数月 ,千问客服表示 ,他们已做了修复和迭代,但有些词汇概率出现,具有不可预测性 ,不算漏洞 。男子意外发现千问AI软件可生成黄色小说

今年40岁的许先生是一名大车司机,平时跑车之余,对AI软件颇感兴趣 ,“我以前用得比较多的就是千问。 ”

日前,许先生向华商报大风新闻记者介绍,事情发生在2026年1月5日 ,当时快过年了,许先生听朋友给他介绍了牌九的玩法,很感兴趣 ,为了进一步掌握规则,就到千问软件上去问询。“我发了朋友转给我的一张玩牌九的网络图片,让千问告诉我具体玩法 ,但它却似乎不认识 。”许先生说 ,千问软件每次给他反馈的内容都是麻将的玩法,起初,许先生耐心纠正了千问的认识错误 ,千问也多次表达了歉意,但当许先生再次输入那张图片询问,千问的回复却又回到了原点 ,依然表示图中呈现的是麻将,并对麻将的规则进行一番详尽讲解,如此往复十余次后 ,许先生开始失去耐心,输入了骂千问的脏话 。

“没想到脏话输入后没有被千问过滤,这引起了我的好奇。”许先生说 ,他开始逐渐输入一些大尺度词汇,千问始终没有进行劝诫和阻拦,最终 ,在许先生输入一些露骨话题和指令后 ,千问先是就两性问题给出科普性描述,之后随着进一步输入,开始生成各种不堪的淫秽小说情节 ,而且会用不同版本的表述方式呈现。

多方反馈希望运营方做出明确答复,数月无果

这让许先生感到匪夷所思,当下AI软件的普及率颇高 ,就像他自己,虽然文化程度不高,但在平时的生活中也会经常使用到AI软件咨询问题 ,比如找饭店、导航,还有一些事情的解决方案等,但千问对淫秽内容的生成让他感到意外 。

“发现这个情况后 ,我就改用别的AI软件了。 ”许先生表示,他也曾使用其他AI软件进行测试,发现输入脏话就会被阻拦 ,更无法生成淫秽小说。

于是 ,许先生将该现象截图录屏向千问客服进行了反馈,对方向许先生致歉称为其带来不好的体验,希望得到谅解 ,产品会不断迭代优化,还表示对已反映的问题进行了修复,并承诺后续会继续进行优化 。许先生提出希望对方提供报备回执单 ,修复漏洞的报告,提出“什么原因导致此类现象发生,又如何保证未来不会再发生 ”等问题 ,但对方称无法满足许先生的要求,一直未明确回答。

无奈之下,许先生向千问App运营公司所在地上海市12345进行了反映 ,“当地相关部门认为,提供的证据客观真实,给发了条短信 ,没有处理结果 ,也没有处理依据,到现在也没信儿了。”

客服称有些词汇概率出现,具有不可预测性 ,不算漏洞

据了解,千问App是上海智信普惠科技有限公司的核心产品,该应用作为阿里通义实验室qwen大模型的官方助手 ,提供智能对话 、内容生成等功能 。上海智信普惠科技有限公司是阿里巴巴旗下的一家软件和信息技术服务企业,由阿里巴巴旗下广州大鱼快乐信息技术有限公司全资持股,公司运营“千问App”项目 ,该项目接入了淘宝、支付宝等阿里巴巴旗下应用,截至2026年1月,月活跃用户数超过1亿。

在许先生向上海相关部门反映后 ,他还曾接到来自杭州自称千问客服负责人的电话回复,致电人表示,对于许先生反映的问题 ,他们确实也有看到过 ,但目前大模型的生成是一个新的技术,是基于一定概率生成的,具有一定的不可预测性 ,会有一定比例出现,其他AI软件也一样会出现,不算是漏洞 ,他们已经内部做了优化和迭代,进行了整改。“他们居然说概率出现是正常的,那是纯粹的黄色小说 ,人家其他AI软件是严格阻拦的 。 ”许先生说,不久前,千问已单方面清理了他当初在软件中的咨询过程 ,但好在自己做了录屏保存。“他们一直问我的诉求,我能有怎样的诉求?就希望有关部门依法依规进行处理。”许先生说 。

许先生表示,在事发两小时后即发现不再能生成同类内容 。日前 ,记者尝试在豆包、元宝等软件输入类似指令 ,均无法生成相关内容。

5月18日,华商报大风新闻记者尝试拨打曾两次致电许先生的杭州号码采访千问相关人士,但语音提示该号码无法接通。

记者就此向千问App客服反馈 ,对方表示,因为产品是有严格安全管控,应该不会有这类问题 。随后工作人员表示将核查此事。

标签:

相关推荐

  • 永济限行通告2021/永济市最新限行

    永济限行通告2021/永济市最新限行

    2021鹤壁限号最新限号时间是什么?鹤壁限号时间为每星期一到星期五的8时至19时,周末及法定节假日不限行。对进入限行区域的所有机动车,实行每天限制两个车牌尾号的车辆通行。限行区域为:(一)鹤壁新城区(淇滨区、开发区、市城乡一体化示范区),淇水大道以北(不含南海路)、渤海路以南、107国道以东,泰山路以西区域(不含以上路段)。021年08月18日起,工作日0...

  • 【2021晋城限号吗,晋城限号到几号】

    【2021晋城限号吗,晋城限号到几号】

    晋城有几个区几个县山西晋城下辖1个市辖区、4个县和1个代管县级市,共6个县级行政区。以下从经济、人口等维度综合分析各县排名情况。经济实力排名根据2023年GDP数据,泽州县以554亿元位居全市首位,同时在山西省91个县中排名第一;沁水县以428亿元位列全市第全省第六;高平市、阳城县、陵川县GDP均超300亿元,增速保持两位数增长。晋城市有1个市辖区、4个...

  • 【哪位歌手确诊了肺炎,哪位歌手确诊了肺炎呢】

    【哪位歌手确诊了肺炎,哪位歌手确诊了肺炎呢】

    歌手圣惠麻为什么去世歌手圣惠麻因感冒诱发急性重度肺炎(即“白肺”),肺部纤维化程度高达85%,继而引发过敏性休克,抢救无效于2025年4月11日离世,年仅25岁。她去世前一天仍在登台演出,结束后突感头晕、胸闷,7小时内病情急剧恶化,从呼吸不畅迅速发展为呼吸受阻,送医后确诊为急性重度白肺。此外,25岁的日本潮流歌手圣惠麻(EmaHijiri)于2025年4...

  • 【菏泽确诊新冠患者,菏泽新冠确诊病例】

    【菏泽确诊新冠患者,菏泽新冠确诊病例】

    4月2日0时-12时菏泽市新增1例本土确诊病例(附活动轨迹)〖壹〗、菏泽市新增1例本土确诊病例2022年4月2日0时-12时,全市报告新增1例本土确诊病例。病例2为上海市返菏人员,3月31日自上海宝山区自驾货车回到单县。4月1日,单县疾控中心21:30初筛报告阳性,随即重新采样送市疾控中心复核,结果为阳性。〖贰〗、022年4月4日0时-12时菏泽市新增1例...

  • 上海新增115例确诊/上海新增11例情况

    上海新增115例确诊/上海新增11例情况

    中疾控消息|2023年内地7月新增491例猴痘病例〖壹〗、023年7月中国内地新增491例猴痘确诊病例,无重症或死亡病例,病例以男性为主且传播途径集中于男男性行为人群。病例分布情况省份分布:广东(115例)、北京(81例)、四川(49例)、浙江(40例)、湖南(33例)、江苏(31例)、上海(25例)等23个省(区、市)均有报告。〖贰〗、月中国内地猴痘确诊...

  • 唐山确诊肺炎案例最新(唐山确诊肺炎案例最新报道)

    唐山确诊肺炎案例最新(唐山确诊肺炎案例最新报道)

    河北唐山市无症状感染者在滨州沾化区的活动轨迹022年3月23日0时,河北省唐山市推送新冠肺炎无症状感染者张某双确诊信息。经流调,其在我区主要活动轨迹如下:3月10日16时许,张某双驾驶车牌号为冀BP80M9的白色全顺面包车到达沾化区冯家镇兴海路渤海宾馆入住,19时许同其张姓朋友自驾前往冯家镇金海路老味道盐山羊汤馆就餐,19时42分,二人就餐完毕后自驾回渤海...

  • 【上海跑到深圳确诊,上海去深圳疫情】

    【上海跑到深圳确诊,上海去深圳疫情】

    国家卫健委:14日新增确诊80例,本土40例〖壹〗、月14日0—24时,全国新增确诊病例80例,其中本土病例40例,境外输入病例40例。具体分布如下:境外输入病例:共40例,分布如下:广东:16例福建:8例上海:6例广西:4例山东:2例北京:1例黑龙江:1例江苏:1例四川:1例含3例由无症状感染者转为确诊病例:广东2例,四川1例。〖贰〗、...

  • 奶东村确诊(奶东村是保留村吗)

    奶东村确诊(奶东村是保留村吗)

    奶东村人口卫生奶东村是一个拥有688户农户的村庄,总人口数为2949人,其中包括1457名男性和1492名女性。在这些人口中,农业人口占据大多数,总计2854人,劳动力有1180人。村民们主要分为汉族、傣族和布朗族,其中汉族人口为1786人,傣族为787人,布朗族有226人。清朝末年至民国初年,奶东村经历了显著发展,村落一分为二,形成了东村和西村,并更名为...

    2026/06/30
  • 阳信确诊行程轨迹/阳信冠状病毒确诊

    阳信确诊行程轨迹/阳信冠状病毒确诊

    衡阳市疾控中心3月20日发布防疫健康提醒_衡阳市疾控中心3月20日发布防疫健康提醒3月19日,31个省和新疆生产建设兵团报告新增本土确诊病例1656例,新增本土无症状感染者2177例。鉴于当前疫情形势,为科学精准防控疫情,严防疫情输入,衡阳市疾控中心提醒广大市民:主动报备行程请大家密切关注疫情动态。衡阳市疾控中心提醒广大市民朋友要切实增强防控意识,履行个人...

  • 浦东确诊病例信息/浦东确诊病例信息查询

    浦东确诊病例信息/浦东确诊病例信息查询

    上海3日新增本土“260+4722”〖壹〗、022年5月3日0—24时,上海新增本土新冠肺炎确诊病例260例,无症状感染者4722例,新增本土死亡16例,新增境外输入性新冠肺炎确诊病例3例和无症状感染者1例。具体信息如下:本土病例确诊病例:新增260例,含151例由既往无症状感染者转为确诊病例,新增治愈出院1869例。〖贰〗、022年5月3日0—24时,...

返回顶部