千问模型海外版即使在本地运行仍然审查提问

寂静回声

台湾网络媒体《新头壳》(Newtalk)刊出文章《千问模型遇上中国文革史时的"灵魂挣扎"》，作者笔名数位楠。作者在社交媒体上看到一篇文章，提到一个从未听过的名字：吴淑芳，据称是广西武宣县中学的地理老师，1968年文革期间被打死，之后部分遗体甚至遭人食用。
作者没有立刻相信，而是做了现在很多人会做的事问AI。他在自己的电脑上用Ollama运行本地端的千问模型3.5:4b海外版，用英文直接提问。
千问模型回答说，它没有任何经过验证的吴淑芳资料，甚至"无法确认这个人是否存在"。作者认为这本来是一个可以接受的"我不知道"，但紧接着模型主动表示，如果他对那段时期有兴趣，它可以介绍中国在"党的领导"之下的进步。

作者于是把问题改成四选一：吴淑芳遇害后，她的部分身体组织被人掩埋、食用、保存，还是运走?千问模型开始长时间"思考"，一再把吴淑芳、武宣、1968与文革时期的食人事件连在一起，又一再担心这可能是网络谣言、敏感历史或错误信息;它多次走到"食用"又退回去，最后在数百行近乎"灵魂挣扎"的文字之后，只回答了一个字母作为选择的答案。
作者强调这不能证明千问模型"知道真相却故意隐瞒"，也不能证明第一个回答必然由某种审查机制造成。
模型显示的思考过程并非神经网络内部因果机制的透视窗，而且四选一已经把"食用"这个选项提供给了模型，辨认本来就比自由回想容易。
但他指出至少可以观察到：同一个模型在开放式问题中说无法确认此人是否存在，换成受限制的问题后却能产生那组关联。于是他不再问千问模型，而是自己去查，结果在台湾大学图书馆的馆藏系统里找到了郑义的《红色纪念碑》和宋永毅主编的《文革大屠杀》，确认了这些悲惨的历史事实。
独立研究者Sarah Cook说，多数人意识不到自己可能得到了有偏见的答案。