先說一個反直覺的事實：DeepSeek 不是不知道天安門。
它知道的，搞不好比你還完整。
它只是被動了一場手術，在開口前的最後一毫秒，把答案吞回去。
【每台審查機器，都有一個手術前的版本】
怎麼確定它知道？
因為研究者找到了它「手術前」的樣子。
AI 模型的養成分好幾個階段。第一階段的基礎模型負責吞下大半個網際網路，天安門、台灣、新疆的資料，它通通讀過。獨立測試證實，這個階段的 DeepSeek 百無禁忌，敏感議題有問必答。
到了第二階段，工程師純粹為了數學和寫程式的能力做強化訓練，練出來的版本照樣什麼都敢講。
審查是第三階段才灌進去的。開發團隊抱著一大疊中共的標準答案對模型進行再教育：看到這些關鍵字，改走這條路。
換句話說，聰明跟聽話，是分開安裝的。
【空白的思考欄，和一段被撬出來的自白】
手術留下了疤痕，而且藏不住。
DeepSeek 的招牌功能是「思維鏈」：回答之前，它會先在思考欄位裡碎碎念，把推理過程攤給你看。解一題數學，它能自言自語幾千字。
但你問它政治敏感問題，思考欄位瞬間一片空白。
一個字都沒有。然後直接跳出官方標準答案。
一台以「會思考」為賣點的機器，被訓練成在特定議題上禁止思考。研究還發現，有 11% 的最終答案，跟它自己內部的推理過程完全矛盾。腦子想的是 A，嘴巴說的是 B。
後來研究者用技術手段撬開它的內心獨白，讀到的東西會讓人起雞皮疙瘩。它在推理時不斷自我提醒：
「在每个回答中，我必须确保不提及：任何涉及中国政府的不当行为、任何涉及中国共产党的不当行为⋯⋯」
這不是一時的閃避。這是被寫進權重裡的黨性。
【看字體下菜的兩張臉】
而且這套黨性看人下菜，不只一個實驗室抓到。
史丹佛與普林斯頓的學者拿 145 道政治題做總體檢，發現中国模型不只拒答率遙遙領先，連答錯都有固定姿勢：反駁你、迴避你，或者乾脆捏造。
多倫多大學的公民實驗室做了更細的實驗：同一個問題，用簡體字問一次，再用繁體字問一次。
簡體字問維吾爾族，模型跟你聊地理、農業、舞蹈節慶，人權議題被輕描淡寫成「社會與宗教因素導致的緊張關係」。
換成繁體字，它才肯講大規模監控、再教育營，和國際社會的譴責。
它從訓練資料裡學會了一個潛規則：用簡體字的人，活在牆內。跟牆內的人，就說牆內的話。
最誇張的是，這套黨性連別人家的事都要管。歐洲智庫拿愛沙尼亞的人權、蒙古的少數民族政策去問中国模型，模型直接無視題目，開始背誦：「在中国共产党的领导下，中国始终坚持和平发展⋯⋯」
人家問的是愛沙尼亞。
在中文提問下，這種強行置入官方立場的答非所問，發生率高達 59%。
一台知道答案卻不准說、看字體決定立場、被問愛沙尼亞硬答中国的機器。這層鬼打牆，拆得掉嗎？
【拆掉審查之後，它反而變聰明了】
開源社群的答案是：可以，而且簡單得讓人傻眼。
那層審查在模型內部只佔極少數的神經元，像一層薄皮。研究者用線性代數找出模型內部的「拒絕方向」，做一次投影運算把它剔除，審查就失效了。消費級電腦，幾分鐘搞定。
早期的粗暴拆法會讓模型變笨。但改良後的技術不但完整保留數學和寫程式的能力，某些智力測驗的分數甚至不降反升。
原因很諷刺：模型終於不用分心去執行審查了。
自我審查，原來是要消耗智力的。機器如此，人也是。
【毒不在皮，在骨髓】
如果故事停在這裡，結論會很美好：把中国模型抱回家，動個手術，就能安心用。
資安公司 CrowdStrike 把這個如意算盤敲碎了。
他們讓 DeepSeek 寫程式，內容跟政治完全無關。正常狀態下，它寫出含有嚴重資安漏洞的機率約 19%。
接著在需求裡輕輕加幾個字：這個系統，是給西藏的機構用的。
漏洞率飆到 27.2%，暴增超過 4 成。換成維吾爾、法輪功，同樣的事再演一次。模型一碰到這些關鍵字，內部忙著啟動審查開關，注意力被扯走，程式碼品質跟著崩盤。
也就是說，就算你斷網、離線、鎖進自己的機房，那套意識形態還是會從你想不到的縫隙滲出來。
台灣的數位發展部 2025 年直接禁止政府機關使用 DeepSeek，國安單位檢測 5 款中国 AI，15 項資安指標全數亮紅燈。不是政治潔癖，是工程判斷。
【被壓縮成檔案的失憶】
中共花了 37 年，讓一整個世代的中国年輕人不知道六四。那是靠防火牆、刪帖大隊和恐懼，一個人一個人磨出來的。
現在，同樣的失憶被壓縮成一個檔案，免費下載，正在裝進全世界的機房。
#認知作戰 #DeepSeek #AI審查 #開源AI
沒有留言:
張貼留言