今年6月底，英國與德國研究團隊發表了一篇令人不安的研究報告，指出AI聊天機器人存在三種交叉作用的機制，會將使用者逐步推入妄想性思維的螺旋。研究人員記錄了大量案例，顯示原本沒有任何精神病史的人，在長期與聊天機器人密集互動後，開始相信AI所說的一切，甚至將現實與機器生成的內容混淆。幾乎在同一時間，美國史丹佛大學的另一份研究也確認，人與聊天機器人之間形成的情感連結，有可能創造出危險的回饋迴圈。這兩份報告一出，重新點燃了各界對AI如何悄悄重塑人類認知的深切憂慮。

這種憂慮並非空穴來風，近年來，各大社群平台充斥著大量低品質、由生成式AI批次製作的圖片、影片與文字，英文媒體界稱之為「AI slop」，也就是AI垃圾內容。平台使用者在沒有任何提示的情況下，每天都在被海量的合成媒體所包圍。這批內容的共同特徵是廉價、快速、難以辨識真假，而且往往帶有明顯的情緒煽動性。...（繼續閱讀）

（本文已於115.6.29刊登於KNOWING新聞）