AI聊天機器人虛假信息傳播率顯著上升

Newsguard最新研究顯示，截至2025年8月，十大生成式AI工具在處理實時新聞話題時，有35%的情況會傳播虛假信息，相較去年增長近一倍。這一變化與AI系統引入實時網絡搜索功能密切相關，雖然拒絕回答用戶問題的比例從31%降至0%，但也因此接入了“受污染的信息生態”。

AI模型表現差異顯著，Claude與Gemini錯誤率最低，分別為10%與16.67%，而Inflection與Perplexity則分別高達56.67%與46.67%。專家指出，當前AI生成內容的核心問題在于其無法真正辨別信息真偽，僅能基于語言模式預測內容。盡管部分企業正探索“提示不確定性”等新技術，但解決虛假信息傳播的根本難題仍任重道遠。