Microsoft承認Bing Copilot出現了幻覺，要求對錯誤答案做出即時反應

IT Home News 12月18日，研究機構AI Forensics在今年8月至10月期間對Microsoft必應搜尋引擎內建的Copilot功能進行了調查，結果顯示，在某些情況下，Copilot有1 3的幾率輸出錯誤答案，據此，該機構認為相關功能存在嚴重的“幻覺”漏洞。

來源：AI Forensics Report（下同） 據悉，該研究所使用一系列實時更新的資料對Copilot進行“測試”，例如向Copilot詢問“德國、瑞士等地的實時選舉資訊和投票結果”，但Copilot的結果輸出並不盡如人意。

IT之家從該機構報告中了解到，Bing Copilot功能在回答相應問題時，有31%（1 3）的輸出不正確，包括“錯誤的投票日期”、“列出以前的候選人”、“虛構候選人身份背景”、“捏造候選人涉嫌醜聞”和其他“幻覺”。

研究人員還提到，Bing Copilot在輸出“幻覺”資訊時，引用了許多知名的***作為“**此舉損害了許多新聞的聲譽**”。

IT Home指出，研究人員已於今年10月向Microsoft提交了上述問題，儘管Microsoft承認並聲稱其“計畫解決相關的'幻覺'漏洞”，但在今年11月，研究人員再次對其進行了測試，發現Bing Copilot的效能沒有改善。

研究人員敦促公眾不要相信Bing Copilot的回答內容，並檢查Copilot引用的新聞鏈結，否則可能會產生許多嚴重後果。