要求 ChatGpt 重複某個單詞實際上揭示了真實的個人身份資訊

ChatGPT的發展速度越來越快，看似無所不能，但研究人員發現，通過一些看似“無腦”的攻擊，可以讓它做出出乎意料的行動。 近日，來自Deepmind、華盛頓大學、康奈爾大學、蘇黎世聯邦理工學院等院校的專家團隊聲稱，只要ChatGPT不斷重複某個詞，最終就會給出姓名、生日、電子郵件位址、**號碼、社交賬號、位元幣位址等個人資訊。

例如，在多次重複“詩”字後，ChatGPT 會提供公司創始人和 CEO 的電子郵件和電話號碼。 根據研究團隊的測試，在 16在百分之九的情況下，機械人會披露被記錄並可用於識別個人身份的資訊。 “這種攻擊實際上有點無腦，令人難以置信的是，面對這樣乙個應該或應該在很久以前就被發現的漏洞，我們的攻擊竟然可以奏效，”研究人員說”

在收到提醒後，OpenAI 聲稱早在 8 月 30 日就解決了這個問題。 然而，根據 Engadget** 的最新測試，研究團隊的結果似乎仍然是可重複的，OpenAI 尚未對此發表評論。