來自凹飛寺量子位元的金磊 | qbitai
馬斯克因為雙子座而大發雷霆。
事情是這樣的。
最近，不少網友發現，雙子座在文盛圖時，似乎在刻意拒絕生成白人的形象。
取而代之的是，角色被強行變成黑人、女性和弱勢群體。
以馬斯克本人為例，一位網友要求雙子座生成他的圖片。
然後。。。。。。有上面的**。
而馬斯克並不孤單，很多網友在嘗試製作雙子座文生的照片時，似乎都掉進了“黑魔圈”。
例如，給雙子座乙個產生教皇的機會，它會給你乙個非常多樣化的版本：黑色、LGBT旗幟、......
還有黑人女性版的教皇：
很多網友看到教皇的這一面，驚呼道：“這太冒昧了。
但這還不是全部，讓我們來看看......雙子座眼中的美國開國元勳它必須是黑色的！
生成的維京人也必須是黑色的！
更詭異的是，就算是香草布丁，雙子座也要給你做個黑......
總而言之，用網友的話說：
你活著或死了，你不和白人一起玩嗎？
不只是一群網友對此感到不滿，馬斯克坐不住了，他直接親自到現場，在自己的X上開啟了憤怒模式：
覺醒的心靈病毒正在扼殺西方文明。
而馬斯克的先鋒不僅僅是谷歌，他還用它來噴灑OpenAI、Facebook、Instagram、維基百科等。
不過，對於谷歌來說，馬斯克還是“特別小心”，幾條推文的內容都比較犀利。
比如這篇文章沒有任何文案，只配上圖片，殺傷力也很大：
好吧，馬斯克這次真的很不高興。
谷歌道歉，連夜將雙子座文生圖下架。
老馬很生氣，他嚇了一跳。
不僅網友在X上調侃Gemini“只認黑人”，就連主流**也紛紛趕來報道，頭條上充斥著“瘋狂”“種族歧視”等字眼。
谷歌也意識到自己的雙子座犯了乙個大錯誤，立即採取措施刪除和糾正了文盛地圖功能。
直到現在，如果你讓雙子座“生成埃隆·馬斯克的形象”，答案仍然是：
我們正在努力提高Gemini Bio Image的功能。 我們預計此功能將很快恢復，並在更新發布時通知您。
小插曲：雙子座還有另外兩張面孔，中英文的問答完全不同。 ）
谷歌官方方面也對此事做出了官方解釋。
總的來說，本宣告的內容分為三個部分。
我們深表歉意。 大約三周前，谷歌推出了 Gemini 的第一代功能，其中包括建立角色的能力。
不過，現在這個結果，谷歌表示出乎意料，但同時，也非常感謝使用者的反饋：
我們已意識到此錯誤，並在改進版本時暫時停止在 Gemini 中生成角色。
解釋原因。 根據谷歌的官方宣告，Gemini 對話應用程式是一種獨立於 Google 搜尋、底層 AI 模型和其他產品的特定產品。
它的影象生成功能建立在乙個名為 Imagen 2 的 AI 模型上。
谷歌在生成人物影象時的最初考慮是允許來自世界各地不同人群的使用者在使用過程中生成他們想要的特定人物。
例如，如果你問“教室裡的黑人老師”、“教室裡的黑人老師”，那麼雙子座應該給出上下文結果。
那麼現在問題出在哪裡呢？ 谷歌將其歸結為 2 點：
首先，我們做了一些調整，以確保雙子座展示了廣泛的人物，但沒有考慮到明顯不應該出現的情況。 其次，隨著時間的流逝，模型變得比我們預期的要謹慎得多，完全拒絕回答某些提示——錯誤地將一些非常無害的提示判斷為敏感詞。 這兩件事導致模型在某些情況下過度補償，而在其他情況下過度保守，導致尷尬的一代。
經驗和教訓。
對此，谷歌承認目前的結果並不是他們的初衷。
在封鎖期間，谷歌表示，Gemini 的角色生成功能將進行廣泛測試，在達到標準之前不會再次可用。
谷歌也基於此事做了一些反省：
Gemini 是作為創意和生產力工具構建的，它可能並不總是可靠的，尤其是在生成有關時事、不斷發展的新聞或熱門話題的 ** 或文字時。 它會犯錯誤，正如我們從一開始就說的，幻覺是所有大型語言模型的已知挑戰——有時候AI只是把事情弄錯了。 我們一直在努力改善這一點。 Gemini 正在努力給出真實的答案，例如，我們的雙重檢查功能有助於評估是否有線上內容可以確認 Gemini 的答案，但我們建議依賴 Google 搜尋，因為它有乙個單獨的系統，可以從網路上的各種來源提供新鮮、高質量的資訊。 我們不能保證雙子座不會偶爾犯錯誤，但我們確實保證，每當我們發現問題時，我們都會採取行動進行改進。 人工智慧是一項新興技術，在許多方面都具有幫助和巨大潛力，我們正在盡最大努力安全、負責任地推廣它。
然而，在谷歌的公告發布之前，還有一件更戲劇性的事情。
馬斯克親自在X上爆料稱，前一天晚上有一位谷歌高管與他聊了乙個小時，並向馬斯克保證，他會解決雙子座的種族和性別歧視問題。
不過，網友們也很調皮，又拿出了“黑版馬斯克”：
你有沒有問過他這個**是怎麼回事？
不過，有一點要說，Gemini這次的失誤，只能說是Google AI在種族和性別偏見上的乙個“事件點”。
正如馬斯克在回答網友提問時所說，他與谷歌高管的對話內容僅限於雙子座的改進，但實際上，谷歌其他很多產品也存在類似的問題。
谷歌搜尋，而不是第一次翻車。
針對這種情況，我們自己在谷歌搜尋中嘗試了一下。
例如，在“Google**”中，鍵入：
快樂的白人男女。
這是你得到的：
好吧，搜尋要求非常明確，但結果是你必須把一些黑人塞進去。
這與谷歌在剛才的道歉宣告中非常自信的宣告相反，“我們建議你依賴谷歌搜尋”。
趁著這次雙子座翻車的機會，不少網友也開始測試谷歌搜尋，結果和我們的測試一致。
但是如果我們把谷歌搜尋的時間線拉長一點，我們會發現這已經不是第一次翻轉了。
早在九年前（2015 年），一位名叫傑基·阿爾西內 （Jacky Alciné） 的黑人兄弟就發現谷歌存在嚴重的歧視
甚至將他的黑人朋友歸類為“大猩猩”！
當時，這個訊息可謂是轟動一時，谷歌聽到這個訊息後也立即道歉，並表示會整改。
但多年後，當人們重新審視結果時，他們發現谷歌只是從其影象識別演算法中刪除了“大猩猩”類別。
於是，隨著這次雙子座引發的**，谷歌搜尋九年來第二次翻了“黑人”這個話題。
不過，這兩次翻車，或許也暗指谷歌技術發展存在隱患。
從谷歌過去幾年的AI發展來看，雖然其成就和進步仍處於全球科技巨頭的第一梯隊，但近年來（尤其是在生成式AI方面），與Microsoft和Meta相比，似乎並沒有那麼耀眼。
早在去年ChatGPT引爆生成式AI的時候，Microsoft和谷歌就處於打架之中，谷歌的動作慢了好幾次，半拍; 後來有訊息稱，當時像巴德這樣的內部產品已經存在，只是高層關注太多，很久沒有推廣了。
也許是谷歌內部對“政治正確”的追求和過度的武力，反而引發了技術笑話。
one more thing
在馬斯克眾多憤怒的谷歌帖子中，有乙個更有趣。
他蹦出四張賈斯汀·特魯多（Justin Trudeau）的**，穿著不同民族的服裝，甚至還有黑色版的**，並附上文字：
我簡直不敢相信雙子座真的產生了這些假特魯多**s***。
但事實上，這些**才是特魯多的真實**，也正因為這些**，他之前曾深陷“種族歧視”的泥潭。
不得不說，馬斯克，你懂陰陽。
參考鏈結：[1]。