您現在的位置:首頁 > 產業 > 方案 > 方案評測
詳解歷史上三大人工智能失敗案例
http://www.vfrpfnw.cn 物聯中國
日期:2017-08-01 08:02:31來源:51cto 點擊:1409
核心提示:盡管今天提到的大多數事故與AI本身并無直接聯系,但卻或多或少有AI因素涉及其中。隨著AI技術的不斷改進,我們必須對代表著我們判斷方式的算法擁有充分的信心,因為在未來的實際應用中,算法有可能需要對復雜變量進行決策,甚至決定著人類生命財產能否安全無憂。下面,我們共同關注史上曾經出現的幾個AI失敗案例。T...

盡管今天提到的大多數事故與AI本身并無直接聯系,但卻或多或少有AI因素涉及其中。隨著AI技術的不斷改進,我們必須對代表著我們判斷方式的算法擁有充分的信心,因為在未來的實際應用中,算法有可能需要對復雜變量進行決策,甚至決定著人類生命財產能否安全無憂。

    下面,我們共同關注史上曾經出現的幾個AI失敗案例。

詳解歷史上三大人工智能失敗案例

    Tay——微軟的聊天機器人

    過去一年中,公認的一大AI失敗案例正是微軟Tay:“微軟技術研究部與必應團隊共同開發的聊天機器人,旨在實驗對話交流內容的理解能力。Tay通過輕松愉快的對話與人類用戶進行接觸。Tay進行過的聊天越多,其智能程度就越高,并可為您帶來更具個性化的使用體驗。”

    Tay屬于我們在自然語言理解(簡稱NLU)領域的一次嘗試。其學習算法負責閱讀、解釋并適應用戶提供的書面內容。其目標在于以個性化方式實現人機交互,這也正是眾多技術巨頭希望實現的關鍵性戰略提升。與電影《她》中的假想類似,微軟希望讓Tay擁有與人相近的交流能力。在技術領域,商業成功通常經由三種方式實現:收購、參與與轉換。可以看到,微軟的思路是提供完整的個性化體驗,確保其能夠通過嚴格的圖靈測試,并重新定義我們的參與途徑。

    但是,當Tay開始和人類聊天后,不到24小時,她就被“教壞”了,成為一個集反猶太人、性別歧視、種族歧視于一身的“不良少女”。

    Alexa錯將色情內容提供給兒童

    通過相關視頻可以看到,兒童用戶要求Alexa“玩‘挖金子’”,但Alexa的回應卻是“您希望收聽色情內容……熱辣的小妞與素人美女……”(注:挖金子游戲一詞與女性賣春者相同。)雖然有人認為問題不在AI身上,而是語音命令出了問題。這種說法有一定道理,但可以肯定的是,Alexa本身應當擁有通過機器學習區分語境的能力。

    Inspirobot提供荒謬的建議

    InspiroBot的設計初衷在于提供用戶感興趣的每日格言。然而頗為諷刺的是,其往往無法帶來能夠讓我們的一天充滿活力的正能量言論——甚至有可能以黑色幽默的方式令人陷入低落。

為何失敗

    答案可以歸納為三個方面——準確度、情景與訓練。

    準確度

    AI技術幾乎能夠在一切行業當中帶來實效。然而與反欺詐或者其它一些目標更為明確的場景相比,Tay的失敗主要源自其準確度的缺失。除了語法正確的交互能力之外,聊天機器人需要提供明確定義參數之外的其它回應。由于實際用戶所提供的回應同Tay在實驗中所接觸過的詞匯及語法有所區別,因此很難提供一致且準確的交互結果。

    情景

    對于這里提到的三個AI案例乃至其它各類AI方案,情景認知仍是一大嚴峻挑戰。具體來說,如果大家與Tay聊天、向Alexa咨詢意見或者從InspiroBot處尋求激勵,那么用戶的時間、地點、情感、天氣、身份、職位等因素都會影響到您對于所提供結果的解讀與評價。

    Tay顯然未能充分理解會話中的情景,因為它的訓練與交互未能考慮到多種多樣的情景因素。雖然能夠識別詞匯并在一定程度上建立一致性響應,但卻無法理解在特定背景下的含義與重要度。

    同樣的,InspiroBot同樣遭遇失敗。盡管其努力提供豐富且具有通用性的建議,但卻缺乏對相關內容的理解、意義的把握以及潛在解釋的認知。

    訓練

    大家可能都聽說過,“進來的是垃圾,出去的也只能是垃圾”。Tay并非在內部受控環境下進行訓練,而是被發布至世界范圍,通過與公眾交互進行學習。然而在24小時之內,技術精湛的社區(特別是4chan與8chan)明顯認為向學習算法提供有問題的內容更加有趣。不用說,他們成功毀掉了Tay這位AI領域的未成年人。

    在Alexa方面,情況則有所不同。通過語音命令觸發適當響應,并通過訓練以了解詞匯、語法、音調、語調、節奏、重音以及發音方式的意義。然而,這種將過多因素考慮進來的作法本身令錯誤邊界快速擴大,并最終導致失敗。通過進一步訓練,Alexa應該能夠學會如何識別兒童的聲音,并在必要時提示進行家長控制。

    另外,InspiroBot則可嘗試使用較少的單詞、句型模板以及經過驗證的積極詞匯,從而更輕松地提供真正具有激勵效果的表達。然而,這種作法本身與AI設計目標有所沖突——大量參數過濾機制的存在并不利于機器學習的發展。

    擁抱失敗

    失敗是成功之母,而我們也應當以寬容的心態接受上述AI失敗案例。事實上,對于真正相信并期待著AI技術獲得成功的朋友,大家應當分享、討論、分析并嘗試解決這些失敗難題。您對于哪些現有AI方案感到失望?不妨在評論中聊上一聊。


出處:51cto
鄭重聲明:本文僅代表作者個人觀點,與物聯中國(www.vfrpfnw.cn)無關。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。
分享到:
延伸閱讀
  • 資訊
  • 產業
  • 服務
  • 應用
波音博大玩家