神譯局是36氪旗下編譯團隊，關(guān)注科技、商業(yè)、職場、生活等領(lǐng)域，重點介紹國外的新技術(shù)、新觀點、新風(fēng)向。

編者按：從新興技術(shù)的應(yīng)用進程來看，Gartner的炒作周期曲線還是挺準的。人工智能經(jīng)過前幾年的炒作之后，在對大眾有關(guān)鍵影響的應(yīng)用上，這項技術(shù)正在被潑冷水。在無人駕駛、社交媒體內(nèi)容審核以及醫(yī)療保健上，人類還不能放心交給AI。原因是什么？AI還不夠智能，夸大其詞的炒作太多，研究人員把太多的注意力放在了模型而不是數(shù)據(jù)上。到底什么時候AI才能達到預(yù)期？不知道。本文來自編譯。

劃重點：

人工智能在無人駕駛、社交媒體、醫(yī)療保健等關(guān)鍵應(yīng)用上未達預(yù)期

人工智能未達預(yù)期的原因在于技術(shù)營銷的夸大宣傳以及人工智能科學(xué)家對數(shù)據(jù)的忽視

但大量資金仍源源不斷地涌入人工智能領(lǐng)域

Facebook聯(lián)合創(chuàng)始人馬克·扎克伯格與特斯拉的首席執(zhí)行官埃隆·馬斯克，這兩個人有什么共同點？兩人都在跟一些大問題纏斗，而這些問題至少部分是源于對人工智能系統(tǒng)的信任，但后者辜負了這份信任。扎克伯格要應(yīng)付沒能阻止有害內(nèi)容傳播的算法；馬斯克的軟件的駕駛技術(shù)還沒能達到他經(jīng)常許下的承諾。

從他們遇到的問題我們可以吸取什么教訓(xùn)？人工智能還沒做好準備去迎接黃金時段。而且，也很難知道什么時候能準備好。公司應(yīng)該考慮把注意力放在形成高質(zhì)量的數(shù)據(jù)——而且是大量這樣的數(shù)據(jù)上——同時雇用人工來完成人工智能還沒做好準備的工作。

深度學(xué)習(xí) AI 系統(tǒng)原來是想大致模擬人腦，現(xiàn)在這種系統(tǒng)已經(jīng)可以發(fā)現(xiàn)腫瘤、駕駛汽車還有寫作，在實驗室環(huán)境下，它們展現(xiàn)出驚人的結(jié)果。但問題就在這兒。在不可預(yù)測的現(xiàn)實世界里面應(yīng)用這種技術(shù)時，人工智能有時候會達不到預(yù)期。當有人吹噓它可以用于醫(yī)療保健等高風(fēng)險應(yīng)用時，這種情況令人擔憂。

就像最近一名舉報人披露的內(nèi)部文件所揭示的那樣，社交媒體的風(fēng)險也很高，社交媒體的內(nèi)容可能會影響到選舉，并造成心理健康障礙。但 Facebook 對人工智能的信心在自家的網(wǎng)站上表露得很明顯，網(wǎng)站往往先突出介紹自己的機器學(xué)習(xí)算法，然后才會提到自己還有一支龐大的人工審核隊伍。2018 年的時候，扎克伯格還曾告訴美國國會，人工智能工具可以“大規(guī)?！钡刈R別有害內(nèi)容。在發(fā)現(xiàn)裸體以及恐怖主義相關(guān)內(nèi)容方面，這些工具做得不錯，但仍然難以阻止錯誤信息的傳播。（2）

問題在于人類的語言總是在變。反疫苗活動人士用類似輸入“va((ine”）之類的技巧來避免被發(fā)現(xiàn)，而私人槍支銷售商則在 Facebook Marketplace 上發(fā)布空箱子的圖片，然后附上“PM me”（私信我）的文字。旨在阻止違規(guī)內(nèi)容的系統(tǒng)被騙了，更糟糕的是，AI 還經(jīng)常推薦這類內(nèi)容給用戶。

這也就難怪聘請來給 Facebook 的算法提供支持的約 15000 名內(nèi)容審核員工作會過量。去年，紐約大學(xué)斯特恩商學(xué)院曾進行過一項研究。研究建議，如果 AI 不能勝任內(nèi)容審核這項任務(wù)的話，F(xiàn)acebook 應(yīng)該將這些員工增加一倍至 30000 人，這樣才能作為帖子的監(jiān)控。 《數(shù)學(xué)殺傷性武器》（Weapons of Math Destruction）的作者凱茜·奧尼爾（Cathy O’Neil）十分直截了當，她說 Facebook 的人工智能“沒用”。扎克伯格也告訴國會議員，由于語言的微妙，人工智能很難對帖子做出正確的審核。

馬斯克對人工智能的過度承諾更是已經(jīng)變成傳奇。 2019 年，他告訴特斯拉的投資者說，自己“很有信心”，很快就會有 100 萬輛 Model 3 無人駕駛機器人出租車上路。什么時候：2020 年。現(xiàn)在2021年就快過去了，特斯拉客戶目前得到的只有支付 10000 美元購買特殊軟件的特權(quán)。什么特殊軟件？有朝一日（又叫做天知道什么時候）可提供全自動駕駛功能的特殊軟件。直到那時，汽車才可以自行停車、變道，駛上高速公路，只是偶爾才會出現(xiàn)嚴重錯誤。馬斯克最近在一條推文中也承認，通用自動駕駛技術(shù)是“一個難題”。

更令人驚訝的是：人工智能在醫(yī)療保健方面也一直表現(xiàn)不佳，本來這個領(lǐng)域?qū)τ贏I技術(shù)而言是最有希望的。今年早些時候，《自然》雜志上的一項研究分析了數(shù)十種旨在檢測 X 射線以及 CT 掃描當中存在的 COVID-19 疾病跡象的機器學(xué)習(xí)模型。研究發(fā)現(xiàn)，由于各種缺陷，沒有一種模型可用于臨床環(huán)境。上個月發(fā)表在《英國醫(yī)學(xué)雜志》（British Medical Journal）上的另一項研究發(fā)現(xiàn)，94% 的人工智能系統(tǒng)在掃描乳腺癌征兆的準確度上低于放射科醫(yī)生個體的分析。 該研究的負責(zé)人，華威大學(xué)人口健康教授泰勒-菲利普斯（ Sian Taylor-Phillips ）說：“大量炒作說[放射學(xué)人工智能掃描] 時代即將到來，但從某種程度來說先到的是炒作而并不是結(jié)果?！?/p>

政府顧問將根據(jù)她的研究結(jié)果來決定此類人工智能系統(tǒng)是不是利大于弊，并因此可供使用。就這方面而言，危害似乎并不明顯。畢竟，用于發(fā)現(xiàn)乳腺癌的人工智能系統(tǒng)在設(shè)計上過于謹慎，導(dǎo)致漏報腫瘤征兆的可能性要高于誤報。但是，即便乳腺癌篩查的召回率（美國為 9%，英國為 4%）僅增加很小的百分比，也意味著成千上萬的女性因誤報而變得更加焦慮。泰勒-菲利普斯說：“也就是說，就為了實施新技術(shù)，我們接受了對被篩查女性的傷害?！?/p>

出現(xiàn)錯誤的似乎不僅限于少數(shù)研究。 AI 市場情報公司 Cognilytica 的執(zhí)行合伙人凱思林·沃爾克（ Kathleen Walch ）說：“幾年前，大家對 AI 把守放射科的第一道關(guān)抱有很大希望和炒作。但現(xiàn)在我們看到，人工智能在檢測這些異常方面并沒有提供任何有用的幫助?！?/p>

盡管如此，這些危險信號都沒能阻止大量資金不斷涌入人工智能領(lǐng)域。根據(jù)追蹤私人資本市場的 PitchBook Data的數(shù)據(jù)，在經(jīng)過一段時間的穩(wěn)步攀升之后，全球?qū)θ斯ぶ悄艹鮿?chuàng)企業(yè)的風(fēng)險資本投資在過去一年出現(xiàn)了飆升。根據(jù)彭博社對文字記錄的分析，在過去十年的時間里，企業(yè)財報電話會議提到“人工智能”的次數(shù)一直在穩(wěn)步上升。

“人工智能”是最近幾年的熱詞

可是既然有這么多的投資，為什么人工智能還沒有達到我們希望的狀態(tài)？部分問題在于技術(shù)營銷的夸大宣傳。但人工智能科學(xué)家本身也可能難辭其咎。

人工智能投資熱也高燒不退

這些系統(tǒng)要取決于兩樣?xùn)|西：能用的模型，以及用于訓(xùn)練該模型的基礎(chǔ)數(shù)據(jù)。為了開發(fā)出可用的人工智能，程序員需要把絕大部分的時間（可能約占 90%）都花在數(shù)據(jù)上——收集數(shù)據(jù)、對數(shù)據(jù)進行分類，然后清洗數(shù)據(jù)。這項工作既枯燥又艱難。可以說，目前的機器學(xué)習(xí)社區(qū)也忽視了這一點，因為科學(xué)家們更加重視 AI 架構(gòu)的復(fù)雜性，或者模型的復(fù)雜程度。

其中的一個結(jié)果是：根據(jù)麻省理工學(xué)院科學(xué)家最近的一項研究，用于開發(fā)人工智能系統(tǒng)（比如計算機視覺和語言處理）的那些最流行的數(shù)據(jù)集里面到處都是錯誤。熱衷搭建模型的文化實際上阻礙了人工智能。

但也出現(xiàn)了一些令人鼓舞的變化跡象。 谷歌的科學(xué)家最近在一篇會議論文中抱怨了模型與數(shù)據(jù)的問題，并提出了各種辦法來制定更多的激勵措施以解決這個問題。

企業(yè)也正在將注意力從“人工智能即服務(wù)”供應(yīng)商身上轉(zhuǎn)移。盡管這些供應(yīng)商承諾自己的服務(wù)開箱即用，就像魔術(shù)一樣。 PitchBook 的高級分析師 布蘭登·布爾克（Brendan Burke ）表示，現(xiàn)在他們征兆把更多的資金投入到數(shù)據(jù)就緒軟件上。他表示，Palantir與C3.ai等純粹的 AI 公司“取得的成果不算出色”，而 Databricks等數(shù)據(jù)科學(xué)公司“正在取得更高的估值以及出色的成果。”

人工智能偶爾會在低風(fēng)險的場景下搞砸，比如推薦電影不靠譜，或用你的臉解鎖不了智能手機。但在醫(yī)療保健和社交媒體內(nèi)容等領(lǐng)域，AI仍然需要更多的訓(xùn)練，更好的數(shù)據(jù)。企業(yè)不應(yīng)該現(xiàn)在就打算讓 AI 發(fā)揮作用，而應(yīng)該用數(shù)據(jù)和人員奠定基礎(chǔ)，讓AI在不遠的將來（希望如此）發(fā)揮作用。

譯者：boxi。

關(guān)鍵詞： 特斯拉 缺陷 公司