??「AI會不會變終結(jié)者」，這是外行經(jīng)常會問、內(nèi)行只有攤手的老套問題。

不過，這話要是讓行內(nèi)大佬一說，效果馬上不一樣了。

最近，OpenAI首席科學家的一句話，讓整個機器學習圈都炸了鍋了。

2月10日，伊利亞·薩茨克維爾（Ilya Sutskever）發(fā)推表示：「現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識了?！?/p>

爭論持續(xù)了幾天之后。

2月13日，LeCun甚至親自下場，異常堅決且簡單明了：

「不對?！?/strong>

接著便措辭禮貌但尖刻地解釋道：

「甚至『微弱意識』里的表微量的形容詞，和『大型神經(jīng)網(wǎng)絡(luò)』里的表示大型的形容詞，都是錯的。我認為你自己的智識也需要當下所有神經(jīng)網(wǎng)絡(luò)都不具備的大型架構(gòu)來支撐了?！?/p>

這段時間，伊利亞老師都是一句話冷艷結(jié)束，所以現(xiàn)在沒人知道他到底具體在講些什么。

尤其是這句「倉促」得連首字母都沒有大寫，不由得引人想入非非。

是在說正在開發(fā)中的新GPT模型大力出奇跡呢？還是在說自家的現(xiàn)有模型受天啟感召已經(jīng)具有不亞于人的靈智呢？還是重復宣傳「通用人工智能」（AGI）很好很強大的觀點呢？

真要臆想超級AI，看《疑犯追蹤》比看無聊紀錄片舒服多了。

大佬們噴成一鍋粥

言歸正傳，推文發(fā)布后，各種回復隨之撲面而來。

不出意外地充斥著對AI「自我認知」的強烈不安，但更多人則認為這是純粹的胡說八道。

有網(wǎng)友在伊利亞的原推下回復：「現(xiàn)在人類所知的自我意識，必須有相當程度的動態(tài)隨機性，甚至可以稱為混沌性。若無，則只是算法性質(zhì)的行為。算法的確可能足夠復雜，讓觀察者誤以為它具有意識?！?/p>

新南威爾士大學西德尼分校人工智能研究員托比·沃爾什（Toby Walsh）說：「每次這種猜測性的評論被發(fā)表時，都需要花幾個月的時間來讓對話回到人工智能帶來的更現(xiàn)實的機會和威脅上來?！?/p>

花旗銀行副總裁、深度學習專家瓦倫蒂諾·佐卡（Valentino Zocca）也有類似的觀點： 「人工智能是沒有意識，但顯然，炒作比任何事實都更重要?！?/p>

獨立的科技社會學者尤爾根·古特（Jürgen Geuter）在跟帖中說：「很有可能這根本沒任何事實依據(jù)，只是一家跑了海量簡單統(tǒng)計的創(chuàng)業(yè)公司吹噓自己擁有魔法般技術(shù)力的銷售噱頭?！?/p>

這一觀點得到了軟件測試專家邁克爾·博爾頓（Michael Bolton）的支持，他開玩笑說： 「AI不見得有微弱意識，不過伊利亞很可能有在『微弱』地滿嘴跑火車，甚至可能不止『微弱』?！?/p>

哥本哈根信息技術(shù)大學的副教授里昂·德爾琴斯基（Leon Dercynski）也大開嘲諷：「在地球和火星之間的某個地方，很可能有一個繞日飛行的茶壺，這比伊利亞的想入非非要合理多了。因為天體軌道飛行的規(guī)則架構(gòu)事實上存在，而何為茶壺的精確定義也存在?！?/p>

微軟挪威數(shù)據(jù)科學家、前DeepMind研究員羅曼·韋爾帕科斯基（Roman Werpachowski）用放出著名的「我是你爸爸」哏圖的方式回應(yīng)了這個消息。

不過，在被無數(shù)人抨擊后，伊利亞老師非常高貴冷艷地淡淡回復：「自大才是最終的敵人?！?/p>

對于這句淡淡的反駁，網(wǎng)友們也有淡淡的嘲諷。

曾在微軟、谷歌供職，現(xiàn)在英偉達深度學習項目就業(yè)的碼農(nóng)李奧納多·摩西斯庫（Leonard Mosescu）用伊利亞的金句句式嘲笑： 「現(xiàn)在的大型自大可能也有微弱自主意識了?！?/p>

另一個在英特爾、IBM、佐治亞理工大學都干過的碼農(nóng)杰格·多什（Jigar Doshi）反問： 「若無自我執(zhí)念，何來人類的意識活動呢？」

在萬眾抨擊中，伊利亞老師終于舍得多說幾句話回擊了： 「為了短期內(nèi)自我感覺良好，而無意識選擇相信顯然的假象，并不是最優(yōu)生活策略」。

「認知=行動，先進的深度學習智能體可能也會有類似這種人類劣性的短板?！?/p>

在千夫所指中，OpenAI的老板山姆·奧特曼（Sam Altman）表示力挺同事、同時反擊LeCun：

OpenAI首席科學家：對神秘觀點表示了好奇心與開放心態(tài)，用「可能」開始句子；

Meta首席AI科學家：開句就是獨斷的「不對」。

說不定這能解釋過去5年中的業(yè)績哦。

親愛的Meta AI研究者們，這是我的電郵地址，我司現(xiàn)在招人哦。

網(wǎng)紅LeCun在社交網(wǎng)絡(luò)上從沒有受氣挨噴的習慣，馬上回復：

某司的確可以天天造更快的飛機、打破飛行高度記錄，搞這些事情既能讓自家名字常常上頭條，這些突破說不定也會有那么點真用處。

但如果目標是真正突破大氣層飛上太空軌道，那就需要在冷凝儲液罐、渦輪泵這些毫不上鏡的技術(shù)上下苦功。

不信你去問馬斯克去。

微軟的深度學習研究大佬Devon Hjelm說了大實話：

AI界的研究者與學生們，如果你們還不清楚的話，以下是此次事情的梗概：

除了老套的AI公司互噴打嘴仗以外，這事情一點有意義的實質(zhì)性內(nèi)容都沒有。

大家最好還是問優(yōu)質(zhì)問題、保持好奇心、同時保持狐疑態(tài)度。

AI到底有無自主意識？

伊利亞老師除了是OpenAI的首席科學家兼聯(lián)合創(chuàng)始人、AlphaGo論文的諸多作者之一，也是AI業(yè)界最熱衷于AGI的著名人士之一。

OpenAI本身，也在「公司的未來使命」中宣布要開發(fā)「造福全人類的AGI」

在接受關(guān)于人工智能的2019年紀錄片《iHuman》采訪時，伊利亞既宣布將解決當下人類遇到的所有難題，卻又警告AGI可能將具備無限延續(xù)專制的潛力。

采訪者應(yīng)該是出于禮貌才沒有追問「那用AGI能否解決人類社會面臨獨裁的難題」這種「以子之矛攻子之盾」的問題。

對此，非盈利研究機構(gòu)「感知學院」（Sentience Institute）的聯(lián)合創(chuàng)始人、社會科學家Jacy Reese Anthis在推特貼文中對此進行了深入的探討。

在為自家的機構(gòu)打了廣告后，Jacy Reese Anthis闡述：

首先，意識的含義在哲學家和科學家中存在很大爭議。

對此，可以用3個以上更精確的術(shù)語來形容：

思想，通常是一種語義上的字詞流

感知，通過五種感官或想象力達到的感知

情感，積極和消極的情緒

然而，甚至這些都是有爭議的。

這些是行為嗎？過程？功能？二元論？不可言說的？等等。

Jacy認為，應(yīng)該采取消除主義的觀點。因為這些術(shù)語是如此模糊，所以意識并不客觀存在。

那么，哪些具體特征會表明人工智能中的有知覺或意識？

「感知學院」的研究者認為如果人工智能可以被稱為有意識，它可能具備以下特征中的一個或多個：對有害誘導數(shù)據(jù)的檢測及于此可變的注重程度、對此誘因有規(guī)避的回應(yīng)與記憶聯(lián)想、對此誘因有類似情緒變化的狀態(tài)變化，加強學習，基于目標而定的行為，對情緒狀態(tài)的語義表述。

http://sentienceinstitute.org/blog/assessing-sentience-in-artificial-entities

當下如GPT-3等的變換模型，以上特征幾近于無。不過，Jacy還是不認為此議題有完全客觀的答案。

因為對于意識的定義、比如「此物感覺怎樣」或「內(nèi)在傾聽者」等等，用來回答這問題都太過模糊。

如今，在分歧、模糊和不確定的情況下所能做到的最精確回答大概就是：「神經(jīng)網(wǎng)絡(luò)可能有了極微的意識，但是比昆蟲要少」。

參考資料：

https://futurism.com/the-byte/openai-already-sentient

https://wordpress.futurism.com/conscious-ai-backlash/amp

Ilya Sutskever：https://twitter.com/ilyasut/status/1491554478243258368

LeCun：https://twitter.com/ylecun/status/1492890267468320778

Sam Altman：https://twitter.com/sama/status/1492644786133626882

本文來自微信公眾號“新智元”（ID:AI_era），編輯：袁榭 好困，36氪經(jīng)授權(quán)發(fā)布。