神譯局是36氪旗下編譯團隊，關(guān)注科技、商業(yè)、職場、生活等領(lǐng)域，重點介紹國外的新技術(shù)、新觀點、新風向。

(資料圖片)

編者按：人工智能的發(fā)展日新月異，有人認為，既然像 ChatGPT 這樣會自己寫代碼和編程的 AI 已經(jīng)被開發(fā)出來了，人類就不再有學(xué)習(xí)編程的需要了。但人工智能的代碼雖然是人類寫出來的，可經(jīng)過訓(xùn)練之后的人工智能卻發(fā)展到了并不能總是為人類所理解，人們常常只能盡量對其進行解釋。代碼是機器的語言，我們有越多的人能夠理解這種語言，就越有可能繼續(xù)成為機器革命的創(chuàng)作者，而不是其解釋者。本文來自編譯，是國外網(wǎng)站上的一則讀者來信及編輯部回信，希望對您有所啟發(fā)。

ILLUSTRATION: SHEN HOU

我不會編程，并且因此很沮喪，因為現(xiàn)在有這么多的書、課程和夏訓(xùn)練營，有這么多的學(xué)習(xí)機會。我想，如果我能學(xué)會編程，學(xué)會“機器語言”，就能更好地理解機器革命。我應(yīng)該試一試嗎？”——Decoder

親愛的 Decoder：

你想學(xué)習(xí)“機器語言”的愿望讓我想起了特德·姜（Ted Chiang）的短篇小說《人類科學(xué)的進化》（The Evolution of Human Science）。這個故事想象了這樣一個未來：幾乎所有的學(xué)術(shù)學(xué)科都被超級智能的“超能力者”主導(dǎo)，他們對世界的理解遠遠超過人類專家。這些超能力者的科學(xué)報告（雖然表面上是用人類語言寫的，發(fā)表在公開的科學(xué)期刊上）在技術(shù)上非常復(fù)雜和深奧，以至于人類科學(xué)家?guī)缀醵祭斫獠涣?。人類科學(xué)家已經(jīng)被降級為類似神學(xué)家的角色，試圖解釋對自己來說晦澀難懂的文本，就像中世紀的哲學(xué)家來解讀上帝的意志一樣。這些科學(xué)家不是在進行原創(chuàng)性研究，而是在實踐解釋學(xué)的藝術(shù)。

曾經(jīng)有一段時間，編程被認為是最有前途的技能之一，它可以讓一個人成為技術(shù)精英，決定人類的未來。特德·姜的故事首次發(fā)表于 2000 年，他預(yù)見到了編程這種知識技能的局限性，這是有先見之明的。在深度學(xué)習(xí)和其他形式的高級人工智能等領(lǐng)域，許多技術(shù)專家已經(jīng)看起來更像神學(xué)家或煉金術(shù)士了，而不是現(xiàn)代意義上的“專家”：盡管他們編寫了最初的代碼，但卻往往無法解釋自己的程序在數(shù)據(jù)集上訓(xùn)練時產(chǎn)生的高層次技能。[2016年，DeepMind 的首席研究科學(xué)家大衛(wèi)·西爾弗（David Silver）說，他無法解釋自己設(shè)計的 AlphaGo 程序是如何制定制勝策略的：“它是自己發(fā)現(xiàn)和制定出這一策略的，”西爾弗說，“是通過它自己的反思和分析過程發(fā)現(xiàn)的?！盷

與此同時，像 GPT-3 或 GitHub 的 Copilot 這樣的算法已經(jīng)學(xué)會了自己寫代碼，這引發(fā)了關(guān)于軟件開發(fā)人員的爭論，他們的職業(yè)曾經(jīng)被認為是即將到來的自動化海嘯中的一個平靜島嶼，但可能很快就會發(fā)生改變，并引發(fā)對“自我編程”的恐懼。人工智能的自我進化引起了人們對技術(shù)日益不透明的擔憂。畢竟，人工智能有一個公認的趨勢，那就是發(fā)現(xiàn)特異的解決方案，并發(fā)明出違反人類直覺的特殊語言。許多人已經(jīng)開始懷疑：當人類不再能閱讀代碼時會發(fā)生什么？

我提到這一切，Decoder，是為了幫你認清嚴酷的現(xiàn)實，而不是貶低你的野心，我認為你的野心是值得稱贊的。無論如何，對程序員過時的普遍擔憂在我看來是危言聳聽，而且為時過早。自動化代碼已經(jīng)以某種形式存在了幾十年（回想一下 20 世紀 90 年代生成 HTML 和 CSS 的網(wǎng)絡(luò)編輯器），即使是最先進的編碼算法，目前也容易出現(xiàn)簡單的錯誤，需要大量的人工監(jiān)督。在我看來，你并不是想把編程作為一種職業(yè)，而是被一種更深層次的好奇心所驅(qū)使。也許你正在考慮業(yè)余愛好者的創(chuàng)造性樂趣，比如為開源項目做貢獻，或者為你經(jīng)常使用的程序中的簡單錯誤提出修正建議?；蛘?，你希望通過編程將自己工作中的繁瑣環(huán)節(jié)自動化。如果我沒理解錯你的問題的話，你最想要的是對支撐現(xiàn)代生活的語言有一個更全面的了解。

有一個令人信服的理由是，編碼現(xiàn)在是一種基本的文化形式，當涉及到理解我們所處的更大的意識環(huán)境時，對數(shù)據(jù)結(jié)構(gòu)、算法和編程語言的掌握，與閱讀和寫作一樣重要。當然，對業(yè)余愛好者的不信任是很自然的。業(yè)余開發(fā)人員經(jīng)常被詬病，因為他們掌握了編程語言的語法，卻沒有創(chuàng)造成功產(chǎn)品所需的遠見和眼光。但是，這種專業(yè)知識的模糊也可以被看作是一種謙遜的修養(yǎng)。業(yè)余知識的一個好處是，它往往會激發(fā)人們的好奇心，因為它讓新手覺得自己知道的東西太少。在一個精簡、用戶友好界面的時代，人們很容易只看技術(shù)的表面價值，而不考慮隱藏在表面之下的動機和議程。但是，你對底層結(jié)構(gòu)了解得越多，就會有越多的基本問題困擾你：代碼是如何轉(zhuǎn)化為電脈沖的？軟件設(shè)計如何微妙地改變用戶體驗？像開放獲取、共享和數(shù)字公地等原則的潛在價值是什么？例如，對于普通用戶來說，社交平臺的設(shè)計似乎是為了將你與朋友聯(lián)系起來，并傳遞有用的信息。然而，了解一個網(wǎng)站是如何構(gòu)建的，不可避免地會導(dǎo)致人們更加批判性地思考其功能是如何設(shè)計的，以最大限度地吸引用戶的注意力，創(chuàng)建強大的數(shù)據(jù)跟蹤，并在社交圖譜中盈利。

最終，這些知識有可能讓我們免受宿命論的影響。那些了解程序是如何構(gòu)建的、以及為什么要構(gòu)建的人，不太可能接受既定的程序設(shè)計的必然性。你談到了機器革命，但值得一提的是，歷史上最著名的革命（那些由人類發(fā)起的革命）都是大眾文化與技術(shù)創(chuàng)新相結(jié)合的結(jié)果。比如，印刷機的發(fā)明和新識字的公眾對書籍的需求，為宗教改革以及發(fā)生在法國和美國的革命奠定了基礎(chǔ)。一旦相當一部分民眾能夠自己閱讀了，他們就會開始質(zhì)疑神職人員和國王的權(quán)威，以及統(tǒng)治假設(shè)的必然性。

目前，一些技術(shù)專家正在權(quán)衡我們最緊迫的道德問題（關(guān)于數(shù)據(jù)公正、自動化和人工智能價值），他們經(jīng)常強調(diào)需要進行更大規(guī)模的公開辯論，但當公眾缺乏對相關(guān)技術(shù)的基本知識時，具體和細微的對話就很難進行。（例如，只需看一眼美國眾議院小組委員會最近舉行的聽證會，就可以看出立法者對他們試圖監(jiān)管的技術(shù)的理解有多差。）正如《紐約時報》科技作家凱文·盧斯（Kevin Roose）所觀察到的那樣，先進的人工智能模型正在“關(guān)起門來”開發(fā)，好奇的外行越來越多地被迫通過深奧的報告來了解其內(nèi)部工作原理，或者相信專家的解釋?！爱斢嘘P(guān)（這些技術(shù)）的信息被公開時，”他寫道，“通常要么被企業(yè)公關(guān)淡化，要么被淹沒在高深莫測的科學(xué)論文中?！?/p>

特德·姜的故事告訴我們?nèi)祟愐３帧霸谛袃?nèi)圈子里”，同時也告訴我們要確保自己的圈子足夠大。當人工智能越來越精通我們的語言，以人類的方式閱讀、寫作和交談的能力越來越讓人類驚嘆不已的時候，我們理解編程語言的需求就變得更加迫切了。我們有越多的人能夠理解這種語言，就越有可能繼續(xù)成為機器革命的創(chuàng)作者，而不是其解釋者。

此致,

Cloud

譯者：Jane

關(guān)鍵詞：