你或許，甚至大概率遇到過(guò)這樣的情況：當(dāng)你打開(kāi)手機(jī)中的某一款 App 時(shí)，第一眼看到的內(nèi)容正是你幾分鐘前和朋友或者家人們談?wù)摰臇|西。

第一次，你會(huì)覺(jué)得很驚訝。但時(shí)間久了，你就會(huì)覺(jué)得習(xí)以為常、見(jiàn)怪不怪了。而其中作祟的元兇之一，就是如今已無(wú)處不在且時(shí)刻“偷聽(tīng)”你的麥克風(fēng)（Microphones），它們被嵌入手機(jī)、電視、手表等設(shè)備中，實(shí)時(shí)將你的聲音傳輸?shù)缴窠?jīng)網(wǎng)絡(luò)和人工智能系統(tǒng)中，幫助推薦系統(tǒng)為你作出“定制化”的推送服務(wù)。

（來(lái)源：Pixabay）

那么，如何才能避免這樣的情況發(fā)生呢？

網(wǎng)絡(luò)上有很多方法，比如放一首完全不相關(guān)的歌曲，將聲音調(diào)到最大，主動(dòng)制造一些噪音；比如不授權(quán)長(zhǎng)期開(kāi)啟麥克風(fēng)權(quán)限，而是選擇采取一次一授權(quán)的方式等。

如今，來(lái)自美國(guó)哥倫比亞大學(xué)的研究團(tuán)隊(duì)提出了一種新方法：他們研發(fā)了一種人工智能系統(tǒng)，只需要在房間內(nèi)播放一種該系統(tǒng)產(chǎn)生的極為輕微的聲音，就可以避免“監(jiān)聽(tīng)”事件的發(fā)生。也就是說(shuō)，這一系統(tǒng)會(huì)把人們交談的聲音進(jìn)行偽裝，在不影響正常對(duì)話的前提下，不被麥克風(fēng)等監(jiān)聽(tīng)系統(tǒng)聽(tīng)到。

相關(guān)研究論文以“Real-Time Neural Voice Camouflage”為題，已發(fā)表在預(yù)印本網(wǎng)站 arXiv 上。而且，研究人員還表示，這種人工智能系統(tǒng)很容易部署在電腦、手機(jī)等硬件上，可以時(shí)時(shí)保護(hù)你的隱私。

用 AI 擊敗 AI

由人工智能利用的問(wèn)題，要由人工智能來(lái)解決。

雖然該團(tuán)隊(duì)干擾麥克風(fēng)等系統(tǒng)的成果理論上在人工智能領(lǐng)域是可行的，但要以足夠快的速度將其用于實(shí)際應(yīng)用，仍然是一個(gè)艱難的挑戰(zhàn)。

問(wèn)題在于，在某個(gè)特定時(shí)刻干擾麥克風(fēng)監(jiān)聽(tīng)人們談話的聲音，或許并不能干擾接下來(lái)幾秒的談話。當(dāng)人們說(shuō)話時(shí)，他們的聲音會(huì)隨著他們說(shuō)出的不同單詞和語(yǔ)速而不斷變化，這些變化使得機(jī)器幾乎不可能跟上人說(shuō)話的快節(jié)奏。而在此次研究中，人工智能算法能夠通過(guò)預(yù)測(cè)一個(gè)人接下來(lái)要說(shuō)的話的特點(diǎn)，有足夠的時(shí)間來(lái)產(chǎn)生合適的耳語(yǔ)（whisper）。

（來(lái)源：Pixabay）

哥倫比亞大學(xué)計(jì)算機(jī)科學(xué)系助理教授 Carl Vondrick 表示，這一算法能夠以 80% 的效率阻止流氓麥克風(fēng)聽(tīng)清（人們的）對(duì)話，甚至在人們對(duì)流氓麥克風(fēng)的位置等信息毫無(wú)察覺(jué)的情況下，也能發(fā)揮作用。

為此，研究人員需要設(shè)計(jì)一種可以實(shí)時(shí)破壞神經(jīng)網(wǎng)絡(luò)的算法，這種算法可以在說(shuō)話時(shí)連續(xù)生成，并適用于一種語(yǔ)言的大部分詞匯。在以往的研究中，沒(méi)有一項(xiàng)工作可以同時(shí)滿足以上三個(gè)要求。

新算法使用了一種稱之為“預(yù)測(cè)攻擊”（predictive attacks）的信號(hào)，這種信號(hào)可以干擾任何被自動(dòng)語(yǔ)音識(shí)別模型訓(xùn)練來(lái)轉(zhuǎn)錄的單詞。

此外，當(dāng)攻擊聲音在空中播放時(shí)，它們需要足夠大的音量來(lái)干擾任何可能在遠(yuǎn)處的流氓“竊聽(tīng)”麥克風(fēng)。攻擊聲音需要像聲音一樣傳播相同的距離。該人工智能系統(tǒng)通過(guò)預(yù)測(cè)未來(lái)對(duì)信號(hào)或單詞的攻擊，以兩秒鐘的輸入語(yǔ)音為條件，實(shí)現(xiàn)了實(shí)時(shí)性能。

同時(shí)，研究團(tuán)隊(duì)還對(duì)攻擊進(jìn)行了優(yōu)化，使其音量類(lèi)似于正常的背景噪音，讓人們?cè)诜块g內(nèi)可以自然地交談，而不會(huì)被麥克風(fēng)等系統(tǒng)監(jiān)控。

此外，他們成功證明了這一方法在有自然環(huán)境噪聲和復(fù)雜形狀的真實(shí)房間中的有效性。但 Vondrick 也表示，目前該系統(tǒng)還只是對(duì)大多數(shù)英語(yǔ)單詞有效，他們正在將該算法應(yīng)用到更多語(yǔ)言中。

我們能為 ethical AI 做些什么？

有人說(shuō)，在大數(shù)據(jù)時(shí)代，我們的個(gè)人信息都處于“裸奔”的狀態(tài)，身邊也有越來(lái)越多的智能設(shè)備在偷窺著我們的個(gè)人隱私。如果這一研究成果在未來(lái)能夠應(yīng)用于更多語(yǔ)言，在更多場(chǎng)景內(nèi)落地，或許能夠幫助我們免受各式各樣人工智能的利用。

正如賓夕法尼亞大學(xué)（University of Pennsylvania）計(jì)算機(jī)與信息科學(xué)系教授 Jianbo Shi 評(píng)價(jià)道：他們提出了一個(gè)新問(wèn)題，即如何使用人工智能保護(hù)我們免受無(wú)意識(shí)的人工智能所利用？同時(shí)，Shi 也建議道，在未來(lái)的工作中，研究人員需要從最初的設(shè)計(jì)階段就“有意識(shí)地”思考人工智能會(huì)對(duì)人類(lèi)和社會(huì)產(chǎn)生的影響，不要再問(wèn)有道德的人工智能（ethical AI）可以為我們做些什么，而是要問(wèn)我們能為 ethical AI 做些什么？一旦我們相信這個(gè)方向，ethical AI 的相關(guān)研究就會(huì)充滿趣味和創(chuàng)意。

原文鏈接：

https://arxiv.org/abs/2112.07076

https://techxplore.com/news/2022-04-spying-ai-block-rogue-microphones.html

https://c3.ai/glossary/artificial-intelligence/ethical-ai/

關(guān)鍵詞：