首頁>資訊 >
聊什么來什么,你跟我說手機(jī)沒偷聽? 2022-12-08 15:01:02  來源:36氪

你和朋友坐在一起聊天,隨手把手機(jī)扔桌上。你問他,家里暖氣不熱怎么辦?夜晚,你便在小紅書的信息流里刷到“教你給暖氣放氣”。你人一驚,心想“難道又被手機(jī)竊聽了?”因?yàn)槟銖奈粗鲃?dòng)搜索過類似話題。

如果確實(shí)存在“App 監(jiān)聽談話”,那其目的大多是為了各種應(yīng)用平臺(tái)信息、商品、廣告的精準(zhǔn)推送,但這卻是個(gè)人信息(或隱私)獲取的眾多方式中,最為敏感,也最不“劃算”的一種。它被反復(fù)提及,原因是用戶總能發(fā)現(xiàn)“巧合”,卻難以對(duì)其證實(shí)。相關(guān)商業(yè)公司也只是否認(rèn),拿不出反駁證據(jù)。


【資料圖】

如果 app 真的通過麥克風(fēng)一直監(jiān)聽我們,到底可不可行?

語音助手先遭質(zhì)疑

人們的確曾抓到過智能音箱和語音助手的把柄,亞馬遜 Alexa 曾因?yàn)殄e(cuò)誤理解指令,把“偷聽”來的談話錄音發(fā)給用戶通訊錄里的好友,證明麥克風(fēng)偷聽并非臆想。

2018 年,一對(duì)住在俄勒岡州的夫婦突然接到朋友電話,被朋友告知,收到了他們家 Echo 智能音箱發(fā)來的聊天錄音。確認(rèn)了談話細(xì)節(jié),他們這才相信,被偷聽了。

他們找到亞馬遜討個(gè)說法,對(duì)方出面解釋道,有一種可能是當(dāng)事人在對(duì)話中某個(gè)發(fā)音很像“Alexa”,由此喚醒了它。在隨后的談話過程里,Alexa 錯(cuò)誤地以為聽到“發(fā)送語音信息”的請(qǐng)求,又錯(cuò)誤地聽成是某位聯(lián)系人。亞馬遜說,這種事情發(fā)生的概率極小,但也有意外。

如果不是麥克風(fēng)一直在聽,智能音箱怎么知道用戶喊它了?乍一聽,好像有點(diǎn)道理。

2020 年,一位產(chǎn)品經(jīng)理在 hackernoon(一個(gè)技術(shù)分享社區(qū))寫過一篇文章專門解釋這個(gè)困惑。他拿 Siri 舉例,說 Siri 確實(shí)在“聽”,但它“聽不懂”,直到被“Hey Siri”觸發(fā)后,它才開始理解你的指令。

Siri 確實(shí)在“聽”,但它“聽不懂”丨圖片來源 Giphy

因?yàn)?Siri 只是聽懂你在喊它,就已經(jīng)耗費(fèi)很多“力氣”。落到麥克風(fēng)上的聲音會(huì)以 0.01 秒為一幀,每次 20 幀(0.2s),被輸入到深度神經(jīng)網(wǎng)絡(luò),進(jìn)行本地計(jì)算。深度神經(jīng)網(wǎng)絡(luò)將這些聲音轉(zhuǎn)換成概率密度函數(shù)。當(dāng)函數(shù)值達(dá)閾值,主處理器被激活。在主處理器激活之前,處理聲音做這些事情的是協(xié)處理器。

所謂協(xié)處理器可以理解為,具備有限的功能和電量消耗的輔助處理器,允許用戶在屏幕關(guān)閉時(shí),訪問一些“始終開啟”的功能。比如它幫助分擔(dān)處理來自加速度計(jì)、陀螺儀等的數(shù)據(jù),改善手機(jī)續(xù)航。(不然,你的運(yùn)動(dòng)步數(shù)是如何統(tǒng)計(jì)的?)“Hey Siri”功能推出后,它就幫著 Siri 處理聲音。Siri 理解,你不想讓它聽的聲音,它就“左耳進(jìn)右耳出”。

那 app 會(huì)不會(huì)跟語音助手一樣呢?如果它“左耳進(jìn)”,但“沒右耳出”呢?

“Hey Siri”可被看作是蘋果的“底層應(yīng)用”,是寫在系統(tǒng)內(nèi)部的,相比之下,iOS 系統(tǒng)之上的應(yīng)用,調(diào)用系統(tǒng)權(quán)限的時(shí)候,用戶不會(huì)那么“無感”。

技術(shù)上可以,但算不過賬來

2019 年,國(guó)內(nèi)的一個(gè)開發(fā)者團(tuán)隊(duì)寫了一個(gè)安卓 app,在演示中,app 獲取“錄音”權(quán)限后,鎖屏在后臺(tái)監(jiān)聽。開發(fā)者對(duì)麥克風(fēng)說,“今晚吃什么?”服務(wù)器端就收到 app 上傳的語音轉(zhuǎn)文字后的信息。他們?yōu)榱俗C明,拋開所有限制條件,僅從技術(shù)角度來說,“app 在后臺(tái)監(jiān)聽到用戶說什么”是可行的。

為什么強(qiáng)調(diào)“僅從技術(shù)上”?因?yàn)橄胍耆@過用戶的注意,實(shí)現(xiàn)“偷”聽,難度可就大了。2017 年,F(xiàn)acebook 廣告負(fù)責(zé)人 Antonio García Martínez 在《連線》上撰文。他說,如果 Facebook 通過麥克風(fēng)記錄聽到的所有內(nèi)容,在功能上等同于用戶和 Facebook“一直通電話”。

如果 Facebook 通過麥克風(fēng)記錄聽到的所有內(nèi)容,在功能上等同于用戶和 Facebook“一直通電話”丨圖片來源 Giphy

有人做了實(shí)驗(yàn),錄音一小時(shí)(采樣率 48khz,比特率 256kbps),文件大小達(dá) 112.39M,消耗電量 6%。低功耗長(zhǎng)時(shí)間的錄音,耗電量不是很大。如果多個(gè) app,多個(gè) SDK 同時(shí)使用該方式,手機(jī)會(huì)變得又熱又燙。

如果你手邊正好有一臺(tái) iPhone 6,打開 Siri 設(shè)置會(huì)發(fā)現(xiàn),那時(shí)“Hey Siri 只有在充電時(shí)才能用”。得益于低功耗的 M9 協(xié)處理器,蘋果在 iPhone 6s 推出時(shí),才首次加入始終聆聽“Hey Siri”功能。

低功耗長(zhǎng)時(shí)間的錄音,耗電量不是很大,如果十個(gè)一起呢?丨圖片來源 hackernoon

你難以想象“實(shí)時(shí)傳輸”能產(chǎn)生多少用戶數(shù)據(jù)。Martínez 假設(shè)用戶每天使用手機(jī)時(shí)長(zhǎng)為半天,以當(dāng)時(shí)來計(jì)算,“網(wǎng)絡(luò)通話”的單向傳輸速率平均 24kbps,每人每天傳輸數(shù)據(jù)大約 130MB。當(dāng)時(shí) Facebook 僅在美國(guó)的日活是 1.5 億,每天產(chǎn)生大約 20PB 數(shù)據(jù)。Facebook 數(shù)據(jù)庫中存儲(chǔ)了 300PB 的數(shù)據(jù),每天處理的數(shù)據(jù)量大約 600TB。這樣一算,監(jiān)聽所產(chǎn)生的音頻數(shù)據(jù)就是每天要處理的 33 倍了。即便公司體量如 Facebook,也難承其重。

如果使用語音壓縮技術(shù),再分段傳給服務(wù)器存儲(chǔ),再去處理呢?

以 iLBC 語音編解碼器為例,采用 20ms 的幀格式,語音數(shù)據(jù)經(jīng)過編碼之后的速率為 15.2Kbps,每分鐘數(shù)據(jù) 112KB。即便每天只監(jiān)聽用戶 1 個(gè)小時(shí),每年產(chǎn)生的數(shù)據(jù),也會(huì)用掉用戶 2.5GB 內(nèi)存。

也許有人仍有疑問。既然這條路行不通了,手機(jī)、app 廠商可以在本地將“語音轉(zhuǎn)文字”,過濾后提取有價(jià)值的信息,再上傳到后臺(tái)服務(wù)器。拋開這樣做后臺(tái)運(yùn)算會(huì)“吞噬”CPU,造成手機(jī)性能下降不說,擔(dān)負(fù)的成本也不低。

Google 以 0.006 美元/15 秒向第三方出售其“語音轉(zhuǎn)文字”服務(wù)。(一個(gè)用戶)每天轉(zhuǎn)寫 24 小時(shí)的成本是 12614 美元,即便每天轉(zhuǎn)寫 1 小時(shí)也得 525 美元。

2021 年初,時(shí)任(中國(guó))App 治理工作組技術(shù)專家何延哲在做了實(shí)驗(yàn)和檢測(cè)之后稱,目前還沒有發(fā)現(xiàn)哪款 app 有把語音信息上傳之后的偷聽行為。

來,我們簡(jiǎn)單測(cè)試下

根據(jù)各個(gè)平臺(tái)的隱私政策,獲取麥克風(fēng)權(quán)限,淘寶是為了與 AI 客服對(duì)話,抖音是為了拍攝短視頻作品,百度是為了語音搜索。

我做了一次從個(gè)人消費(fèi)者出發(fā)的測(cè)試,想去證實(shí)兩個(gè)懷疑,這三款主流的 app 有沒有在無感知(沒有啟用麥克風(fēng))的情況下,錄下我的對(duì)話;并將此用于 app 的個(gè)性化推薦和廣告系統(tǒng)。

為此我盡可能規(guī)避其他變量,用一臺(tái)抹掉所有內(nèi)容和設(shè)置,并升級(jí)到 iOS15 以上的 iPhone 7 Plus 進(jìn)行測(cè)試。并且注冊(cè)了以上三款 app 的新賬戶。

先將淘寶獲取麥克風(fēng)權(quán)限,置于前臺(tái),連續(xù)兩天,每次 30 分鐘以上對(duì)麥克風(fēng)“輸入”與乒乓球有關(guān)的音頻和對(duì)話。再將 app 放在后臺(tái),重復(fù)以上操作。對(duì)抖音,百度重復(fù)上述操作。

兩天測(cè)試之后,我開始檢驗(yàn)。首先,一旦我試圖在三款 app 中,啟用麥克風(fēng)(無論進(jìn)行語音搜索,還是錄視頻),在手機(jī)狀態(tài)欄都有麥克風(fēng)啟動(dòng)提示。

在淘寶的推薦頁面下,我下滑 100 個(gè)頁面(標(biāo)準(zhǔn)版,每個(gè)頁面大概四個(gè)推薦結(jié)果),沒有推薦與乒乓球相關(guān)的商品和廣告;在抖音的推薦頁面下,我連續(xù)刷 100 個(gè)視頻,沒有出現(xiàn)與乒乓球有關(guān)的視頻內(nèi)容;同樣在百度的前 100 個(gè)推薦結(jié)果里,沒有出現(xiàn)與之相關(guān)的新聞標(biāo)題。

至少在這次實(shí)驗(yàn)中,app 調(diào)用麥克風(fēng)時(shí)無法不被察覺,也沒有將我的談話內(nèi)容,和周圍環(huán)境聲音,“轉(zhuǎn)化為”個(gè)性化推薦。

以為麥克風(fēng)在偷聽,是我的問題嗎?

就像開篇提到的“供暖”例子,基于社交媒體對(duì)用戶的了解,你可能已經(jīng)被準(zhǔn)確打上“年輕女性”、“北漂”標(biāo)簽,恰好“北京供暖”這個(gè)話題搜索熱度高。帖子可能被推給了 10 萬打著同樣標(biāo)簽的人,其中恰好包括你,你理所當(dāng)然地認(rèn)為自己被監(jiān)聽了。

這可能是證實(shí)偏差(confirmation bias)在作祟。證實(shí)偏差是一個(gè)心理學(xué)上的概念,它就像腦中的過濾器,留下你認(rèn)為正確的。而把那些與需要不相關(guān)的其他信息無意識(shí)地過濾掉,選擇性注意。它也被稱“視網(wǎng)膜效應(yīng)”,或“孕婦效應(yīng)”。

證實(shí)偏差就像腦中的過濾器丨圖片來源 Giphy

類似例子非常常見。2008 年美國(guó)大選時(shí)期,研究者發(fā)現(xiàn)支持奧巴馬當(dāng)選的選民購買了更多正面描寫奧巴馬的書,反對(duì)者則是那些批評(píng)奧巴馬書籍的主要買家。很多時(shí)候我們不可避免地帶入這種“主觀性”,它是影響我們大腦做出正確判斷的主觀因素。

你與男朋友在外散步,討論起最近搬家,話中談及買什么牌子的投影儀好。結(jié)果你晚上回家刷手機(jī),不僅在社交媒體上被推薦中介看房,淘寶還給你推送了新款投影儀。這時(shí)候,你剛準(zhǔn)備跟男朋友炫耀“我就說,手機(jī)一定在竊聽我們?!钡鹊龋潇o了一下,回憶起自己出門根本沒帶手機(jī)。

這種情況之所以發(fā)生,也許是你的男朋友已經(jīng)在網(wǎng)上瀏覽過搬家,如何挑選投影儀。而你們因?yàn)樵诰W(wǎng)絡(luò)上互為好友,被監(jiān)測(cè)到相互轉(zhuǎn)發(fā)等行為,已經(jīng)被廣告系統(tǒng)標(biāo)注為“有共同興趣”。

所以廣告系統(tǒng)已經(jīng)這樣成熟了嗎?

沒必要!真的沒必要!

至少在商業(yè)消費(fèi)領(lǐng)域,通過“偷”聽來獲得的用戶數(shù)據(jù),質(zhì)量不見得高,但需要付出的成本極其高昂,公司沒必要為此買單。

2018 年,今日頭條在被質(zhì)疑通過麥克風(fēng)獲取個(gè)人隱私時(shí)回復(fù),他們的做法是“除非用戶明確點(diǎn)擊授權(quán),否則無法收到用戶的語音信號(hào)?!?/p>

幾乎所有主流 app 都表明類似立場(chǎng)。因?yàn)閷?duì)于第三方 app 來說,它們想不為用戶發(fā)覺,或突破系統(tǒng)權(quán)限進(jìn)行監(jiān)聽?zhēng)缀醪豢赡?。iOS14(Android12)升級(jí)后,只要麥克風(fēng)啟動(dòng),就會(huì)在下拉狀態(tài)欄的屏幕上方有所提示。

比起用麥克風(fēng)竊聽,商業(yè)公司有更成熟的“畫像”方法。那些你看到的精準(zhǔn)推送,可以基本上歸因于大數(shù)據(jù)分析的結(jié)果。

如果投影儀廠商想投放廣告,它可能會(huì)找任意一家互聯(lián)網(wǎng)平臺(tái)投放,后者根據(jù)在授權(quán)信息中出現(xiàn)“投影儀”、“電影”等相關(guān)標(biāo)簽的用戶來推送。整個(gè)投放過程通過程序化廣告系統(tǒng)自動(dòng)完成。

那這些相關(guān)標(biāo)簽是如何建立的呢?

App 獲取的第一個(gè)信息,就是移動(dòng)設(shè)備標(biāo)識(shí)號(hào),在安卓手機(jī)上叫 IMEI,在 iPhone 上叫 IDFA。這跟注冊(cè)、登陸該 app 無關(guān),即便沒有,用戶的行為數(shù)據(jù)一樣會(huì)被采集。這些行為數(shù)據(jù)里,你做了什么(觀看、評(píng)論、購買等),停留時(shí)長(zhǎng),是一時(shí)興起還是長(zhǎng)期需求等,被賦予不同權(quán)重,構(gòu)成一個(gè)興趣模型的基本組成部分。

那些你看到的精準(zhǔn)推送,可以基本上歸因于大數(shù)據(jù)分析的結(jié)果。丨圖片來源 Giphy

經(jīng)過一段時(shí)間對(duì)你的觀察,模型就能給你的某個(gè)“興趣標(biāo)簽”打分,并通過多個(gè)興趣標(biāo)簽值,刻畫出一個(gè)越來越“立體”的你。商業(yè)公司將無數(shù)個(gè)“你”進(jìn)行分類,把同樣的廣告推給和你一樣的人。讓你有了平臺(tái)好像比你更懂自己的“錯(cuò)覺”。App 可以根據(jù)你的 IDFA 跟蹤你在其他 app 上的行為。這就是你為什么剛在淘寶上搜索“投影儀”,就在刷抖音的時(shí)候,看到淘寶的投影儀廣告了。

今天的廣告系統(tǒng)還能通過“依存關(guān)系”給你推薦。出于對(duì)隱私保護(hù),iOS13 新增如果想要獲取 Wi-Fi 名稱,需要在調(diào)用接口前獲得用戶的定位權(quán)限。因?yàn)橥ㄟ^ Wi-Fi 信息可以定位到用戶地理位置。但不代表不給定位權(quán)限,app 就沒法鎖定你了。App 還能通過同一局域網(wǎng)下的設(shè)備來跟蹤。

因此 iOS 14 中新增了“本地網(wǎng)絡(luò)”權(quán)限。App 想要訪問同一局域網(wǎng)下的其他設(shè)備,需要經(jīng)過你的授權(quán)(在此之前不需要)。

通過獲取設(shè)備的 MAC 地址(唯一的網(wǎng)絡(luò)標(biāo)識(shí)),獲知某個(gè)局域網(wǎng)下,連接的電子設(shè)備型號(hào),以及你的“關(guān)系鏈”。如果幾個(gè)用戶每晚都連同一個(gè) Wi-Fi,那么 app 判斷他們大概率是一家人。在“大數(shù)據(jù)”的加持下,能找到 MAC 地址,與 IMEI 號(hào)的對(duì)應(yīng)關(guān)系,給你和家人推送的內(nèi)容就會(huì)交叉共享。

其實(shí),app 偷偷摸摸收集大家信息的行為,都不來自于“聽”。

2020 年,來自浙江大學(xué)、多倫多大學(xué)、加拿大麥吉爾大學(xué)等學(xué)者展示了一項(xiàng)研究成果,手機(jī) app 可在無用戶授權(quán)下,利用內(nèi)置加速傳感器采集聲音的震動(dòng)信號(hào)。這種不通過麥克風(fēng)等收、錄聲設(shè)備,而是通過其他傳感器,比如陀螺儀、加速計(jì),再通過深度學(xué)習(xí)等技術(shù)恢復(fù)語音數(shù)據(jù)的技術(shù),被稱為側(cè)信道還原技術(shù)。

同樣不易被人察覺的還有 SDK,嵌入在 app 內(nèi)提供特定功能,方便開發(fā)者開發(fā)而存在。“當(dāng) app A 和 app B 都采取了同一家廣告 SDK 時(shí),那么 A 和 B 內(nèi)收集的數(shù)據(jù)都可能上傳至這一家 SDK 上,A 與 B 之間天然形成了數(shù)據(jù)共享。你在 A 上的搜索記錄和使用習(xí)慣有可能就會(huì)被反映在 B 上?!闭憬髮W(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院周亞金教授稱。今年工信部檢測(cè)出 13 款 app 內(nèi)嵌第三方 SDK 存在違規(guī)收集用戶設(shè)備信息的行為。

2021 年,網(wǎng)信辦發(fā)布了對(duì) 33 款 app 違規(guī)收集使用個(gè)人信息情況的通報(bào),一些耳熟能詳?shù)妮斎敕óa(chǎn)品也在其中。

商業(yè)公司如果真的企圖獲取用戶的信息,麥克風(fēng)監(jiān)聽性價(jià)比實(shí)在太低丨圖片來源 Giphy

這些違法違規(guī)的信息收集手段,都會(huì)讓我們產(chǎn)生被“監(jiān)聽”的錯(cuò)覺。商業(yè)公司如果真的企圖獲取用戶的信息(甚至竊取用戶的隱私),有很多方式。相比之下,麥克風(fēng)監(jiān)聽性價(jià)比實(shí)在太低。

那我的擔(dān)心能解決嗎?

手機(jī)廠商在盡量打消人們對(duì)于“用麥克風(fēng)竊聽”的顧慮和誤解。

如上文提到,iOS14(Android12)升級(jí)后,只要麥克風(fēng)啟動(dòng),就會(huì)在下拉狀態(tài)欄的屏幕上方有所提示。App 幾乎不可能突破移動(dòng)操作系統(tǒng)限制,直接調(diào)用硬件功能,實(shí)現(xiàn)用戶無感的錄音操作。利用系統(tǒng)漏洞、安裝惡意程序等方式,技術(shù)難度和法律成本都極高。

麥克風(fēng)啟用提示丨圖片來源手機(jī)截圖

首部個(gè)人信息保護(hù)法出臺(tái)。它規(guī)定,處理個(gè)人信息,應(yīng)在事先充分告知的前提下取得個(gè)人同意,不得誤導(dǎo)、欺詐、脅迫等。

同時(shí),對(duì)于個(gè)人信息的收集,應(yīng)當(dāng)限于實(shí)現(xiàn)處理目的的最小范圍,不得過度收集個(gè)人信息。處理個(gè)人信息應(yīng)當(dāng)遵循公開、透明原則,公開個(gè)人信息處理規(guī)則,明示處理的目的、方式和范圍。這規(guī)范拿到的語音數(shù)據(jù),放在哪里,如何處理。

蘋果之前對(duì)于通過“Hey Siri”發(fā)送到服務(wù)器的語音,表示會(huì)按照隱私政策來處理,相當(dāng)于給一個(gè)隨機(jī)設(shè)備標(biāo)識(shí)符,用完即“扔”。iOS15 更新后,希望將 Siri 語音處理本地化(目前國(guó)內(nèi)還不支持)。

如果用戶想打消“被偷聽的顧慮”,我們自己在客戶端還能做些什么?

用戶最先安裝 app 時(shí),可以拒絕調(diào)用麥克風(fēng)的權(quán)限。對(duì)于已經(jīng)在使用中的 app,安卓用戶可以在“設(shè)置—應(yīng)用設(shè)置—應(yīng)用管理—某 app—權(quán)限管理—錄音”路徑下,關(guān)閉 app 對(duì)麥克風(fēng)的獲??;iOS 用戶通過“設(shè)置——隱私與安全性——麥克風(fēng)”,查看請(qǐng)求訪問麥克風(fēng)的應(yīng)用,并關(guān)閉。

個(gè)性化廣告已經(jīng)成為了互聯(lián)網(wǎng)廣告的一種比較常見的模式,發(fā)生推薦結(jié)果也并不意味著 app 實(shí)施了監(jiān)聽。

iOS14.5 更新后,IDFA 的開關(guān)狀態(tài)由“默認(rèn)開啟”改為“默認(rèn)詢問”。如果你此前沒有關(guān)注到這一點(diǎn),可以在“設(shè)置—隱私與安全性—跟蹤”下,查看哪些 app 使用標(biāo)識(shí)符來跟蹤你,并且關(guān)閉它。

關(guān)閉程序化廣告,廣告相關(guān)度會(huì)降低丨圖片來源 Giphy

當(dāng)然看到 app 里的個(gè)性化廣告時(shí),你總不免焦慮,時(shí)常擔(dān)心到底哪一個(gè)行為暴露了自己的信息和喜好?,F(xiàn)在你可以手動(dòng)關(guān)閉它們。

2019 年,澎湃新聞的記者發(fā)現(xiàn),在今日頭條 app 中關(guān)閉程序化廣告后,用戶看到的廣告數(shù)量保持不變,但廣告相關(guān)度會(huì)降低。南都在 2020 年的《個(gè)人信息安全年度報(bào)告》中對(duì) 50 款頭部 app 測(cè)評(píng),發(fā)現(xiàn)六款沒有提供個(gè)性化推薦關(guān)閉選項(xiàng)。兩年之后,這些頭部 app 均已增加了這一選項(xiàng)。

個(gè)性化推薦選項(xiàng)一般在 app 各自的設(shè)置里,拿淘寶舉例,通過“我的淘寶——設(shè)置——隱私——推薦管理——關(guān)閉個(gè)性化推薦”。

好了,這下手機(jī)不會(huì)“搶答”了。

參考文獻(xiàn)

[1]https://hackernoon.com/how-does-hey-siri-work-without-your-iphone-listening-to-you-at-all-times-827932do

[2]https://mp.weixin.qq.com/s/lXqmU97nVBcKxklqYCpbhQ

[3]https://www.wired.com/story/facebooks-listening-smartphone-microphone/

[4]https://cloud.google.com/speech-to-text/pricing

[5]https://www.guokr.com/article/4935/

[6]https://sspai.com/post/61223

[7]https://www.androidauthority.com/your-phone-is-not-listening-to-you-884028/

[8]https://www.ndss-symposium.org/wp-content/uploads/2020/02/24076.pdf

[9] https://mp.weixin.qq.com/s/X5sVzp7nY-MoY542Uep61g

關(guān)鍵詞: 個(gè)人信息 協(xié)處理器 證實(shí)偏差

相關(guān)閱讀:
熱點(diǎn)
圖片 圖片