AI為各行各業(yè)裝上效率加速器的同時(shí)，也可能被不法之人用作詐騙工具。

據(jù)英國(guó)媒體《每日郵報(bào)》報(bào)道，一家西班牙小型電影制作公司（Peabody Films）稱收到英國(guó)著名男演員“卷?！北灸岬峡颂亍た挡推妫˙enedict Cumberbatch）發(fā)電話，對(duì)方表示對(duì)該公司即將拍攝的電影感興趣，想尋求合作。

這部電影的導(dǎo)演稱，他們最初收到了自稱是好萊塢明星經(jīng)紀(jì)人發(fā)來的電子郵件，謹(jǐn)慎起見，他建議打個(gè)電話，而來電聲音與康伯巴奇的相似度有100%，“是那個(gè)聲音，毫無疑問。”該公司后又與“康伯巴奇”進(jìn)行了幾次通話。

(資料圖片僅供參考)

這導(dǎo)致這位導(dǎo)演一開始完全相信對(duì)方正是康伯巴奇本人，“當(dāng)我們接到電話時(shí)，簡(jiǎn)直不敢相信自己的運(yùn)氣，康伯巴奇是當(dāng)下最有才華的演員之一，他居然會(huì)主動(dòng)聯(lián)系我們并對(duì)我們的項(xiàng)目表現(xiàn)出興趣?！?/p>

隨后，該電影公司幾次邀約見面，“康伯巴奇”都拒絕了，甚至還提出要該公司先打款20萬(wàn)英鎊（約合人民幣170萬(wàn)元）。這時(shí)公司意識(shí)到了可能遇到了騙子，向“康伯巴奇”的經(jīng)紀(jì)公司確認(rèn)后才發(fā)現(xiàn)，這是一場(chǎng)AI騙局。

“當(dāng)發(fā)現(xiàn)自己是AI詐騙受害者時(shí)，我們感到非常震驚和失望?！痹搶?dǎo)演表示。目前，該電影公司正考慮是否報(bào)警。

被中國(guó)觀眾稱為“卷?！钡谋灸岬峡颂亍た挡推婵梢哉f是英國(guó)國(guó)寶級(jí)演員，他被英國(guó)女王授予大英帝國(guó)司令勛章，也被《時(shí)代周刊》評(píng)為全球最具影響力人物之一。不論在熱門英劇《神探夏洛克》里，還是在好萊塢大片《奇幻博士》中，康伯巴奇都是自己配音。由于聲音很有辨識(shí)度，“卷福”還被力邀為《霍比特人》里的惡龍等虛擬形象配音。

這僅僅是AI合成聲音用于詐騙的一例。

據(jù)報(bào)道，近日，國(guó)外一名網(wǎng)友用美國(guó)知名歌手弗蘭克·奧申（Frank Ocean）的歌曲片段用以訓(xùn)練AI，之后用AI生成了大約9首仿冒其風(fēng)格的歌曲，隨后該網(wǎng)友于4月初在論壇上發(fā)布了這些曲目，并將其偽造成唱片錄制時(shí)的泄露片段，通過出售這些音樂騙取了約970美元（約合人民幣6700元）。

當(dāng)下的AI技術(shù)不僅可以克隆真實(shí)的人聲，還可以通過聲音進(jìn)行“二次創(chuàng)作”。近段時(shí)間，通過模型訓(xùn)練和后期處理，模擬真人歌手孫燕姿聲音進(jìn)行翻唱的“AI孫燕姿”走紅網(wǎng)絡(luò)。

另一方面，越來越多的開源模型讓相關(guān)工具的使用門檻進(jìn)一步降低，非編程人員便可利用AI工具快速“調(diào)教”出想要的聲音。

AI歌手的翻唱歌曲，正是由多位創(chuàng)作者通過開源項(xiàng)目“so-vits-svc”自制后并上傳。今年早些時(shí)候，微軟研究人員展示了一種文本轉(zhuǎn)語(yǔ)音AI模型“VALL-E”，該模型只需3秒鐘音頻，就可以合成任何人的聲音，保留說話者的情緒基調(diào)，并可以說出任何內(nèi)容。

這些都便利了騙子制造假信息。網(wǎng)絡(luò)安全公司邁克菲發(fā)現(xiàn)，在美國(guó)、英國(guó)、法國(guó)、德國(guó)、日本、澳大利亞和印度，有10%的人曾被人工智能語(yǔ)音詐騙。

除了聲音詐騙，AI在圖像、視頻上的創(chuàng)造能力同樣不得不讓人提高警惕。AI專家阿列克謝·希特羅夫曾向媒體表示，AI生成的虛假圖像和聲音已經(jīng)被廣泛用于商業(yè)欺詐。

（文章來源：科創(chuàng)板日?qǐng)?bào)）

關(guān)鍵詞：