意大利打響了人類保衛(wèi)戰(zhàn)的第一槍？

(資料圖)

意大利：即日起禁止使用ChatGPT

就在剛剛，意大利出手打擊全世界最火的人工智能ChatGPT！

據(jù)意大利數(shù)據(jù)保護(hù)局(DPA)最新發(fā)布的消息，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息。同時個人數(shù)據(jù)保護(hù)局開始立案調(diào)查。

個人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。此外平臺沒有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲個人信息的法律依據(jù)。

意大利數(shù)據(jù)保護(hù)局宣布，OpenAI公司必須在20天內(nèi)通過其在歐洲的代表，向意大利個人數(shù)據(jù)保護(hù)局通報公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元(差不多是1.55億人民幣)或公司全球年營業(yè)額4%的罰款。

歐盟在數(shù)據(jù)保護(hù)方面一直是全球的先行者，在落地層面也是全球最為嚴(yán)格的監(jiān)管者。2018年5月歐盟推出的《通用數(shù)據(jù)保護(hù)條例》(簡稱“GDPR”)，是目前覆蓋面最廣的個人數(shù)據(jù)隱私保護(hù)法規(guī)，甚至被稱為“懲罰性監(jiān)管”。

《歐盟營商環(huán)境報告2019/2020》曾做過調(diào)查，統(tǒng)計數(shù)據(jù)顯示，96.1%受訪企業(yè)認(rèn)為GDPR增加了企業(yè)成本，其中90.3%受訪企業(yè)表示管理成本增加，其次是人工成本和客戶服務(wù)成本。

律師事務(wù)所DLA Piper 2021年發(fā)布的報告顯示，自歐盟GDPR生效以來，數(shù)據(jù)保護(hù)當(dāng)局已經(jīng)執(zhí)行了2.725億歐元的罰款。該律所發(fā)現(xiàn)，近三年意大利數(shù)據(jù)保護(hù)局(DPA)已經(jīng)開出了大約6930萬歐元的罰單，為歐盟最高；德國、法國、英國和西班牙的DPA則包攬了前五名。而2021年1月以來全球范圍內(nèi)數(shù)據(jù)隱私安全事件頻發(fā)，各國數(shù)據(jù)保護(hù)局開出的罰單力度總體是有增無減。

圖：2018年5月至2021年1月GDPR罰款累計

而不久前，包括馬斯克在內(nèi)，多位科技公司高管和頂級AI研究人員正呼吁暫停對強(qiáng)大的新AI工具的快速開發(fā)。

這些人士表示，六個月或更長時間的暫停，將使該行業(yè)有時間制定AI設(shè)計方面的安全標(biāo)準(zhǔn)，從而防止風(fēng)險最高的一些AI技術(shù)的潛在危害。

據(jù)生命未來研究所官網(wǎng)，3月22日，生命未來研究所(Future of Life)向全社會發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實(shí)驗室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時間至少為6個月。

信中寫道“只有在我們確信它們的效果是積極的，風(fēng)險是可控的情況下，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)?！瘪R斯克此前曾多次表達(dá)對人工智能的擔(dān)憂，認(rèn)為人工智能是未來人類文明最大的風(fēng)險之一，威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、毒品泛濫等甚至比核武器都危險得多。

馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專家已經(jīng)簽署公開信。

該公開信也呼吁，AI實(shí)驗室和獨(dú)立學(xué)者應(yīng)針對高級AI的設(shè)計和開發(fā)共同制定實(shí)施一套共享安全協(xié)議，確保AI的安全性。

與此同時，AI開發(fā)人員必須與決策者合作，大力推進(jìn)強(qiáng)有力的AI治理系統(tǒng)的發(fā)展，包括：針對AI的新型監(jiān)管機(jī)構(gòu)；對高級AI系統(tǒng)的監(jiān)督追蹤和大型算力池；幫助區(qū)分真實(shí)數(shù)據(jù)與AI生成的數(shù)據(jù)、并且追蹤模型泄漏的溯源和水印系統(tǒng)等。

信的末尾提及，人類可以和AI共創(chuàng)繁榮未來，只不過要做好準(zhǔn)備：“讓我們享受AI的‘長夏’，而不是毫無準(zhǔn)備地進(jìn)入‘秋天’。”

OpenAI的管理人員說他們還沒有開始訓(xùn)練GPT-5.OpenAI首席執(zhí)行官Sam Altman在接受采訪時表示，公司長期以來在開發(fā)時將安全作為重點(diǎn)，并在GPT-4發(fā)布前花了六個多月的時間對其進(jìn)行安全測試。

“從某種意義上說，這是多此一舉，”Altman說?！拔艺J(rèn)為，一直以來我們對這些問題的討論是聲音最響、力度最大且持續(xù)時間最長的?！?/p>

（文章來源：中國基金報）

關(guān)鍵詞：