[導(dǎo)讀]近日，電子隱私信息中心、消費(fèi)者聯(lián)盟、電子民主中心等多個(gè)非營(yíng)利性組織向美國(guó)聯(lián)邦貿(mào)易管理委員會(huì)上訴，多款兒童語(yǔ)音玩具未經(jīng)同意或提示，收集語(yǔ)音數(shù)據(jù)。  

近日，電子隱私信息中心、消費(fèi)者聯(lián)盟、電子民主中心等多個(gè)非營(yíng)利性組織向美國(guó)聯(lián)邦貿(mào)易管理委員會(huì)上訴，多款兒童語(yǔ)音玩具未經(jīng)同意或提示，收集語(yǔ)音數(shù)據(jù)。通過(guò)藍(lán)牙和用戶手機(jī)app，將語(yǔ)音數(shù)據(jù)轉(zhuǎn)成文字傳輸?shù)焦雀杌蛘逳uance的服務(wù)器上。由于法律規(guī)定未成年的隱私數(shù)據(jù)信息采集必須獲得家長(zhǎng)的同意，并且監(jiān)護(hù)人需擁有檢查和刪除信息的權(quán)利，這些看似無(wú)害的語(yǔ)音采集，實(shí)為極其嚴(yán)重的侵權(quán)。  

銷量超過(guò)百萬(wàn)的互動(dòng)娃娃：MyFriendCayla  

其實(shí)，隱私安全問(wèn)題之所以可怕，就是因?yàn)榫W(wǎng)絡(luò)時(shí)代的信息收集無(wú)所不在。在人們開(kāi)始擔(dān)心玩具在傳輸小主人的語(yǔ)音信息之前，段子手或者爸媽的朋友圈早就對(duì)網(wǎng)絡(luò)公司們收集追蹤用戶活動(dòng)狀態(tài)多年的惡性諸多不滿。而當(dāng)聽(tīng)說(shuō)那些逐漸成為家電潮流的真正的AI助手們，居然無(wú)時(shí)無(wú)刻不在監(jiān)聽(tīng)的時(shí)候，對(duì)人工智能的恐懼感更是與日俱增。  

對(duì)于AI語(yǔ)音助手來(lái)說(shuō)，收集人的語(yǔ)音、分析對(duì)話、采集數(shù)據(jù)是它們得以正常工作的基礎(chǔ)，但是不明真相的群眾在沒(méi)有足夠的知情權(quán)之前，聽(tīng)說(shuō)家里的AI助理其實(shí)可能無(wú)時(shí)無(wú)刻不在偷聽(tīng)，的確有種“小音響其實(shí)是黑客帝國(guó)派來(lái)的臥底”既視感。  

語(yǔ)音助理：你說(shuō)的我都聽(tīng)  

AmazonEcho和GoogleHome是目前北美市場(chǎng)上最受歡迎的兩款語(yǔ)音助理，每當(dāng)主人喊出Alexa或者google的大名，它們就會(huì)隨即記錄下人類的語(yǔ)音，并將這些語(yǔ)音文件傳輸?shù)竭h(yuǎn)程的服務(wù)器中，通過(guò)AI“大腦”的處理，給出相應(yīng)的回答。同時(shí)，人類的回答會(huì)自動(dòng)儲(chǔ)存在個(gè)人的賬戶下面。  

對(duì)應(yīng)被記錄下來(lái)的語(yǔ)音，系統(tǒng)也會(huì)自動(dòng)記錄AI的回答，從一次次的對(duì)比中，逐漸掌握主人的習(xí)慣、不同的口音等。對(duì)于家庭語(yǔ)音助手來(lái)說(shuō)，個(gè)人化的專屬體驗(yàn)是她希望達(dá)成的未來(lái)，通過(guò)對(duì)一個(gè)賬號(hào)的行為分析，更好地為一個(gè)家庭提供個(gè)性化的私人服務(wù)，使得記錄個(gè)人的歷史變得十分必要。  

由于需要遠(yuǎn)程傳輸處理，語(yǔ)音助理必須在有Wifi的環(huán)境下才能工作，同時(shí)為了防止干擾語(yǔ)音阻礙語(yǔ)音助理的學(xué)習(xí)，只有在說(shuō)出喚醒詞，比如Alexa或者Google的名字時(shí)，才會(huì)處于信息傳輸被激活的狀態(tài)。  

為了能夠讓語(yǔ)音助理準(zhǔn)確捕捉到喚醒詞，在被喚醒前，它們依舊處于“監(jiān)聽(tīng)”狀態(tài)，只是此時(shí)語(yǔ)音助理聽(tīng)到的片段，都不會(huì)被傳到處理器上記錄下來(lái)，只是時(shí)時(shí)處于備戰(zhàn)狀態(tài)，等待喚醒詞的激活。  

其實(shí)，它的原理和一些照相機(jī)的連拍模式比較相似，相機(jī)會(huì)在完全按下快門連拍之前，先捕捉幾張畫(huà)面，以保證不會(huì)因?yàn)榘聪驴扉T的手指動(dòng)作遲緩而漏掉畫(huà)面。對(duì)于語(yǔ)音助理來(lái)說(shuō)，為了保證它隨時(shí)處于不用按鍵就能夠通過(guò)語(yǔ)音操作的便捷性，就必須在激活前一直處在你說(shuō)我聽(tīng)的模式。  

如果強(qiáng)行通過(guò)靜音鍵關(guān)掉麥克風(fēng)，那么語(yǔ)音助理基本上就處在“罷工狀態(tài)”，只能每次要用的時(shí)候，關(guān)掉靜音鍵，再重新捕捉關(guān)鍵詞使用，很大程度上，就失去了便捷的語(yǔ)音啟動(dòng)的意義。語(yǔ)音助手也會(huì)每次在開(kāi)啟的時(shí)候提醒你，要打開(kāi)靜音鍵才能享受完全的服務(wù)。  

可以刪掉的黑歷史  

雖然，科技公司們的確可以追溯用戶的操作、儲(chǔ)存記錄，但是，對(duì)于特別在意隱私的人來(lái)說(shuō)，這些賬戶大部分還是允許用戶自行刪除記錄的。  

比如，如果對(duì)Alexa說(shuō)了太多不可描述的黑話，用戶有可以直接在app的設(shè)置中找到這些被記錄下來(lái)的語(yǔ)音歷史。同樣的谷歌賬號(hào)也提供包括了谷歌搜索、YouTube視頻記錄、安卓App記錄，GoogleHome的語(yǔ)音記錄等一系列賬號(hào)歷史操作。不過(guò)雖然人肉刪除了記錄，但后臺(tái)服務(wù)器上的資料是否也會(huì)被一并刪除，就不得而知了。  

每個(gè)程序都有bug，每種系統(tǒng)都有被黑的可能，但亞馬遜和谷歌的防護(hù)還是很到位的，從家里的語(yǔ)音助理到數(shù)據(jù)中心的路徑必然是加密的，即使家庭的網(wǎng)絡(luò)遭到破解，AmazonEcho和GoogleHome直接被侵入的可能性也極低。整個(gè)語(yǔ)音助理最容易出問(wèn)題的環(huán)節(jié)，其實(shí)是賬號(hào)密碼被破解，導(dǎo)致操作隱私被暴露。  

但是，不是每一種AI都可以刪掉黑歷史的，以Siri為例，她在將所有的對(duì)話送回云端之后，一方面，不向用戶提供查閱對(duì)話歷史的功能，同時(shí)，系統(tǒng)會(huì)在六個(gè)月之后，將對(duì)話與賬戶之間的關(guān)系脫鉤，只是將語(yǔ)音資料作為數(shù)據(jù)庫(kù)的一份子。  

AI的隱私安全  

蘋果在6月的WWDC上發(fā)布了DifferentialPrivacy(差分隱私)算法，加入虛擬數(shù)據(jù)，讓人幾乎無(wú)法辨別出數(shù)據(jù)的來(lái)源和個(gè)人信息。雖然，這種算法大規(guī)模使用的可行性還未可知，但是，隱私安全的保護(hù)，的確是市場(chǎng)人工智能面臨的重要問(wèn)題之一。  

2016WWDC，蘋果軟件工程高級(jí)副總裁CarigFederighi  

顯然，并不是每一個(gè)從業(yè)者都認(rèn)識(shí)到了這個(gè)問(wèn)題，類似“智能”娃娃這樣沒(méi)有獲得允許，就隨意收集并出賣用戶隱私的行為，讓人懷疑這樣的娃娃，類似的AI功能和產(chǎn)品，是不是還存在著更多的安全漏洞。