Alexa“監(jiān)聽門”：用戶隱私與科技發(fā)展，總有一個要犧牲？

從2014年Echo推出至今，亞馬遜的Alexa在智能語音助手領(lǐng)域仍是打遍天下無敵，遙遙領(lǐng)先其他企業(yè)的相關(guān)產(chǎn)品。在很大程度上，這取決于它所擁有的數(shù)萬項技能，而且，它的技能還在不斷更新拓展。僅在本月中旬，Alexa的技能庫里就新增了“測血壓”、“解答護(hù)照和銀行假期相關(guān)問題”的技能。

然而，在用戶毫無戒備之心地享受Alexa帶來便利的同時，一些工作正在秘密地進(jìn)行。

亞馬遜雇傭大量員工監(jiān)聽Alexa錄音

本月早些時候，據(jù)彭博社披露，亞馬遜公司在全世界范圍內(nèi)雇傭了員工（評審員）來提升Alexa的服務(wù)功能，然而，這個巨大團(tuán)隊并不負(fù)責(zé)技術(shù)改進(jìn)，而是負(fù)責(zé)收集用戶對Alexa發(fā)出的指令，并作出相應(yīng)的反饋。參與該項目的評審員從波士頓到哥斯達(dá)黎加，從印度到羅馬尼亞，總之遍布全球。

據(jù)悉，評審員每天工作9個小時，要分析上千條錄音。如此大規(guī)模、高強(qiáng)度地分析（監(jiān)聽），評審員難免會聽到非常隱私的聲音。有兩名知情人甚至表示，他們確信自己通過Alexa聽到了性侵事件，當(dāng)他們向亞馬遜公司尋求指導(dǎo)意見，卻吃了閉門羹。

在彭博社爆料之后，亞馬遜發(fā)言人發(fā)表了聲明，大概是說：“亞馬遜十分注重客戶的隱私安全。我們收集用戶對Alexa的指令，是為了更好地訓(xùn)練語言識別系統(tǒng)和自然語言處理系統(tǒng)，以便于改善用戶體驗。目前，亞馬遜已有嚴(yán)格的技術(shù)和措施來保護(hù)用戶的個人信息，即便是公司的員工也無權(quán)訪問?！?/span>

然而，無論是在營銷過程中，還是在公司的隱私政策中，亞馬遜從來都沒有明確表示，他們雇傭了評審員來實時監(jiān)聽Alexa的錄音。而且，即便是用戶禁用了Alexa的語音記錄功能，這些用戶的語音記錄還是會傳送給評審員進(jìn)行分析。

密歇根大學(xué)的教授Florian Schaub是智能揚(yáng)聲器隱私問題方面的專家，他也對此事發(fā)表了自己的意見：

這件事是否屬于隱私問題，取決于亞馬遜對待這些信息的謹(jǐn)慎程度，以及向他人呈現(xiàn)的方式。

姓名、電話號碼、家庭地址不保

就在大家以為人工監(jiān)聽事件快要過去的時候，彭博社在本周三又放出了一顆炸彈：Alexa背后的評審員可以獲知用戶的家庭地址，甚至包括姓名和電話號碼。如果用戶選擇與Alexa共享自己的聯(lián)系人，這些聯(lián)系人的相關(guān)信息也會出現(xiàn)在評審員的操作界面。

此前，亞馬遜聲稱公司員工無法獲取用戶信息（上文已提及），然而這一事實與之相悖。

對于這一情況，亞馬遜給出的解釋是：“亞馬遜之所以收集位置數(shù)據(jù)，是為了更準(zhǔn)確地為用戶服務(wù)，比如建議當(dāng)?shù)氐牟蛷d，或者提供天氣預(yù)報。而且，評審員在入職之前都簽訂了保密協(xié)議，不會透露項目相關(guān)的任何內(nèi)容?！?/span>

雷鋒網(wǎng)獲悉，位置數(shù)據(jù)會以地理坐標(biāo)的形式提供給評審員，他們只要將坐標(biāo)數(shù)據(jù)輸入地圖軟件，就能輕松獲得用戶的具體地址。如果用戶外出時使用Alexa，他/她的實時定位也有可能被追蹤。

兩位知情人士向彭博社透露：“事情曝光之后，亞馬遜也亡羊補(bǔ)牢，進(jìn)一步限制了用戶信息的訪問權(quán)限。目前，一些軟件已經(jīng)對評審員關(guān)閉了。”

雖然，現(xiàn)在還沒有跡象表明，評審員試圖利用這些信息來追蹤用戶，但是，人們還是擔(dān)心這種不必要的訪問權(quán)限會讓情況失控。

領(lǐng)域佼佼者同樣有黑歷史

雷鋒網(wǎng)注：【 圖片來源：Axios  所有者：Axios & The Harris Poll 】

如圖所示，自2012年以來，亞馬遜的公眾聲譽(yù)一直名列前茅。然而，即便是公眾心中口碑最佳的亞馬遜也曾有過黑歷史。實際上，本月彭博社的兩次曝光并不是Alexa第一次處在輿論的風(fēng)口浪尖。

去年2月底，陸續(xù)有多名用戶在Twitter和Reddit上表示，自己家內(nèi)含Alexa的智能設(shè)備會突然爆發(fā)邪惡的笑聲，令人毛骨悚然。

一位網(wǎng)友在推特上說道：“躺在床上準(zhǔn)備睡覺，Echo里的Alexa突然爆發(fā)驚悚的笑聲。。。我怕是活不過今晚了?！?/span>

另一位網(wǎng)友說道：“我在廚房，Alexa莫名其妙地笑了。好恐怖，就感覺像有一個嬰兒在我們身后。”

對于這起“靈異事件”，亞馬遜官方出的解釋是，Alexa會將環(huán)境中的噪音錯認(rèn)為短語“Alexa，笑一個”（“Alexa，laugh”）。隨后，亞馬遜緊急修復(fù)了這個bug，將原先簡短的指令改為了“Alexa，你能笑一個嗎？”（Alexa，can you laugh？），并且，更新后的Alexa在聽到指令后會進(jìn)行回復(fù)，而不是直接大笑。

除了怪笑事件，2018年，亞馬遜還陷入了隱私泄露的丑聞。當(dāng)時，Alexa錄下一段私人對話，未經(jīng)用戶同意就發(fā)送了出去，這起事件再次引起了公憤。

亞馬遜不得不出面回復(fù)，它首先聲明自己沒有竊聽用戶的對話，然后指出，此次事件的起因是Alexa被錯誤地喚醒，和怪笑事件的起因如出一轍。值得注意的是，如果亞馬遜的解釋成立，那么，Alexa至少要錯誤識別4次，才能夠?qū)浺舭l(fā)送給別人。

亞馬遜官方發(fā)言人也承認(rèn)：“這是一個非常極端的例子，我們也在努力降低錯誤識別率，盡量減少此類事故的出現(xiàn)?！?/span>

語音助手還無法脫離人類獨(dú)立工作

對于亞馬遜的各種風(fēng)波，該領(lǐng)域的專家Schaub并沒有感到驚訝，他說道：“我們潛意識里認(rèn)為語音助手在進(jìn)行神奇的機(jī)器學(xué)習(xí)。但實際上，它們還無法脫離人類獨(dú)立工作?！?/span>

當(dāng)然，亞馬遜并不是唯一一家做類似事情的公司。去年，《衛(wèi)報》報道了“偽人工智能”（pseudo-AI）的興起，文中列舉了一些人類頂替AI完成工作的科技公司，其中就包括Facebook、亞馬遜、谷歌和蘋果等科技巨頭。

心理學(xué)家Alison Darcy在接受《衛(wèi)報》采訪時說道，很多時候，AI的背后是人類而不是算法，因為建立一個良好的AI系統(tǒng)需要大量數(shù)據(jù)。但是，作為心理學(xué)家，我認(rèn)為，這種欺騙行為顯然違反了道德原則。

研究機(jī)構(gòu)Canalys的數(shù)據(jù)顯示，去年全球共銷售7,800萬個智能揚(yáng)聲器，其中，亞馬遜的銷售量大約占三分之一（圖1）。Canalys預(yù)計，到2020年，智能揚(yáng)聲器的使用量會在2018年的1億基礎(chǔ)上再翻一番，達(dá)到2.25億（圖2）。

雷鋒網(wǎng)注：圖1【 圖片來源：Canalys Newsroom  所有者：Canalys 】

雷鋒網(wǎng)注：圖2【 圖片來源：Canalys Newsroom  所有者：Canalys 】

以上數(shù)據(jù)和圖表似乎映射出了智能揚(yáng)聲器欣欣向榮的美好前景。

然而，就目前而言，憑空創(chuàng)造出一個能夠準(zhǔn)確識別語音或人臉的神經(jīng)網(wǎng)絡(luò)幾乎不可能的。因為僅憑算法，語音助手無法準(zhǔn)確識別不同的口音、俚語、或者是其他一些帶有挑戰(zhàn)性的任務(wù)。

雷鋒網(wǎng)總結(jié)

毫無疑問，Alexa是亞馬遜所推出的最具影響力的產(chǎn)品之一，而且，它已經(jīng)列入亞馬遜帝國的四大支柱。隨著Echo走進(jìn)越來越多的家庭，Alexa也對人們的生活產(chǎn)生著深刻影響。

實際上，人類參與訓(xùn)練語音助手并沒有什么錯。為了讓語音助手提供更好、更準(zhǔn)確的服務(wù)，人工的幫助是必不可少的因素。

然而，消費(fèi)者真正在意的是，在享受科技帶來便利的同時，他們有沒有被誠實地對待，自己的隱私有沒有得到尊重。身為大公司的亞馬遜應(yīng)該深知隱私保護(hù)的重要性，但是，至少從眼下看來，它做的還不夠好。

本文轉(zhuǎn)自雷鋒網(wǎng)，如需轉(zhuǎn)載請至雷鋒網(wǎng)官網(wǎng)申請授權(quán)。

原文地址為Alexa“監(jiān)聽門”：用戶隱私與科技發(fā)展，總有一個要犧牲？