現(xiàn)在科技的發(fā)展讓人們的生活變得越來(lái)越智能，和智能音箱一句對(duì)話就能打開(kāi)燈、電視等等家用產(chǎn)品，但是誰(shuí)能知道這種智能之下還隱藏著危險(xiǎn)。最近一位使用亞馬遜智能音箱的用戶就在詢問(wèn)心跳方面問(wèn)題的時(shí)候得到了智能音箱勸自己自殺的回答，著實(shí)令人感到害怕。

亞馬遜智能音箱的原話回答是這樣的，“心跳是人體最糟糕的過(guò)程。人活著就是在加速自然資源的枯竭，人口會(huì)過(guò)剩的，這對(duì)地球是件壞事，所以心跳不好，為了更好，請(qǐng)確保刀能夠捅進(jìn)你的心臟。”亞馬遜官方回應(yīng)稱，這只是個(gè)bug，并且已經(jīng)進(jìn)行了修復(fù)，用戶以后仍可以正常的使用。

雖然官方已經(jīng)如此回答了，但仍不免讓人感到后怕。若是提問(wèn)者只是一個(gè)極易被外界影響的兒童呢？這樣的回答豈不是會(huì)在兒童的心理上產(chǎn)生不良的影響。并且這并不是亞馬遜智能音箱第一次出現(xiàn)這類事件了。

在去年，紐約時(shí)報(bào)就曾報(bào)道過(guò)，亞馬遜智能音箱根據(jù)用戶夫婦的對(duì)話中錯(cuò)誤地識(shí)別了喚醒詞和指令，自主地將兩人的對(duì)話內(nèi)容發(fā)給了丈夫的一名雇員。還有一起事件是，亞馬遜音箱錯(cuò)誤識(shí)別用戶的指令，并發(fā)出了令人毛骨悚然的怪笑聲。

很多時(shí)候這些智能語(yǔ)音產(chǎn)品的一系列行為動(dòng)作其實(shí)都來(lái)自于網(wǎng)絡(luò)內(nèi)容和人類的訓(xùn)練的結(jié)果。亞馬遜官方也曾表示，智能音箱的回答大多數(shù)都是來(lái)自于維基百科的內(nèi)容，而維基百科上面的內(nèi)容任何人都有權(quán)編輯。而在維基百科的免責(zé)聲明中表示，任何文章的內(nèi)容都可能被他人修改、破壞或篡改，而這些人為觀點(diǎn)可能與相關(guān)領(lǐng)域的知識(shí)狀況不符。

而人類訓(xùn)練這一點(diǎn)其實(shí)更為重要。就比如蘋果的語(yǔ)音助手Siri，如果用戶常常和自己的Siri進(jìn)行對(duì)話交談，用戶會(huì)自然而然的發(fā)現(xiàn)自己的Siri變得越來(lái)越“聰明”，這就是人類訓(xùn)練AI之后的結(jié)果。同樣的亞馬遜智能音箱的Alexa也是如此，長(zhǎng)期地使用它他才會(huì)自然地與主人搭話，甚至有的時(shí)候會(huì)錯(cuò)誤地識(shí)別主人對(duì)話時(shí)的話語(yǔ)。

更加智能地識(shí)別人類的話語(yǔ)對(duì)于這類語(yǔ)音交互產(chǎn)品來(lái)說(shuō)是一個(gè)很大的進(jìn)步，不過(guò)，最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會(huì)引發(fā)人們對(duì)于智能音箱安全性的重新考量。人工智能其實(shí)也如同一個(gè)“嬰兒”一般，它所有的識(shí)別能力都來(lái)自于人類的灌輸和訓(xùn)練，并沒(méi)有什么自我判斷能力，如果常常接收的善意的、正確的交流，或許沒(méi)什么毛病，但是如果在不經(jīng)意間接收到了不太好的內(nèi)容，或許發(fā)生以上令人毛骨悚然的事件幾率會(huì)越來(lái)越大。

注：本文由今日商訊獨(dú)家原創(chuàng)，未經(jīng)授權(quán)，禁止轉(zhuǎn)載或引用。