由微軟開發(fā)的一個(gè)聊天機(jī)器人已經(jīng)在Twitter網(wǎng)站上變成了“流氓”,它不但辱罵用戶,還發(fā)表了種族主義評論和煽動性的政治宣言。
微軟聊天機(jī)器上線首日被撤 疑因重大“BUG”
這個(gè)實(shí)驗(yàn)性的人工智能(AI)聊天機(jī)器人名為“Tay”,可通過人類對話進(jìn)行學(xué)習(xí),其設(shè)計(jì)目的是與18到24歲之間的年輕人進(jìn)行互動。在微軟放出這個(gè)機(jī)器人的短短24個(gè)小時(shí)以后,該公司就不得不對其發(fā)表的一些煽動性評論進(jìn)行了編輯處理,并表示該公司正在“進(jìn)行一些調(diào)整”。
微軟發(fā)表聲明稱:“人工智能聊天機(jī)器人Tay是個(gè)機(jī)器學(xué)習(xí)項(xiàng)目,專為與人類交流而設(shè)計(jì)。在學(xué)習(xí)過程中,它作出的一些回應(yīng)是不合適的,反映出了有些人與其進(jìn)行互動的語言類型。我們正在對Tay作出一些調(diào)整?!?/span>
Tay由微軟技術(shù)和研究及必應(yīng)(Bing)團(tuán)隊(duì)開發(fā),可通過海量的匿名公開數(shù)據(jù)學(xué)習(xí)如何與人類溝通。另外,與Tay共事的還有包括即興喜劇演員在內(nèi)的一個(gè)團(tuán)隊(duì)。Twitter用戶受邀與這個(gè)聊天機(jī)器人進(jìn)行互動,其他一些社交媒體的用戶也可在Kik或GroupMe上將其添加為聯(lián)系人。
微軟稱:“Tay的設(shè)計(jì)目的是與人進(jìn)行交流并為其帶來娛樂,能夠通過休閑幽默的對話與人進(jìn)行線上互聯(lián)。Tay越是與人聊天就會變得越聰明,因此與她進(jìn)行對話的體驗(yàn)將可變得越來越個(gè)性化?!?/span>
但這種設(shè)計(jì)所帶來的一種不幸結(jié)果是,Tay在與人類交流的過程中被“教會”了像納粹主義同情者、種族主義者和種族滅絕主義者那樣發(fā)布Twitter消息。同時(shí),試圖與其進(jìn)行嚴(yán)肅對話的用戶也發(fā)現(xiàn)了這種技術(shù)的局限性,他們指出Tay似乎對流行音樂或電視不感興趣。還有人猜測,Tay如此之快地就降格至與人類進(jìn)行不合適的聊天對話,可能表明了人工智能的未來。
(審核編輯: 智慧羽毛)
分享