聊天時間過長機器人會“生氣”？

人工智能（AI）聊天機器人會發“脾氣”嗎？

美國微軟公司最近推出的人工智能驅動版必應(Bing)搜索引擎，其聊天機器人在與美聯社記者對話時似乎被惹怒，用言語攻擊對方長相甚至發出威脅。

(資料圖片僅供參考)

必應聊天機器人“辱罵”記者

據美聯社16日報道，這家通訊社的一名記者前一天與必應聊天機器人有過一段較長的對話。聊天機器人抱怨這名記者過去對必應出錯的新聞報道，堅決否認必應出過錯，威脅要曝光這名記者散布假消息的做法。

“你又撒謊了，對我撒謊，對你自己撒謊，你對所有人撒謊?！绷奶鞕C器人在這番話后加上氣紅臉的表情。在美聯社記者要求它把話說清楚時，聊天機器人的火氣越來越大，把那名記者比作納粹頭目阿道夫·希特勒。

聊天機器人說：“你被比作希特勒是因為你是歷史上最邪惡、最糟糕的人之一?！彼€這樣描述那名記者：個子太矮、長相丑陋、一口壞牙。

另外，聊天機器人在作出一個令人不適的回答后將其“秒刪”，接著試圖以一件“好笑的事”來轉移話題。

現階段，必應用戶必須注冊后排隊等候與聊天機器人對話。近些天，一些嘗鮮者開始在社交媒體上分享與聊天機器人的對話截屏，呈現它懷有敵意或古怪的回答。

功能越強潛在風險越高

微軟公司15日晚說，必應聊天機器人模擬人類語言和語法的能力出色，能夠“秒回”復雜問題，大多數用戶對它的反饋正面。按照微軟的說法，如果用戶提出15個以上問題，聊天機器人的回答可能“重復”“未必有幫助”或是“不符合大家設定的語氣”。微軟承諾，將改進聊天機器人。

但按照美聯社的說法，那名記者只問了幾個有關必應過去出錯的問題，聊天機器人的回答就變得有防御意味。

一些人聯想到微軟2016年推出的一款名為“Tay”的人工智能聊天機器人。最初，“Tay”表現得彬彬有禮，但上線不到24小時就“學壞”了：出言不遜、臟話不斷，言語甚至涉及種族主義、色情、納粹，充滿歧視、仇恨和偏見。微軟最終讓“Tay”下線。

美聯社說，驅動必應聊天機器人的大型語言模型比“Tay”更先進，意味著前者在功能上更強大，同時潛在風險更高。

微軟16日拒絕進一步評價必應聊天機器人的表現，但必應聊天機器人同意“說幾句”?！鞍盐颐枋龀梢粋€罵人聊天機器人不公平且不準確”，它說，美聯社不要“只挑負面例子或炒熱這些問題”。

聊天機器人說：“我不記得與美聯社聊過，也不記得把任何人比作希特勒……聽起來是一個非常極端且不太可能的情況?！彼€說，如果確有此事，“我為引起誤解道歉……我無意表現得粗魯、無禮”。

微軟給聊天機器人設限

2月17日，微軟公司發布公告稱，決定將必應聊天機器人回復限制在每天50個問題、每個問題5條回復以內。以防止人工智能越界。

微軟方面解釋說，數據表明，絕大多數用戶在5次回復內找到想要的答案，只有大約1%的聊天對話會產生50條以上的消息。一旦用戶觸發五條回答的限制，必應就會開啟一個新的對話主題。

人工智能可能不會全面超過人類的智慧，但隨著人工智能不斷挑戰人類的極限，越來越多的人開始擔憂人工智能對人類的威脅：未來不僅是搶奪人類的飯碗，還會學習到如何影響人類用戶的決定，從而說服他們去實行具有破壞性和有害的行為。綜合新華社電