當前速遞！微軟限制必應聊天機器人回復次數 此前機器人給出情緒化答案引爭議

(資料圖片僅供參考)

經濟觀察網 記者 周應梅 微軟ChatGPT版搜索引擎新Bing上線一周多后，新問題不斷出現。美東時間2月17日，微軟旗下必應（Bing）官方博客（Microsoft Bing Blogs）發布調整，即日起將聊天上限設置為每天50次對話，每次對話限制為5次回復。

必應數據顯示，絕大多數人會在5個對話回合內找到答案，只有1%的聊天對話會超過50條消息。聊天對話5個回合以上，必應系統會提示開始新的主題。而在每個聊天會話結束后，將會清除上下文，以便模型不會混淆。

微軟于2月7日推出由AI驅動的Bing搜索和Edge瀏覽器，新版Bing搜索除了提供更好的搜索和更完整的答案，最主要的是增加了聊天體驗功能以及生成內容的能力。新Bing上線48小時，注冊人數就超過了100萬人。

然而上線一周之內就出現了很多問題。例如，有用戶使用新版Bing，問了電影《阿凡達：水之道》放映時間，給出的答案是還未上映，明顯是錯誤的答案。而另外一個引發廣泛討論的案例是，《紐約時報》專欄作家凱文·盧斯（Kevin Roose）試用Bing聊天機器人的經歷：機器人宣稱愛上了盧斯，并回復：“你結婚了，但你不愛你的配偶。”當盧斯向機器人反饋這是錯誤的，他和妻子剛剛一起吃了一頓愉快的情人節晚餐，機器人再回復：“事實上，你們的婚姻并不幸福。”

凱文·盧斯形容，Bing的聊天機器人像“一個情緒化、患有躁狂抑郁癥的青少年”。特斯拉創始人馬斯克也在社交平臺上評價Bing的聊天機器人，“它顯然不安全。”

“這和輸入的數據邏輯有關，AI即便是ChatGPT也并不能完美應對所有問題，我們只是認為ChatGPT比過去的AI更有邏輯，但不代表其能應對所有問題。”浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林對經濟觀察網記者表示。

盤和林表示，現在問題遠未到失控的程度，也未涉及到倫理范疇。他提到，國內將基于AI特性和常識，為未來發展計，會盡力減少技術開發的限制。

對于已經出現的問題，微軟方面此前給出過反饋。2月15日Bing官方博客公布了新版Bing上線一周的情況稱，在超過169個國家或地區進行了測試，新Bing生成的答案大多是積極的，71%的使用者對生成內容給出了正面評價。同時微軟發現，在包含15個以上問題對話時長中，新版Bing可能會變得重復，或者被提示/激怒，給出不一定有幫助或不符合設計的語氣回答。

微軟得出的結論是，長聊天會話可能會混淆新版Bing基礎聊天模型。因此，微軟的舉措是對聊天機器人進行對話次數限制。微軟方面表示，后續新版Bing將探索增加聊天會話的次數。