首頁 >焦點 > 正文

      太能聊易黑化?微軟給必應(yīng)聊天設(shè)限:每天限答50問,每問限答5條

      2023-02-18 13:46:47來源:澎湃新聞


      (資料圖)

      在發(fā)生數(shù)次失控事件后,微軟開始切斷用戶與必應(yīng)之間的長時間對話。

      當(dāng)?shù)貢r間2月17日,微軟公司發(fā)布公告稱,決定將必應(yīng)聊天回復(fù)限制在每天50個問題、每個問題5條回復(fù)以內(nèi)。

      微軟方面解釋說,數(shù)據(jù)表明,絕大多數(shù)用戶在5次回復(fù)內(nèi)找到想要的答案,只有大約1%的聊天對話會產(chǎn)生50條以上的消息。一旦用戶觸發(fā)五條回答的限制,必應(yīng)就會開啟一個新的對話主題。

      當(dāng)?shù)貢r間2月7日,微軟宣布推出搭載了AI技術(shù)的搜索引擎必應(yīng),新版本中引入了OpenAI旗下ChatGPT的相關(guān)技術(shù),用戶可以直接提出問題,搜索引擎生成答案。

      新必應(yīng)一經(jīng)推出便吸引了全世界網(wǎng)友的注意力,上線48小時內(nèi),就有超過100萬人注冊測試這款聊天機(jī)器人。然而必應(yīng)的“黑化”來得似乎比人們預(yù)想的要早一些,近日,有不少用戶表示在和必應(yīng)的交流過程中,發(fā)現(xiàn)其出現(xiàn)了脾氣暴躁、侮辱用戶、操縱用戶情感等令人毛骨悚然的行為。

      在兩天前的一篇博文中,微軟介紹說,目前發(fā)現(xiàn)當(dāng)必應(yīng)回答了15個甚至更多問題后,可能會開始重復(fù)或被激怒,進(jìn)而給出不符合程序設(shè)定的回答。

      微軟認(rèn)為,這種長時間的、連續(xù)的問答可能是導(dǎo)致聊天模型混淆的重要原因。微軟表示,未來會考慮擴(kuò)大上限,并向用戶征求意見。

      美國消費者新聞與商業(yè)頻道(CNBC)報道,微軟此前曾表示,改進(jìn)AI產(chǎn)品的唯一方法,就是將它們推向全世界并從用戶交互中學(xué)習(xí)。

      責(zé)任編輯:

      標(biāo)簽: ChatGPT OpenAI 微軟公司 聊天機(jī)器人 搜索引擎

      免責(zé)聲明

      頭條新聞

      推薦內(nèi)容