首頁 >焦點 > 正文

      天天要聞:ChatGPT席卷全球 人工智能面臨“倫理轉向”

      2023-02-16 06:54:27來源:中國青年報

      近來,人工智能聊天機器人程序ChatGPT(全名:Chat Generative Pre-trained Transformer)席卷全球,完成了人工智能第一次大規模的自傳播。據瑞士銀行集團分析師團隊發布的報告,自去年11月底發布以來,ChatGPT上線僅5天注冊用戶數就突破100萬,今年2月的月活躍用戶已經突破了1億,速度遠快于TikTok(字節跳動旗下短視頻社交平臺)或Instagram(Meta公司旗下社交應用),前者達到1億用戶用了9個月,后者則花了兩年半的時間。“在互聯網領域發展的20年里,我們想象不到有哪個互聯網應用發展得(比ChatGPT)更快。”


      (資料圖片僅供參考)

      美國《財富》雜志稱,沒有一款人工聊天機器人能與ChatGPT相提并論。ChatGPT能與用戶進行天馬行空的長對話,可以回答問題,還能根據人們的要求撰寫各種書面材料,例如商業計劃書、詩歌、計算機代碼和劇本等。“當然,它并不完美。比如提供的結果不夠準確、無法引用信息來源、無法做到字斟句酌。”然而,僅是這些就令人擔憂這款人工智能產品會顛覆人們日常的生活、學習和工作方式。

      被媒體稱為ChatGPT之父的人工智能實驗室OpenAI聯合創始人兼首席執行官山姆·阿爾特曼表示,ChatGPT這項技術是朝著開發通用人工智能(AGI)方向邁出的一步。微軟聯合創始人比爾·蓋茨甚至稱ChatGPT的技術將會“改變世界”。他向《福布斯》表示,ChatGPT以及人工智能(AI)領域的進展令人激動,AI將是“2023年最熱門的話題”。

      今年2月7日,微軟宣布將人工智能語言模型集成到其必應(Bing)搜索引擎中,并表示該人工智能工具“比ChatGPT更強大”。微軟首席執行官薩蒂亞·納德拉表示,開發“更符合人類價值觀”的人工智能非常重要,必應模型似乎比ChatGPT更具人類特征。在一次測試中,必應出于道德原因拒絕寫求職信,而是提供了寫求職信的技巧和資源。山姆·阿爾特曼也曾在一次采訪中表示人工智能領域對一家公司來說太大了,這個領域出現一個真正的生態系統會更好。“我認為在某個時候,世界上應該會出現多個通用人工智能。”

      作為人工智能領域的現象級應用,ChatGPT也給中國的人工智能行業開啟了新的競爭賽道。2月13日,北京市發布的《2022年北京人工智能產業發展白皮書》提出,支持頭部企業打造對標ChatGPT的大模型,著力構建開源框架和通用大模型的應用生態。2月10日,京東宣布推出產業版ChatGPT,阿里、網易、360等互聯網公司也紛紛宣布將發布聊天機器人產品、服務,或直接將ChatGPT引入業務。

      ChatGPT風暴席卷全球很快引發了各界關注與擔憂,其中之一便是“替代人工”的風險。有不少人認為ChatGPT和人工智能的發展會令翻譯、畫圖和編程等行業日趨消亡。中國科學院自動化研究所紫東太初大模型研究中心常務副主任王金橋則認為,人機協同會是長期方向,但要完全代替人類,未來幾十年都不太可能。對于有明確邊界、領域知識固定的職業,人工智能生成內容可更多取代人類,如數據分析師、客服、導游等領域,或法律審核、醫療輔助診斷、各類資料審核等。

      此外,人工智能及其應用可能引發的倫理與安全挑戰也日益凸顯。山姆·阿爾特曼表示,他最害怕的事情是開源圖像生成器所生成的報復性色情圖片。“我認為這會造成巨大且可預見的傷害。”網絡安全公司Check Point研究副總裁瑪雅·霍洛維茨則擔心會出現越來越多的網絡安全攻擊。因為ChatGPT基本上可以讓零編碼技能的人成為網絡罪犯,從編寫令人信服的網絡釣魚電子郵件到編寫惡意代碼再到規避常見的網絡安全檢查。

      目前,世界多國教育系統及相關從業者已公開抵制ChatGPT。美國多所大學已宣布計劃減少居家評估,增加手寫論文和口試。紐約市、巴爾的摩和洛杉磯的學區都叫停了學校管理的網絡訪問聊天機器人。在澳大利亞,一些大學表示他們將恢復只使用監考的筆試考試來評估學生。法國頂尖學府之一的巴黎政治學院也宣布禁止使用ChatGPT。紐約大學認知科學名譽教授蓋理·馬庫斯對以深度學習為中心的人工智能方法持懷疑態度,認為通過將制造虛假信息的成本降低到幾乎為零,ChatGPT這樣的系統可能會引發一波虛假信息的浪潮,生成式人工智能對“社會結構構成了真實而迫在眉睫的威脅”。

      歐洲議會人工智能倫理領域顧問安娜·費蘭德近日表示,人類已走到了關鍵的十字路口:究竟是人工智能控制人類,還是人類控制人工智能。在人工智能野蠻生長的當下,沒有一致的立法監管,人工智能在實踐層面會面臨諸多挑戰。

      目前,大多數生成模型都是在未經許可或無償的情況下從互聯網上收集材料進行訓練的。今年1月底,在美國加利福尼亞州聯邦法院提起的一項價值90億美元的集體訴訟中,原告指控微軟和OpenAI竊取授權代碼來構建代碼托管平臺GitHub的Copilot人工智能工具,違反了開放許可條款。全球知名圖片提供商華蓋創意(GettyImages)稍早前也起訴熱門人工智能繪畫工具Stable Diffusion的開發者StabilityAI,指控他們未經許可在其訓練數據中使用受版權保護的藝術作品。

      安娜·費蘭德2月初發表文章稱,當前世界需要對人工智能采取倫理學上的考量,但最重要的是,需要建立風險評估框架,以指導發展符合人類價值觀的人工智能解決方案。論及技術帶來的問題和危害,掌管ChatGPT的山姆·阿爾特曼表示,人們無論如何都會采用開源模型,因而,應當采用共同責任和問責制度,讓在此基礎上建立的公司,以及與終端用戶有最后關系的公司都承擔責任。

      本報北京2月15日電

      中青報·中青網見習記者 趙安琪 來源:中國青年報

      責任編輯:

      標簽: ChatGPT GitHub Copilot 人工智能方法 改變世界

      免責聲明

      頭條新聞