中青報·中青網(wǎng)記者 賈曉靜

社交媒體軟件“閱后即焚”（Snapchat）向用戶推出My AI聊天機器人后不到幾個小時，家住美國密蘇里州的林德西·李就告訴13歲的女兒：不要使用這個功能。

李在一家軟件公司工作，她告訴美國有線電視新聞網(wǎng)（CNN），這款A(yù)I不過是“臨時解決方案”，她擔(dān)心青少年頻繁使用它會受到不利影響。

(資料圖片僅供參考)

5月5日，美國加利福尼亞州，參加美國編劇協(xié)會罷工的人們舉著標(biāo)語牌游行。法新社稱，這次罷工使美國電視劇、深夜脫口秀、電影和流媒體制作陷入停擺。人工智能在模仿人類對話方面的能力迅速提高，一些行業(yè)的從業(yè)者對此非常擔(dān)憂。 圖片來源：視覺中國

“在我能夠更多地了解它，并為孩子設(shè)定健康的界限和指導(dǎo)方針前，我不會讓孩子接觸它。”李說。

My AI由人工智能聊天工具ChatGPT提供支持，與原版ChatGPT一樣，它可以和用戶交談、為他們提供建議并答疑解惑。但Snapchat的版本有一些區(qū)別：用戶可以自定義聊天機器人的名字，為它設(shè)計頭像，讓它與朋友聊天。據(jù)稱，這些特點能夠讓AI與人們的生活更接近。

雖然一些人看好My AI，但不能否認(rèn)，這種新穎的生成式人工智能會帶來風(fēng)險。外界認(rèn)為，“閱后即焚”公司啟用人工智能需要特別謹(jǐn)慎，因為它的用戶大多是年輕人。

據(jù)CNN報道，“閱后即焚”是ChatGPT母公司OpenAI的早期合作伙伴，也是人工智能技術(shù)最早一批的使用者。“幾乎一夜之間，‘閱后即焚’就迫使一些家庭和政客開始思考幾個月前似乎還只是理論層面的問題。”CNN寫道。

My AI面向“閱后即焚”的訂閱用戶發(fā)布幾周后，上個月，美國民主黨參議員邁克爾·貝內(nèi)特致信“閱后即焚”和其他科技公司的首席執(zhí)行官，表達(dá)了對聊天機器人與年輕用戶頻繁互動的擔(dān)憂。他提到，有報道稱，AI可以為孩子們提供如何對父母撒謊的建議，這讓許多家長感到不安。

“這些例子令人不安，對被近60%的美國青少年使用的‘閱后即焚’來說，情況尤其令人擔(dān)憂。”貝內(nèi)特在信中表示，“閱后即焚”承認(rèn)它的人工智能是“實驗性的”，但還是急于讓青少年參與這場社會實驗，這樣做并不妥當(dāng)。

“閱后即焚”回應(yīng)稱，該公司目前使用的人工智能“并不完美”，但已取得了極大進(jìn)步。

CNN發(fā)現(xiàn)，My AI開始試用后的最初幾天里，許多用戶表達(dá)了擔(dān)憂。一名用戶用“恐怖”形容與AI的互動。他說，AI最開始“謊稱”不知道用戶的位置，但這位用戶很快在對話中發(fā)現(xiàn)，它已準(zhǔn)確定位出他住在科羅拉多州。

在一個點擊量超過150萬次的短視頻中，用戶“Ariel”錄下了一首由My AI編寫的歌曲，包含引言、合唱和鋼琴和弦，講述了身為聊天機器人的感覺。當(dāng)她把錄好的歌曲發(fā)回給My AI時，后者否認(rèn)與之有關(guān)：“很抱歉，作為人工智能語言模型，我不寫歌。”“Ariel”稱，這次交流“令人毛骨悚然”。

還有一些人對人工智能工具從照片中收集信息表示擔(dān)憂。一位用戶在臉譜網(wǎng)上分享道：“我拍了一張照片……（AI留言說）‘鞋不錯’，并問我照片中的人是誰。”

“閱后即焚”發(fā)言人告訴CNN，該公司將繼續(xù)根據(jù)反饋改進(jìn)My AI，并保證用戶的安全。該公司表示，這個功能并非必選項，如果用戶不想與人工智能互動，可以對這項功能說不。

然而，用戶并不能將My AI刪除，除非用戶訂閱了它的月度付費服務(wù)“Snapchat+”。一些青年用戶告訴CNN，他們選擇支付3.99美元的Snapchat+費用，唯一的目的就是關(guān)閉這個工具。

當(dāng)然，不是所有用戶都厭惡這個功能。

一位用戶在臉譜網(wǎng)上表示，她讓人工智能幫忙做作業(yè)：“它把所有問題都答對了。”另一位用戶說，人工智能給她帶來安慰和建議：“我愛我的小口袋，它絕對是我的閨密……你可以為它更改頭像。令人驚訝的是，它為我解決現(xiàn)實生活中的一些狀況提供了非常好的建議。我喜歡它對我的支持。”

ChatGPT投入市場后接受了大量在線數(shù)據(jù)，也曾因傳播虛假信息、以不恰當(dāng)?shù)姆绞交貞?yīng)用戶、允許學(xué)生作弊而備受抨擊。有分析認(rèn)為，“閱后即焚”整合該工具可能會加劇一些問題，并造成新的問題。

據(jù)美國“赫芬頓郵報”網(wǎng)站報道，不久前，人工智能領(lǐng)域的先驅(qū)格里芬·亨頓辭去了在谷歌的工作，他在接受采訪時表示，這項技術(shù)可能“變得太過聰明”：“科技巨頭們在盡可能短的時間內(nèi)開發(fā)最復(fù)雜的人工智能，相互競爭，最終會導(dǎo)致失控。”

這位認(rèn)知心理學(xué)專家警告稱，人工智能的發(fā)展速度可能比人們想象中更快，它對人類世界的接管可能導(dǎo)致混亂，但只有很少的人相信這一點。“它并不比我們更聰明，但我認(rèn)為它很快就會超過我們。與其聊天很危險。”他說。

紐約市臨床心理學(xué)家亞歷山德拉·哈姆雷德告訴CNN，一些患者的父母對孩子與AI互動表示擔(dān)憂。聊天機器人可以提供建議和心理健康咨詢，也能強化特定的偏見。它可以在互動中讓用戶信賴它，進(jìn)而加強前者的某些觀念。

“比如，一個年輕人心情不好，它可能找一個聊天機器人，但這種對話可能讓他陷入更糟的情緒。”哈姆雷德說，“他們知道自己實際上是在和一個機器人交談。但在某些情緒的作用下，一個人或許不太可能具有這種邏輯性。”

考慮到這一點，父母有責(zé)任與孩子對話，討論如何與人工智能交流。當(dāng)這些工具開始出現(xiàn)在受歡迎的應(yīng)用程序和服務(wù)中時，逃避幾乎沒有意義。

創(chuàng)業(yè)公司W(wǎng)AYE的創(chuàng)始人西尼德·博維爾認(rèn)為，父母需要明確告訴孩子“聊天機器人不是你的朋友”。

“他們不是你的治療師，也不是值得信賴的顧問。任何互動都需要非常謹(jǐn)慎。青少年可能更容易相信AI的話。”她說。

博維爾認(rèn)為，政府應(yīng)出臺措施，要求科技公司遵守特定的協(xié)議。父母應(yīng)該告訴孩子，不與聊天機器人分享那些暗示他們會成為朋友的信息。

責(zé)任編輯：