①英國官員日前警告公司不要將AI聊天機器人整合到他們的業(yè)務(wù)中，稱越來越多的研究表明，它們可能被誘騙執(zhí)行有害任務(wù)。

②英國國家網(wǎng)絡(luò)安全中心（NCSC）表示，專家們尚未掌握與大型語言模型相關(guān)的潛在安全問題。

財聯(lián)社8月31日訊（編輯 卞純）英國官員日前警告公司不要將人工智能（AI）聊天機器人整合到他們的業(yè)務(wù)中，稱越來越多的研究表明，它們可能被誘騙執(zhí)行有害任務(wù)。

(資料圖)

英國國家網(wǎng)絡(luò)安全中心（NCSC）在周三發(fā)表的兩篇博客文章中表示，專家們尚未掌握與可以生成類似人類互動的算法（大型語言模型）相關(guān)的潛在安全問題。

人工智能工具目前正以聊天機器人方式實現(xiàn)一些早期運用，一些人設(shè)想，聊天機器人不僅可以取代互聯(lián)網(wǎng)搜索，還會取代客戶服務(wù)工作和電話銷售。

NCSC表示，這樣做可能帶來風(fēng)險，尤其是如果此類模型被嵌入公司的重要業(yè)務(wù)流程時。學(xué)者和研究人員已經(jīng)多次發(fā)現(xiàn)，如果輸入惡意指令或欺騙它繞過內(nèi)建的防護機制，就可以擾亂聊天機器人。

例如，如果黑客正確下達指令，那么銀行部署的AI聊天機器人可能會被誘騙執(zhí)行一筆未經(jīng)授權(quán)的交易。

“公司在利用大語言模型搭建服務(wù)時需要小心，就像它們在使用處于測試階段的產(chǎn)品或代碼庫的時候一樣。”NCSC表示。“它們不會讓那種產(chǎn)品參與代表客戶進行交易的工作，而且也不會完全信任這樣的產(chǎn)品。同樣的審慎也適用于大語言模型。”

AI安全成全球關(guān)注焦點

眼下，世界各國政府都在努力應(yīng)對大語言模型的崛起，比如OpenAI的ChatGPT，企業(yè)正在將其納入廣泛的服務(wù)中，包括銷售和客戶服務(wù)。人工智能的安全影響也成為人們關(guān)注的焦點，美國和加拿大當(dāng)局表示，他們已經(jīng)看到黑客采用了這項技術(shù)。

路透社/益普索最近的一項調(diào)查發(fā)現(xiàn)，許多企業(yè)員工都在使用ChatGPT這樣的工具來幫助完成基本任務(wù)，比如起草電子郵件、總結(jié)文件和進行初步研究。

約10%的受訪者表示，他們的老板明確禁止使用外部人工智能工具，而四分之一的人不知道他們的公司是否允許使用這項技術(shù)。

網(wǎng)絡(luò)安全公司RiverSafe的首席技術(shù)官Oseloka Obiora表示，如果企業(yè)領(lǐng)導(dǎo)人未能引入必要的檢查，將人工智能融入商業(yè)實踐將產(chǎn)生“災(zāi)難性后果”。

“高管們應(yīng)該三思，而不是盲目追隨最新的人工智能趨勢。”他稱。“評估收益和風(fēng)險，并實施必要的網(wǎng)絡(luò)保護，以確保公司免受傷害。”

關(guān)鍵詞：