今年4月，Anthropic首席信息安全官（CISO）做出了一項(xiàng)令人震驚的預(yù)測(cè)：在未來(lái)一年內(nèi)，持有企業(yè)認(rèn)證的AI虛擬員工將開(kāi)始投入到企業(yè)運(yùn)營(yíng)中。這些智能體不僅將協(xié)助完成工作，還會(huì)成為員工隊(duì)伍的成員。

圖源：Andrey_Popov

企業(yè)這樣做的原因也很明顯：AI智能體能夠擴(kuò)大自動(dòng)化的規(guī)模、降低運(yùn)營(yíng)成本，并且連續(xù)工作。Salesforce已將這一愿景變?yōu)楝F(xiàn)實(shí)——于近期推出了AI“數(shù)字同事”。預(yù)計(jì)未來(lái)兩年AI智能體部署量將增長(zhǎng)327% ，但從網(wǎng)絡(luò)安全角度來(lái)看，這一演進(jìn)帶來(lái)了創(chuàng)新與風(fēng)險(xiǎn)并存的復(fù)雜局面。企業(yè)不僅授予軟件系統(tǒng)訪(fǎng)問(wèn)權(quán)限，更是在賦予其身份、自主權(quán)和決策能力。這將徹底改變企業(yè)的安全策略。

具有自主權(quán)且經(jīng)過(guò)認(rèn)證的AI智能體易受攻擊

需要明確的是，這些AI智能體并非傳統(tǒng)意義上的工具。與傳統(tǒng)自動(dòng)化或服務(wù)賬戶(hù)不同，這些智能體以認(rèn)證用戶(hù)的身份使用企業(yè)資質(zhì)進(jìn)行操作、做出決策、與系統(tǒng)和數(shù)據(jù)互動(dòng)，甚至在某些情況下執(zhí)行敏感任務(wù)。這意味著它們將擁有與人類(lèi)員工相同的訪(fǎng)問(wèn)權(quán)限，并因此可能帶來(lái)相同的安全風(fēng)險(xiǎn)。

但與人類(lèi)不同，AI智能體無(wú)法理解背景、意圖和后果。它們可能被提示注入或?qū)剐暂斎氲燃夹g(shù)欺騙、操縱或脅迫。長(zhǎng)期以來(lái)，我們都認(rèn)為人類(lèi)是整條安全鏈中最薄弱的環(huán)節(jié)，我們的心理弱點(diǎn)會(huì)被釣魚(yú)攻擊和社會(huì)工程學(xué)計(jì)劃所利用。但AI智能體是一個(gè)更脆弱的目標(biāo)——它們會(huì)直接接受表面信息、不會(huì)求助，并且以機(jī)器的速度運(yùn)行。一旦被入侵，它們可能成為埋藏在企業(yè)環(huán)境深處的一個(gè)持久而巨大的隱患。

重新思考AI時(shí)代的安全問(wèn)題

登錄、密碼和訪(fǎng)問(wèn)/權(quán)限級(jí)別等傳統(tǒng)安全工具圍繞人類(lèi)行為設(shè)計(jì)。AI員工讓這些工具失去了作用，數(shù)量遠(yuǎn)超人類(lèi)用戶(hù)的非人類(lèi)身份正在成為云環(huán)境中的主導(dǎo)力量。

隨著云投資持續(xù)呈爆發(fā)式增長(zhǎng)（AI被認(rèn)為是最大的推動(dòng)力），并且越來(lái)越多的AI智能體被部署到云端，企業(yè)需要轉(zhuǎn)向新一代AI安全工具，才能對(duì)AI去蕪存菁，尤其是要解決以下問(wèn)題：

·AI代理在企業(yè)內(nèi)部將擁有何種程度的自主權(quán)和權(quán)限？

·如何監(jiān)控特權(quán)活動(dòng)并檢測(cè)異常行為？

·智能體是否會(huì)被提示注入或?qū)剐暂斎肜没蚱平猓?/p>

·智能體的訓(xùn)練數(shù)據(jù)來(lái)自何處？

AI智能體可能成為新一代企業(yè)內(nèi)部威脅

AI為應(yīng)用堆棧帶來(lái)了未經(jīng)驗(yàn)證的新組件，包括基礎(chǔ)設(shè)施、模型、數(shù)據(jù)集、工具和插件。而隨著代理的引入，AI創(chuàng)新達(dá)到了空前的速度。不同于大語(yǔ)言模型（LLM），智能體能夠自主推理、采取行動(dòng)，并與其他智能體進(jìn)行協(xié)調(diào)。AI智能體將被授予持續(xù)的訪(fǎng)問(wèn)權(quán)限，它們不會(huì)休息和休假，而且可以大規(guī)模地部署到多個(gè)部門(mén)。這增加了企業(yè)環(huán)境的復(fù)雜性，并帶來(lái)了新的安全風(fēng)險(xiǎn)。如果智能體被“策反”，其在數(shù)分鐘內(nèi)就能造成惡意內(nèi)部人員數(shù)月才能造成的破壞。

AI員工的風(fēng)險(xiǎn)可能很快就會(huì)接近甚至超越內(nèi)部人員，成為最危險(xiǎn)的威脅來(lái)源。OWASP近期發(fā)布的《AI智能體威脅和應(yīng)對(duì)之策》重點(diǎn)介紹了提示注入、工具濫用、身份冒充等新型威脅。值得注意的是，Unit 42最新研究發(fā)現(xiàn)，提示注入仍是最強(qiáng)大和最靈活的攻擊途徑之一，能夠盜取數(shù)據(jù)、濫用工具和篡改代理行為。

一直以來(lái)，網(wǎng)安防御體系都是圍繞人類(lèi)構(gòu)建的。如今，企業(yè)需要對(duì)以其員工名義行動(dòng)的機(jī)器采取同樣甚至更嚴(yán)格的措施。

派拓網(wǎng)絡(luò)Prisma AIRS讓企業(yè)放心采用AI

派拓網(wǎng)絡(luò)推出的Prisma人工智能運(yùn)行時(shí)安全（AIRS）專(zhuān)為幫助企業(yè)發(fā)現(xiàn)、評(píng)估和保護(hù)其環(huán)境中的每一個(gè)AI應(yīng)用、模型、數(shù)據(jù)集和智能體而設(shè)計(jì)。通過(guò)采用Prisma AIRS，企業(yè)可獲得一個(gè)具有以下功能的綜合平臺(tái)：

·AI模型掃描：通過(guò)掃描模型漏洞確保AI模型使用的安全。保護(hù)AI生態(tài)系統(tǒng)免受模型篡改、惡意腳本和反序列化攻擊等風(fēng)險(xiǎn)。

·AI安全態(tài)勢(shì)管理：深入了解與AI生態(tài)系統(tǒng)相關(guān)的安全態(tài)勢(shì)風(fēng)險(xiǎn)，例如權(quán)限過(guò)多、敏感數(shù)據(jù)暴露、平臺(tái)配置錯(cuò)誤、訪(fǎng)問(wèn)配置錯(cuò)誤等。

·AI紅隊(duì)測(cè)試：在攻擊者發(fā)現(xiàn)之前，發(fā)現(xiàn)潛在的漏洞問(wèn)題和隱藏風(fēng)險(xiǎn)。派拓網(wǎng)絡(luò)的紅隊(duì)測(cè)試智能體能夠?qū)I應(yīng)用和模型進(jìn)行自動(dòng)滲透測(cè)試，從而對(duì)AI部署進(jìn)行壓力測(cè)試，并像真正的攻擊者一樣不斷學(xué)習(xí)和調(diào)整。

·運(yùn)行時(shí)安全：保護(hù)基于大語(yǔ)言模型（LLM）的AI應(yīng)用、模型和數(shù)據(jù)免受運(yùn)行時(shí)威脅，例如提示注入、惡意代碼、有毒內(nèi)容、敏感數(shù)據(jù)泄露、資源過(guò)載、幻覺(jué)等。

·AI智能體安全：保護(hù)智能體（包括基于無(wú)代碼/低代碼平臺(tái)開(kāi)發(fā)的智能體）免受新型智能體威脅，例如身份冒充、內(nèi)存操縱和工具濫用等。

AI正在重塑攻擊模式和企業(yè)的運(yùn)營(yíng)方式，而Prisma AIRS能夠做出同樣快速的響應(yīng)，使企業(yè)放心使用未來(lái)的AI技術(shù)。