7 月 14 日消息，據(jù)螞蟻技術(shù)消息，世界數(shù)字科學(xué)院(WDTA)在聯(lián)合國(guó)日內(nèi)瓦總部日前正式發(fā)布 AI STR 系列新標(biāo)準(zhǔn)《AI 智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》，標(biāo)準(zhǔn)由螞蟻集團(tuán)、清華大學(xué)、中國(guó)電信牽頭，聯(lián)合普華永道、新加坡南洋理工大學(xué)、美國(guó)圣路易斯華盛頓大學(xué)等二十余家國(guó)內(nèi)外機(jī)構(gòu)、企業(yè)及高校共同編制，為全球首個(gè)單智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)。
據(jù)介紹，該標(biāo)準(zhǔn)針對(duì)智能體跨越“語(yǔ)言墻”所帶來(lái)的“行為”風(fēng)險(xiǎn)，首次將輸入輸出、大模型、RAG、記憶和工具五個(gè)關(guān)鍵鏈路與運(yùn)行環(huán)境對(duì)應(yīng)起來(lái)，構(gòu)建了全鏈路風(fēng)險(xiǎn)分析框架;同時(shí)，細(xì)分了智能體風(fēng)險(xiǎn)類型，完善并創(chuàng)新提出了模型檢測(cè)、網(wǎng)絡(luò)通信分析和工具模糊測(cè)試等測(cè)試方法，彌補(bǔ)了智能體安全測(cè)試技術(shù)標(biāo)準(zhǔn)的空白。
從螞蟻技術(shù)獲悉，該標(biāo)準(zhǔn)不僅提供了一套可行可靠的智能體安全基準(zhǔn)，也為全球 AI 智能體生態(tài)的安全、可信和可持續(xù)發(fā)展增加了有益的探索。目前，部分標(biāo)準(zhǔn)的測(cè)評(píng)與認(rèn)證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。
此前，WDTA 已發(fā)布 3 項(xiàng) AI STR 標(biāo)準(zhǔn)，包括“生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)”,“大語(yǔ)言模型安全測(cè)試方法”和“大模型供應(yīng)鏈安全要求”，由 OpenAI、螞蟻集團(tuán)、科大訊飛、谷歌、微軟、英偉達(dá)、百度、騰訊等數(shù)十家單位的多名專家學(xué)者共同參與。
網(wǎng)站客服
粵公網(wǎng)安備 44030402000946號(hào)