AISecMatrix（AI安全威脅矩陣）是一個(gè)專(zhuān)注于人工智能系統(tǒng)安全威脅研究的項(xiàng)目，旨在為開(kāi)發(fā)者和用戶(hù)提供全面的安全指導(dǎo)。隨著AI技術(shù)在圖像處理、語(yǔ)音識(shí)別、自然語(yǔ)言處理等領(lǐng)域的廣泛應(yīng)用，AI系統(tǒng)的安全問(wèn)題日益成為研究和工業(yè)界的焦點(diǎn)。AISecMatrix基于ATT&CK范式，從攻擊者的視角出發(fā)，構(gòu)建了一個(gè)框架，詳細(xì)描述了AI系統(tǒng)可能面臨的各種攻擊技術(shù)和過(guò)程，幫助開(kāi)發(fā)者和維護(hù)者識(shí)別潛在風(fēng)險(xiǎn)并提供解決方案。

AISecMatrix官網(wǎng)入口網(wǎng)址：https://aisecmatrix.org/

該項(xiàng)目涵蓋了多種攻擊類(lèi)型，包括依賴(lài)軟件攻擊（如利用深度學(xué)習(xí)框架中的漏洞）、惡意訪(fǎng)問(wèn)Docker容器、硬件后門(mén)攻擊、供應(yīng)鏈攻擊（如通過(guò)開(kāi)源平臺(tái)發(fā)布惡意預(yù)訓(xùn)練模型）等。此外，AISecMatrix還探討了數(shù)據(jù)中毒、模型竊取、GPU/CPU溢出破壞等新興威脅，并提供了防御建議，例如定期更新依賴(lài)庫(kù)、驗(yàn)證模型文件來(lái)源、警惕未知數(shù)據(jù)等。

AISecMatrix的目標(biāo)是通過(guò)系統(tǒng)化的威脅分析，為AI系統(tǒng)的全生命周期提供安全保障，確保其在關(guān)鍵業(yè)務(wù)場(chǎng)景中的安全部署和應(yīng)用。