ai引擎 文章 進入ai引擎技術社區(qū)

2024年亟需解決的AI引擎和軟件開發(fā)安全問題

• ?隨著AI應用的規(guī)模不斷擴大以及大語言模型（LLM）的商品化，開發(fā)者越來越多地承擔起將人工智能（AI）和機器學習（ML）模型與軟件更新或新軟件一起打包的任務。雖然AI/ML在創(chuàng)新方面大有可為，但同時也加劇了人們的擔憂，因為許多開發(fā)人員沒有足夠的帶寬來安全地管理其開發(fā)。?安全漏洞可能無意中將惡意代碼引入 AI/ML 模型，從而使威脅行為者有了可乘之機，引誘開發(fā)者使用開放源碼軟件模型變種，滲透企業(yè)網(wǎng)絡并對組織造成進一步損害。甚至還有開發(fā)者越來越多地使用生成式AI來創(chuàng)建代碼，卻不知道自己生成
• 關鍵字： AI引擎   JFrog