2024年1月，人工智能(AI) 新銳巨頭OpenAI 公司的創(chuàng )始人兼 席執行官薩姆 · 奧爾特曼(Sam Altman)在世界達沃斯論壇上強調， AI 帶來(lái)的技術(shù)革命不同于以往，而是成為了一種“不可思議的提G 生產(chǎn)力的工具”。作為具顛覆性的新興技術(shù)之一，AI 發(fā)展在為人類(lèi) 社會(huì )經(jīng)濟發(fā)展帶來(lái)巨大紅利的同時(shí)，也引發(fā)了一系列現實(shí)危害和風(fēng)險 挑戰，主要包括數據竊取、隱私泄露、算法歧視、對抗攻擊等安全威 脅，它們不僅威脅著(zhù)個(gè)人信息的保護，影響著(zhù)企業(yè)的信譽(yù)和運營(yíng)安全， 甚至對安全也構成了潛在的隱患，這些問(wèn)題需要我們持續關(guān)注并 采取有效措施加以防范和解決。

當前人工智能應用系統的安全威脅是由于其網(wǎng)絡(luò )軟硬件運行環(huán) 境和模型算法兩個(gè)層面存在的“內生安全問(wèn)題”所致。然而現有的人 工智能應用系統安全防護模式和技術(shù)路線(xiàn)很少能跳出“盡力而為、問(wèn) 題歸零”的慣性思維，傳統的對抗訓練、挖漏洞、打補丁、封門(mén)補漏、 查毒殺馬乃至設蜜罐、布沙箱等層層疊疊的附加式防護措施，在引入 安全功能的同時(shí)不可避免地會(huì )引入新的內生安全隱患。

為創(chuàng )造性破解人工智能應用系統內生安全難題，本藍皮書(shū)提出一種內生安全賦能人工智能應用系統構建的方法，利用內生安全機理中內在的構造效應，從體制機理上管控或規避人工智能應用系統面臨的破壞及威脅，進(jìn)而有效提升人工智能應用系統在面對復雜多變安全環(huán)境時(shí)的應對能力，為AI 技術(shù)的健康發(fā)展提供堅實(shí)保障。

附件：人工智能應用系統內生安全藍皮書(shū)：內生安全賦能系統構建的方法和內在的構造效應,提升應對能力