技術(shù)局限尚需突破方能釋放更大價(jià)值

• 知識更新與自主學(xué)習能力，目前大語(yǔ)言模型仍然為靜態(tài)數據驅動(dòng)的學(xué)習范式，無(wú)法實(shí)現新知識的快速學(xué)習與迭代，尤其是涉及到時(shí)效數據與專(zhuān)有數據的場(chǎng)景下存在 障礙，OpenAI正在通過(guò)Plugins生態(tài)來(lái)突破這一局限

• 垂直L域泛化能力，通用任務(wù)的不錯能力已經(jīng)顯現，但是進(jìn)入垂直細分L域與知識體系下，大模型的性能與泛化能力仍然需要增強，行業(yè)大模型訓練是當前挑戰的 破局之道之一

• 長(cháng)期記憶能力，目前正在通過(guò)增大上下文容量、數據向量化，以及AI agent等多種方式探索突破

巨大的模型訓練與推理算力等成本拉低效益比

• 訓練與微調成本，該訓練成本僅針對企業(yè)應用基礎模型結合行業(yè)知識與數據集進(jìn)行訓練與微調的成本，并非基礎大模型訓練成本，與上述“垂直L域泛化能力”相 對應，該成本仍然為行業(yè)知識壁壘顯著(zhù)的企業(yè)需要承擔的成本，開(kāi)源基礎模型在一定程度上可以降低這一階段的訓練成本

• 推理成本，大模型在參數體量巨大的情況下，仍然存在較G的推理成本，這方面可以通過(guò)模型壓縮與剪枝等技術(shù)的發(fā)展進(jìn)一步降低

• 模型能力與業(yè)務(wù)場(chǎng)景的適應成本，這部分成本雖然由于人機交互方式的變化顯著(zhù)降低，但是前期仍然需要考慮提示工程在特定場(chǎng)景的磨合成本

安全合規可信應用底線(xiàn)尚需剛性保障

• 模型安全與可控制性問(wèn)題，這是人工智能普遍面臨的問(wèn)題，大模型并不能幸免，包括模型攻防、數據注入等問(wèn)題；同時(shí)，模型能力來(lái)自于“涌現”，需要進(jìn)行模型 能力，尤其是生成結果的可控制，方能進(jìn)入到生產(chǎn)環(huán)境

• 對齊問(wèn)題，既包括人工智能與人類(lèi)社會(huì )價(jià)值觀(guān)保持一致，也包括與不同價(jià)值觀(guān)，不同類(lèi)型企業(yè)經(jīng)營(yíng)以及商業(yè)法則相匹配等，前者為關(guān)鍵，這也是目前為關(guān) 注的AI不受控制的風(fēng)險之一，目前在通過(guò)RLHF與RLAIF不同方式來(lái)實(shí)現

• 隱私與數據安全問(wèn)題，無(wú)論是大模型的訓練推理，還是對話(huà)應用的過(guò)程中，都存在過(guò)多的隱私暴露與數據安全風(fēng)險，這有賴(lài)于技術(shù)突破和監管合規的進(jìn)一步建立

附件：AI結合電商、廣告應用發(fā)展飛速！AI+教育暫處底位！2023人工智能產(chǎn)業(yè)應用發(fā)展圖譜