人工智能產(chǎn)品不同階段(規(guī)劃設(shè)計,研發(fā)部署,運(yùn)營使用)的風(fēng)險挑戰(zhàn)

應(yīng)對人工智能技術(shù)在實(shí)際應(yīng)用中引發(fā)的風(fēng)險，除了積極推動人工智能技術(shù)可信能力 的提升，不斷減少技術(shù)本身的脆弱性，還應(yīng)該構(gòu)建更為積極的技術(shù)應(yīng)用規(guī)范/規(guī)避 現(xiàn)階段人工智能技術(shù)"缺陷”帶來的問題。

人工智能產(chǎn)品研發(fā)中規(guī)劃設(shè)計、研發(fā)部署、運(yùn)營使用環(huán)節(jié)的風(fēng)險挑戰(zhàn)識別十分重要, 對于構(gòu)建可信研發(fā)的實(shí)踐范式具有重要意義。

在規(guī)劃設(shè)計階段，難以在初始階段形成完備的風(fēng)險分析，與此同時，確保相關(guān)理念貫徹執(zhí)行存在挑戰(zhàn)，在設(shè)計理念、規(guī)范傳達(dá)給個層級實(shí)施人員過程中，存在非正確 傳達(dá)、誤解等風(fēng)險，尤其機(jī)器學(xué)習(xí)場景中固有的不可預(yù)測性，傳達(dá)實(shí)施偏差會進(jìn)一 步加劇。

在研發(fā)部署階段，一方面，數(shù)據(jù)層面可能會遇到數(shù)據(jù)缺失、重復(fù)、不一致、來源不 明等問題；另一方面，模型技術(shù)層面存在著技術(shù)選型不恰當(dāng)，模型尚未完備訓(xùn)練即 開始上線服務(wù)，以及模型運(yùn)行之后的動態(tài)更新缺乏足夠驗(yàn)證等挑戰(zhàn)。

在運(yùn)營使用階段，一方面，在人類和人工智能交互時可能出現(xiàn)誤用、過度依賴等問 題；另一方面，人工智能相關(guān)技術(shù)存在著被惡意使用的風(fēng)險。