本報訊（記者萬曉東）為應(yīng)對AI合成技術(shù)濫用風(fēng)險，規(guī)范電商直播行業(yè)秩序，近日，北京市消費者協(xié)會推動京東、美團、拼多多、唯品會、抖音、快手、小紅書、微信直播8家電商平臺簽訂《促進AI技術(shù)規(guī)范應(yīng)用承諾書》（以下簡稱《承諾書》），從技術(shù)標(biāo)識、內(nèi)容審核、責(zé)任追溯等環(huán)節(jié)建立企業(yè)自律規(guī)范，提出六大具體舉措，劃定AI技術(shù)應(yīng)用合規(guī)紅線。

　　近年來，AI數(shù)字人直播、虛擬場景帶貨等新技術(shù)應(yīng)用快速普及，在提升消費體驗的同時，部分商家的違規(guī)操作也引發(fā)消費者廣泛擔(dān)憂。北京市消協(xié)歷時3個月開展專項調(diào)查，通過問卷調(diào)研、體驗式調(diào)查、專家研討等方式，鎖定當(dāng)前AI合成技術(shù)應(yīng)用中侵害消費者權(quán)益的三大突出問題。

　　一是消費者知情權(quán)保障不足，“真假難辨”困擾普遍存在。調(diào)查數(shù)據(jù)顯示，近九成的受訪者呼吁“AI生成內(nèi)容需顯著標(biāo)識”，超七成受訪者接受虛擬背景但強調(diào)須有顯著提示；超六成認為AI數(shù)字人“缺乏真情實感”，近三成受訪者擔(dān)憂其“可能誤導(dǎo)消費決策”。

　　二是合成技術(shù)濫用滋生消費風(fēng)險，虛假營銷問題凸顯。針對電商平臺的AI數(shù)字人、AI場景直播帶貨行為，北京市消協(xié)通過模擬消費者在直播間購物與線下比對實物的方式，對10個AI數(shù)字人直播帶貨樣本開展體驗調(diào)查，發(fā)現(xiàn)5個樣本未在直播界面標(biāo)注“AI生成”“擬真場景”等提示信息，5個樣本沒有對體驗人員的問題進行及時回應(yīng)或互動，6個樣本存在未提示私下交易風(fēng)險等問題。此外，部分網(wǎng)絡(luò)直播存在利用公眾信任謀取不當(dāng)利益的情況，近期網(wǎng)信部門也處置了一批利用AI換臉技術(shù)仿冒公眾人物開展直播營銷的網(wǎng)絡(luò)賬號。

　　三是平臺審核機制存在短板，風(fēng)險防控能力待提升。經(jīng)與專家研討調(diào)研發(fā)現(xiàn)，當(dāng)前部分電商平臺尚未建立健全AI內(nèi)容審核專項制度，對商家使用AI數(shù)字人、虛擬場景等技術(shù)缺乏有效管理規(guī)則和精準(zhǔn)識別技術(shù)，導(dǎo)致消費者在購物過程中難以快速辨別信息真?zhèn)?，增加了消費決策風(fēng)險。

　　針對上述問題，北京市消協(xié)推動8家電商平臺簽訂《承諾書》，以“標(biāo)識透明、審核嚴(yán)格、責(zé)任可溯”為核心，提出六大具體措施，為AI技術(shù)在電商領(lǐng)域的合規(guī)應(yīng)用劃定紅線。

　　一是堅守法律底線，明確合規(guī)邊界。嚴(yán)格遵守《消費者權(quán)益保護法》《電子商務(wù)法》《人工智能生成合成內(nèi)容標(biāo)識辦法》等法律法規(guī)，要求平臺及商家在應(yīng)用AI生成合成技術(shù)時，必須以保障消費者合法權(quán)益為前提。

　　二是強化標(biāo)識要求，保障消費者知情權(quán)。要求商家和內(nèi)容創(chuàng)作者在利用AI技術(shù)生成合成數(shù)字人主播、虛擬場景時，在顯著位置清晰標(biāo)注“AI生成”或“擬真場景”等提示內(nèi)容；鼓勵使用平臺提供的統(tǒng)一AI內(nèi)容標(biāo)識功能主動聲明，嚴(yán)禁利用AI合成換臉技術(shù)仿冒名人明星帶貨。

　　三是技術(shù)監(jiān)測與人工復(fù)核結(jié)合，阻斷違規(guī)傳播。在內(nèi)容審核與傳播環(huán)節(jié)，采取措施對商家或內(nèi)容創(chuàng)作者的直播內(nèi)容、直播場景進行監(jiān)測，一旦發(fā)現(xiàn)沒有標(biāo)識的疑似AI數(shù)字人或AI虛擬場景問題，將及時采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，經(jīng)平臺研判，確系存在違規(guī)行為的，將進一步采取屏蔽鏈接等措施。

　　四是提供工具支持，引導(dǎo)商家主動合規(guī)。為商家及內(nèi)容創(chuàng)作者提供便捷的AI標(biāo)識工具和清晰的操作指引，引導(dǎo)其主動規(guī)范使用AI標(biāo)識。

　　五是嚴(yán)打標(biāo)識造假，維護制度公信力。堅決抵制惡意刪除、篡改、偽造或隱匿AI內(nèi)容標(biāo)識的行為，對違規(guī)賬號及內(nèi)容依法依規(guī)嚴(yán)肅處理，維護AI相關(guān)制度的嚴(yán)肅性。

　　六是強化培訓(xùn)賦能，提升行業(yè)認知度。將AI內(nèi)容標(biāo)識要求納入平臺治理體系，對商家或內(nèi)容創(chuàng)作者加強合規(guī)培訓(xùn)，提升平臺內(nèi)AI技術(shù)合規(guī)水平。

　　北京市消協(xié)副秘書長吳海璐表示，下一步，北京市消協(xié)將持續(xù)跟蹤網(wǎng)絡(luò)AI技術(shù)應(yīng)用動態(tài)，組織志愿者體驗直播間購物、追蹤反饋實際感受，督促企業(yè)嚴(yán)格落實承諾內(nèi)容。同時，通過線上線下多渠道開展消費教育活動，向廣大消費者普及AI技術(shù)常識，提升消費者辨別虛假內(nèi)容的能力，增強防范意識。通過多方協(xié)作、多維施策，構(gòu)建技術(shù)合規(guī)、平臺履責(zé)、消費安心的網(wǎng)絡(luò)消費環(huán)境。