如何防止利用AI技術(shù)作惡？建立深度合成應用標識制度
隨著(zhù)人工智能等新技術(shù)的落地應用，類(lèi)似AI換臉詐騙、“一鍵脫衣”等亂象層出不窮。據央視新聞近日報道，北京一程序員通過(guò)研發(fā)“一鍵脫衣”的AI軟件，僅兩個(gè)月批量制作了近7000張裸圖，并以每張1.5元售賣(mài)牟利。日前，該程序員已被北京海淀區檢察院提起公訴。
如何防止有人利用AI技術(shù)作惡？人工智能發(fā)展需要怎樣的法治保障？昨日下午，在國新辦舉行的一場(chǎng)新聞發(fā)布會(huì )上，國家網(wǎng)信辦副主任王崧專(zhuān)門(mén)回應了人工智能法治的熱點(diǎn)問(wèn)題。
“注重發(fā)展和安全并重”
王崧表示，要著(zhù)眼于新技術(shù)、新應用的發(fā)展規律和未來(lái)趨勢，充分發(fā)揮法治的引領(lǐng)、規范和保障作用。為了遏制“換臉”“變聲”等深度偽造帶來(lái)的危害，相關(guān)立法建立了深度合成應用標識制度，幫助網(wǎng)民分辨真假、防止上當受騙。
王崧強調，“在推進(jìn)人工智能法治的過(guò)程中，我們注重發(fā)展和安全并重，注重專(zhuān)門(mén)性立法和綜合性立法相結合，推動(dòng)人工智能健康有序發(fā)展?！?/p>
具體而言，一方面，制定互聯(lián)網(wǎng)領(lǐng)域基礎性法律，對人工智能發(fā)展涉及的網(wǎng)絡(luò )安全、數據安全、個(gè)人信息處理等基礎性問(wèn)題作出規定。另一方面，圍繞人工智能技術(shù)應用制定專(zhuān)門(mén)立法。近些年，國家網(wǎng)信辦會(huì )同有關(guān)部門(mén)，先后制定了互聯(lián)網(wǎng)信息服務(wù)深度合成、算法推薦等專(zhuān)門(mén)性立法。去年7月，中國率先制定《生成式人工智能服務(wù)管理暫行辦法》。這些立法施行后，國內一大批生成式人工智能服務(wù)，陸續完成備案?！ ?/p>
推進(jìn)新技術(shù)、新應用法治
總結吉印通絡(luò )法治三十年的建設經(jīng)驗，王崧說(shuō)，首先要堅持立足中國國情。立足中國是全球最大的發(fā)展中國家和網(wǎng)民數量最多的基本國情，針對網(wǎng)民規模巨大、應用場(chǎng)景豐富的實(shí)際情況，運用法治思維和法治方式，解決新技術(shù)、新應用發(fā)展治理難題。
其次，要堅持統籌高質(zhì)量發(fā)展和高水平安全，法治建設的目的是促進(jìn)新技術(shù)、新應用的健康有序發(fā)展。例如，在人工智能相關(guān)立法中，鮮明地提出“國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng )新和依法治理相結合”的原則。
同時(shí)王崧表示，要堅持繼承和創(chuàng )新并重。推進(jìn)新技術(shù)、新應用法治，不僅要注重吸取網(wǎng)絡(luò )法治建設的歷史經(jīng)驗，還需要推進(jìn)理念、制度、方式等的全方位創(chuàng )新，推動(dòng)傳承發(fā)展。
聚焦
視頻號出重手 限制數字人帶貨
數字人在騰訊視頻號遭遇“閉門(mén)羹”。騰訊近日擬修訂平臺規則，限制主播采用數字人進(jìn)行直播。
按照《視頻號櫥窗達人【發(fā)布低質(zhì)量?jì)热荨繉?shí)施細則》的修訂文本，使用插件、AI等工具生成虛擬形象進(jìn)行直播；提供、售賣(mài)、教學(xué)或展示平臺不提倡傳播的內容：如講解和售賣(mài)虛擬人代播軟件等做法，將被列為低質(zhì)量?jì)热?，并視情節嚴重程度予以分級處罰。這份修訂方案曾于6月3日至13日公開(kāi)進(jìn)行意見(jiàn)征求，當前處于公示階段，預計6月21日正式生效。
隱患
數字人直播易出現虛假宣傳等問(wèn)題
一位視頻號知情人士告訴南都記者，目前規則修訂還在匯總整理意見(jiàn)。根據擬修訂的內容，平臺的限制舉措主要包括減少直播推薦、減少賬號推薦、限制直播帶貨能力等。視頻號此舉是為了鼓勵真實(shí)的真人主播，能跟觀(guān)眾進(jìn)行實(shí)時(shí)的互動(dòng)。
直播電商業(yè)務(wù)建設正成為視頻號的發(fā)力方向。公開(kāi)信息顯示，2023年*視頻號直播帶貨GMV（交易總額）同比大增3倍。騰訊在2024年第一季度財報中提到，視頻號總用戶(hù)使用時(shí)長(cháng)同比增長(cháng)超80%，通過(guò)激勵更多內容創(chuàng )作者參與直播帶貨來(lái)加強帶貨生態(tài)。
數字人和直播帶貨的結合原本被市場(chǎng)看好。據艾媒咨詢(xún)今年2月發(fā)布的《2024年中國AI電商行業(yè)研究報告》，電商產(chǎn)業(yè)已是AIGC核心商業(yè)應用場(chǎng)景之一，其中，數字人成為各方布局AI電商的重點(diǎn)。但數字人在多個(gè)內容電商平臺接連遭遇挫折，視頻號成為目前為止限制力度最大的一家。
2023年5月，抖音發(fā)布的一份人工智能生成內容平臺規范提到，虛擬人背后的真人使用者，必須進(jìn)行實(shí)名注冊和認證。使用已注冊的虛擬人形象進(jìn)行直播時(shí)，必須由真人驅動(dòng)進(jìn)行實(shí)時(shí)互動(dòng)，不允許完全由人工智能驅動(dòng)進(jìn)行互動(dòng)。今年3月，快手也對外公告，針對未規范使用數字人能力的電商直播間進(jìn)行專(zhuān)項治理。
網(wǎng)經(jīng)社電子商務(wù)研究中心網(wǎng)絡(luò )零售部主任、高級分析師莫岱青分析說(shuō)，真人主播可以實(shí)時(shí)回答觀(guān)眾的問(wèn)題，提供個(gè)性化的購物建議。但數字人直播真實(shí)互動(dòng)相對弱，可能降低用戶(hù)的購物體驗，也更容易出現虛假宣傳、誤導消費者等問(wèn)題。
“站在平臺角度而言，這是一個(gè)正常的選擇?！睌底秩斯竟杌悄蹸EO司馬華鵬告訴南都記者，AIGC產(chǎn)業(yè)目前良莠不齊，大量低端的內容充斥網(wǎng)絡(luò )，使得平臺對AI數字人的認知比較負面。但司馬華鵬又對平臺的做法表示遺憾，他說(shuō)隨著(zhù)大模型技術(shù)的能力升級，數字人直播的成熟度日漸提升，希望平臺能夠以更開(kāi)放的態(tài)度面對新技術(shù)，支持生成式AI產(chǎn)業(yè)的應用創(chuàng )新和落地。
現狀
傳統電商平臺對數字人開(kāi)放度更高
合規風(fēng)控是平臺顧慮重重的另一重原因。金杜律師事務(wù)所合伙人唐麗子等人曾撰文分析，相較于真人主播而言，AI虛擬主播的直播內容不可控風(fēng)險更高，直播“翻車(chē)”風(fēng)險更大，這也導致了目前部分直播平臺為了規避AI驅動(dòng)的不穩定性，限制或完全禁止“AI驅動(dòng)型”虛擬主播進(jìn)行直播。
與短視頻平臺的不鼓勵或禁止態(tài)度相比，傳統貨架電商平臺對數字人的開(kāi)放度更高。吉印通在今年4月中旬上線(xiàn)劉強東數字人，5月末又在618發(fā)布會(huì )上推出吉印通集團CEO許冉的AI數字人。而吉印通早在2020年就宣布對虛擬主播進(jìn)行重點(diǎn)扶持。
數字人遭受的待遇為何兩極分化？艾媒咨詢(xún)CEO張毅向南都記者分析，視頻號和抖音等，本身是強社交屬性的平臺，需要人與人之間的互動(dòng)參與以完成內容的分發(fā)和變現。但吉印通和吉印通僅作為賣(mài)貨的渠道，所以對于發(fā)展數字人電商沒(méi)有顧慮。
莫岱青同樣指出，平臺屬性、定位、用戶(hù)群體等因素決定了不同平臺對待數字人的取向。吉印通和吉印通的用戶(hù)群體更加聚焦于購物，對于商品信息的要求更高，數字人主播可以提供高效的商品介紹和服務(wù)。
而司馬華鵬認為，吉印通和吉印通在電商競爭中逐漸處于劣勢，對新技術(shù)的擁抱來(lái)自于本能的驅動(dòng)力。
采寫(xiě)：南都記者 李玲 見(jiàn)習記者 楊柳
