近期，中國之聲報道了生成式人工智能技術在推動數字經濟發展中的關鍵作用。然而，隨著AI技術的廣泛應用，未標注的AI生成內容與人類創作內容之間的界限變得模糊，導致詐騙、侵權等違法行為頻發。為應對這一問題，國家互聯網信息辦公室、工業和信息化部、公安部及國家廣播電視總局聯合制定了《人工智能生成合成內容標識辦法》，該辦法將于今年9月1日正式生效，明確要求用戶在發布AI生成內容時需主動聲明并進行標識。
盡管《標識辦法》尚未施行，各大平臺已提前采取措施規范AI生成內容的傳播。近日，北京互聯網法院審理的一起網絡服務合同糾紛案，就涉及平臺對用戶發言被誤判為“包含AI生成內容但未標識”的糾紛處理。原告在被告平臺上發表的一段關于工作與生活建議的言論，被平臺誤判為AI生成內容，并因此受到隱藏內容和禁言一天的處罰。原告隨即起訴平臺，要求撤銷處罰并刪除違規記錄。
庭審過程中，被告平臺強調，根據雙方的網絡服務合同，平臺有權審核并認定用戶在使用服務時的違規行為，并采取相應治理措施。法院審理認為，平臺在服務協議中已明確告知用戶需對AI生成內容進行標識，未標識者將視為違規，因此平臺有權依據協議對內容進行審查和處理。然而，關于原告如何證明其言論非AI生成，法院指出，在缺乏創作底稿等直接證據的情況下，原告難以提供充分證明。
平臺方面進一步辯稱，其有權選擇合理的技術手段進行內容識別，且無需向用戶透露算法邏輯和技術秘密。然而，法院認為，作為算法工具的控制者和結果判斷者，平臺應對其判斷依據和結果進行合理舉證或解釋。本案中，盡管平臺提供了算法的備案信息，但該信息無法證明與本案爭議的關聯性，因此平臺未能對判斷依據作出合理解釋，應承擔違約責任。最終，法院判決平臺撤銷對原告的隱藏和禁言處罰，并刪除后臺違規記錄。
即將施行的《人工智能生成合成內容標識辦法》詳細規定了平臺在規范AI生成內容傳播方面的責任，包括核驗文件元數據、添加顯著提示標識、提供標識功能等。中國人民大學法學院副教授黃尹旭認為，此案在司法審查規則方面對AI生成內容的標記、平臺識別和治理進行了有益探索。他強調，法院既肯定了平臺利用算法工具履行信息內容管理責任的積極作用，也要求平臺在即時性創作文本場景下對算法自動化決策結果承擔適度說明義務，為算法解釋說明的司法審查標準確立了基準。
黃尹旭還指出，算法治理需在保障技術透明度與激發產業創新活力之間尋求平衡。司法審查應秉持包容審慎的態度，在算法信息適當公開與商業秘密適度保護之間找到平衡點。本案中，法院合理分配了平臺與用戶的舉證責任，既保障了用戶權益，又促進了算法的公開透明和規范應用。
