網信辦擬管AI 內容禁涉顛覆分裂 稱須交安全評估 指應符社會主義價值觀

【明報專訊】內地科企近來爭相推出類似ChatGPT的人工智能（AI）模型，國家網信辦擬針對生成式人工智能服務出台管理辦法，要求企業在向公眾推出產品前先向當局提交安全評估，並要求AI生成的內容應體現社會主義核心價值觀，不得含有顛覆國家政權、煽動分裂國家等內容。

國家網信辦昨在官網發布關於《生成式人工智能服務管理辦法》的徵求意見稿，向社會公開徵求意見，為期一個月。網信辦指，這是為了「促進生成式人工智能技術健康發展和規範應用」。意見稿指出，利用生成式人工智能產品向公眾提供服務前，應向網信部門申報安全評估。生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一的內容；也不能宣揚恐怖主義、民族仇恨等，以及可能擾亂經濟秩序和社會秩序的內容（見表）。

意見稿亦對服務提供者提出要求，在算法設計、提供服務等過程中，要採取措施防止出現種族、民族、性別等歧視，也應防止生成虛假信息、採取措施防止用戶過分依賴或沉迷生成內容。另外按照《網絡安全法》，要求用戶提供真實身分信息。

違規將警告 嚴重可停服務

針對違反規定的提供者，意見稿指出，法律、行政法規沒有規定的，由網信部門給予警告、通報批評，責令限期改正。拒不改正或情節嚴重的，責令暫停或者終止其提供服務，並處1萬元（人民幣，下同）以上、10萬元以下罰款。構成犯罪的，將追究刑責。

律師指補漏 重點鼓勵發展

內地「財新網」昨指，政府目前會對國內的ChatGPT類產品，進行互聯網新技術新業務安全評估，只有通過評估之後，才能對外提供服務。報道引述上海大邦律師事務所合伙人游雲庭指，《辦法》總體上以鼓勵產業發展為重點，例如《辦法》提及「國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作」，說明新規例是為現行AI服務中出現的問題補漏，「這對從業的公司來說仍是利好的」。

業界稱設倫理委會 產品經審查

問及監管機構就AI生成的最新監管，商湯聯合創始人、首席科學家王曉剛昨表示，有關法規並不是針對AI聊天機器人或大模型本身，而是人工智能的生成。他表示，當一個新技術出現突破，過程產生收入價值，必然陪伴隨風險，當中涉及認知、道德、倫理和法律的問題約束。「商湯明確遵守各地有關人工智能的法規」，在上市前已成立AI倫理與治理委員會和信息安全管理委員會，當有新產品推出時會透過嚴格審查要求，以符合標準。

近來多個主要科企推出ChatGPT類產品，包括百度的「文心一言」、阿里巴巴的「通義千問」、商湯的「商量」等，京東也將在年內上線ChatJD。

■明報報料熱線﹕[email protected] / 9181 4676