國家互聯網信息辦公室(網信辦)就《生成式人工智能服務管理辦法》，公開徵求意見，要求該類產品需遵守各類法律監管規定，違反規定者最高判處10萬元（人民幣，下同）罰款，嚴重者或被追究刑事責任。
徵求意見稿提出，利用人工智能生成的內容，應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容； 不得利用算法、數據、平台等優勢實施不公平競爭。內容應當真實準確，採取措施防止生成虛假信息。
意見稿又提出，利用生成式人工智能產品向公眾提供服務前，應向國家網信部門申報安全評估；提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應暫停或者終止服務。 提供者違反規定將受處罰。若構成犯罪依法追究刑事責任。同時，對於運行中發現、用戶舉報的不符合本辦法要求的生成內容，除採取內容過濾等措施外，應在三個月內通過模型優化訓練等方式防止再次生成。
相關徵求的意見反饋截止日為今年5月10日。
