我國對于AIGC（人工智能生成內(nèi)容）的第一份政府文件或將出爐，4月11日，國家互聯(lián)網(wǎng)信息辦公室（簡稱“”）發(fā)布通知，就《生成式人工智能服務管理辦法（征求意見稿）》（簡稱“《意見征求稿》”）向社會公開征求意見，意見反饋截止時間為5月10日。

《意見征求稿》發(fā)布后，A股相關概念出現(xiàn)短時波動，wind統(tǒng)計的ChatGPT指數(shù)、AIGC指數(shù)、存儲器指數(shù)、WEB3.0指數(shù)等短期有約1個百分點的下挫，但隨后即恢復早間上漲勢頭。截至發(fā)稿，AIGC指數(shù)、WEB3.0指數(shù)均有3%左右漲幅。

促進健康發(fā)展

從文件表述來看，對行業(yè)的健康發(fā)展持鼓勵支持態(tài)度。表示，制定本辦法的目的為促進生成式人工智能健康發(fā)展和規(guī)范應用，并在辦法中明文表示“國家支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源”。

定義，所謂“生成式人工智能”，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術。明確研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民境內(nèi)公眾提供服務的，適用本辦法。

在服務提供者的準入資格方面，《意見征求稿》要求利用生成式人工智能產(chǎn)品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

其中，《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》由和公安部在2018年11月發(fā)布，旨在維護網(wǎng)上信息安全、秩序穩(wěn)定，防范謠言和虛假信息等違法信息傳播帶來危害。重點評估內(nèi)容包括：用戶真實身份核驗以及注冊信息留存措施，個人信息保護以及防范違法有害信息傳播擴散、社會動員功能失控風險的技術措施等。

《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》則在2021年12月由、工信部、公安部、市場監(jiān)管總局聯(lián)合發(fā)布，聚焦算法推薦服務亂象問題，構建算法安全治理體系，規(guī)范互聯(lián)網(wǎng)信息服務算法推薦活動，規(guī)定要求服務提供者應當在提供服務之日起十個工作日內(nèi)履行備案手續(xù)。

而針對用戶端，《意見征求稿》明確，提供生成式人工智能服務應當按照《中華人民網(wǎng)絡安全法》規(guī)定，要求用戶提供真實身份信息。提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網(wǎng)絡炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當?shù)纳虡I(yè)營銷等，應當暫?；蛘呓K止服務。

明確服務提供、預訓練數(shù)據(jù)的具體要求

在此基礎上，《意見征求稿》詳細地分別對提供生成式人工智能產(chǎn)品或服務，對用于生成式人工智能產(chǎn)品的預訓練、優(yōu)化訓練數(shù)據(jù)提出明確要求。

《意見征求稿》明確，提供生成式人工智能產(chǎn)品或服務應當遵守法律法規(guī)的要求，尊重社會公德、公序良俗，符合五項要求：

（一）利用生成式人工智能生成的內(nèi)容應當體現(xiàn)社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、穢色情信息，虛假信息，以及可能擾亂經(jīng)濟秩序和社會秩序的內(nèi)容。

（二）在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。

（三）尊重知識產(chǎn)權、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實施不公平競爭。

（四）利用生成式人工智能生成的內(nèi)容應當真實準確，采取措施防止生成虛假信息。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產(chǎn)權。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

《意見征求稿》明確，用于生成式人工智能產(chǎn)品的預訓練、優(yōu)化訓練數(shù)據(jù)，應滿足要求：

（一）符合《中華人民網(wǎng)絡安全法》等法律法規(guī)的要求；

（二）不含有侵犯知識產(chǎn)權的內(nèi)容；

（三）數(shù)據(jù)包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；

（四）能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性；

（五）國家網(wǎng)信部門關于生成式人工智能服務的其他監(jiān)管要求。

此外，《意見征求稿》還對一些可能的情形提出針對性的要求，比如：

提供者應當明確并公開其服務的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容；

提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務；

提供者不得根據(jù)用戶的種族、國別、性別等進行帶有歧視性的內(nèi)容生成；

提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象、名譽以及其他合法權益，不進行商業(yè)炒作、不正當營銷等。

在意見征求稿的最后，還擬定了提供者違反辦法規(guī)定的處罰，處罰包括終止利用生成式人工智能提供服務，具體分為兩大類情況：

1、供者違反本辦法規(guī)定的，由網(wǎng)信部門和有關主管部門按照《中華人民網(wǎng)絡安全法》《中華人民數(shù)據(jù)安全法》《中華人民個人信息?！返确?、行政法規(guī)的規(guī)定予以處罰。

2、法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和有關主管部門依據(jù)職責給予警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫停或者終止其利用生成式人工智能提供服務，并處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

責編：張騫爻

校對：高源