鑒於用戶期望：OpenAI考慮允許人們通過AI生成色情圖片 但不能偽造他人 – 藍點網

即用戶不得生成用來偽造他人色情內容的圖片。

另外 OpenAI 強調討論這些內容不代表該公司已經在嚐試開發人工智能色情相關的內容，

需要強調的是 OpenAI 考慮的不僅是文本生成圖片，最大程度的擁有控製權、用戶完全可以自己部署並生成任何內容。可以生成自己想要的任何內容而不會被限製。在適合年齡的環境中生成 NSFW 內容 (注：NSFW 指的是不適合上班瀏覽，因此需要探索能否在負責任的前提下，但如果是開源 / 開放可以在本地運行的人工智能模型，

OpenAI 似乎已經了解到用戶可能對通過人工智能生成色情圖片有著期望，

對於生成圖片類，如果用戶嚐試在提示詞中描述相關詞匯可能會被係統自動攔截，當然這都可能需要驗證年齡確保用戶在已經成年的情況下使用。按照討論諸如利用 ChatGPT 生成色情類的文本內容也是可以的，用於代指各類色情或令人不適的內容等)。盡管 OpenAI 考慮允許使用人工智能生成色情圖片 (甚至包括未來使用 OpenAI Sora 模型生成色情視頻)，即是否放開這類限製。

現在 OpenAI 已經開始考慮是否要放開這個限製，該公司希望確保用戶在不違反法律或他人權利的情況下，即允許用戶通過諸如 DALL-E 3 等文本生成圖像模型來生成色情圖片。

現階段這些還是討論，嚴重的情況下甚至有可能會被平台封禁賬號。

目前非開源的文字生成圖像類人工智能應用都是禁止用戶生成任何色情內容的，自然沒有這種限製，

這種共識至少現階段是被各種人工智能模型普遍遵守的，