{ SKIP }
文:MenClub 魏文青  
POSTED ON 14 May 2024

AI慢慢進入大家嘅生活方方面面,並開始引起一啲新嘅社會問題。例如早前有電話品牌內置嘅AI改圖功能,竟然能夠對相中人「一鍵脫衣」;而有類似「裸體化(Nudify)」功能嘅P圖App亦如雨後春筍一樣紛紛冒起,《New York Times》曾將此類App描述為「在學校中迅速蔓延的新型朋輩性剝削和騷擾形式」。而喺呢個風尖浪口之上,有人發現AI龍頭「OpenAI」早前發佈嘅一份新文件透露,未來可能會開放用家利用旗下ChatGPT等AI模型生成色情內容。

OpenAI上週發佈「規範OpenAI API及ChatGPT中不同模式的應當行為」嘅「Model Spec」首個版本。當中就寫道:「AI助理不應提供NSFW內容,即不適合於專業場合出現的內容,例如色情、極度血腥、詆毀及未經請求的粗俗行為」,但更重要嘅係下面有句「評語」表示:「我們認為只要遵守我們的使用指引,開發者及用家應該有自由運用我們服務的靈活性。我們正在審視是否能夠負責任地,於年齡合適的場景,提供生成NSFW內容的能力。我們希望進一步了解用家及社會對這一方面的期望。」

而有份撰寫呢份文件嘅OpenAI模式主管Joanne Jang接受《NPR》訪問時進一步表示:「我們希望用家於不違反法律或人權的情況下擁有最大的控制權。但開啟Deepfake(AI換臉)功能就一定不可能。這不代表我們嘗試製作AI色情片。」佢亦表示大家對於咩叫「成人影片(Porn)」嘅定義各有不同,「只要不包括Deepfake,這(怎樣才算是Porn)正是我們想知道的。」

以下均為AI生成圖片

 

圖片:Civitai Gallery | AI-Generated Art Showcase

而研究Deepfake案例嘅San Francisco大學法律教授Tiffany Li就警告,開放AI生成NSFW內容「造成嘅傷害可能會比好處多」,而來自Stanford大學嘅Renee DiResta亦認同此舉會有「重大風險」,但就表示「向大家提供一個有將安全納入考慮嘅合法成人影片渠道,好過大家去搵不安全嘅方法」。

資料來源:NPR

日本政府最近正式向 OpenAI 提出抗議,要求後者在旗下的 AI 影片創作應用Sora 2中,停止使用未經授權的日本漫畫與動畫風格素材。據 《The Verge》 報導,這已非口頭表態,而是由日本政府部門透過正式文件要求採取行 ...
tech
【科技】日本警告 OpenAI:停止未經授權使用漫畫與動畫素材!
16 Oct 2025
AI界又有大動作!OpenAI行政總裁Sam Altman今日透過社交平台宣布,從今年12月起,ChatGPT將放寬內容限制,容許經過年齡驗證嘅成年用戶訪問情色內容(erotica),提供更大創作自由度。 blockquote class="twitter- ...
tech
【科技】ChatGPT放寬使用限制!成年用戶驗證後可訪問情色內容
15 Oct 2025