3月16日，華爾街日?qǐng)?bào)報(bào)道稱OpenAI計(jì)劃為其人工智能聊天工具ChatGPT推出“成人模式”，這一模式將放寬對(duì)成人內(nèi)容對(duì)話的限制。據(jù)悉，OpenAI將僅允許ChatGPT生成帶有成人主題的文字對(duì)話，官方定義為“情色文字”，而非“硬核色情”，并全面限制生成露骨的圖像、語音或視頻內(nèi)容。系統(tǒng)將內(nèi)置算法攔截非自愿行為或兒童剝削等違規(guī)場(chǎng)景，并定期提醒用戶回歸現(xiàn)實(shí)社交。

OpenAI首席執(zhí)行官山姆·奧爾特曼主張取消對(duì)色情內(nèi)容的禁令，以“將成年人當(dāng)作成年人對(duì)待”。然而，在今年1月的會(huì)議上，OpenAI的心理健康與AI顧問委員會(huì)全票反對(duì)該計(jì)劃。專家警告稱，AI驅(qū)動(dòng)的情色內(nèi)容可能誘發(fā)用戶不健康的情感依賴，影響現(xiàn)實(shí)生活中的社交與戀愛關(guān)系。此外，OpenAI新研發(fā)的年齡預(yù)測(cè)系統(tǒng)存在約12%的誤差率，可能導(dǎo)致未成年人誤判為成年人，從而接觸到不適宜的情色對(duì)話。