來源：量子位

那個 " 無所不能 " 的 GPT-3，現在觸及了人類道德的最底線。

2019 年 12 月，美國猶他州初創公司Latitude，推出了一款開拓性的在線游戲《人工智能地下城》 ( AI Dungeon ) ，靈感來源于經典游戲《龍與地下城》 ( Dungeons&Dragons ) 。

這款游戲一開始就用 OenAI 的 GPT-3 作為噱頭。

玩家可以通過輸入富有創造性的關鍵詞，來創建冒險故事。

但是，沒想到今年卻活生生搞成了暗黑故事。

因為游戲竟出現了帶有兒童色情的內容！

出現兒童色情內容

開始的畫風是很正常，但游戲玩家玩著玩著，就開始采用一些很過分的詞匯作為關鍵詞輸入。

輸出的角色也就越來越暴力、色情，故事場景也越發離譜。

最近監控系統顯示，一些玩家甚至通過游戲生成了涉及兒童性侵的故事。

這到底是道德的淪喪，還是人性的扭曲？

Latitude 正面臨著雙重挑戰

雖然 Latitude 拒絕透露有多少個故事包含性內容，但 OpenAI 說，AI Dungeon 每天吸引著超過 20,000 名玩家。

上周有個 AI Dungeon 的玩家發布了一個安全漏洞，使游戲中生成的每個故事都可以公開訪問。

這種安全漏洞使一些玩家對 Latitude 審核內容的新方法氣不打一處來。

更悲催的是，Latitude 同時還面臨 OpenAI 對其文本生成器進行更嚴格控制的挑戰。

OpenAI 發言人說，現在 Latitude 必須使用 OpenAI 的過濾技術。

目前，Latitude 正在開始禁止曾使用帶有兒童色情內容的玩家，OpenAI 最近發出警告之后，Latitude 也正在研究 " 必要的更改 "。

正在整改

Latitude 上周啟用了新的審核系統，它采用了一種新的過濾器系統，想要防止 GPT-3 生成 " 未成年人的性內容 " ，但在其用戶群體中引發了大量抗議。

一個問題是它太靈敏了。

這個系統有時會禁止涉及兒童或例如 " 五歲 " 等短語相關的故事程序的生成。

另一個問題是它之前只管涉及成年人的虛構性愛作品，導致出現了現在的 bug。

看來，未成年人的色情內容問題的解決的確不是那么容易。

去年有一段時間，玩家注意到 Latitude 試用過一個過濾器，會自動將出現的 " 強奸 " 一詞替換為 " 尊重 "，但目前這個功能已經被刪除了。

Latitude 在 4 月 27 日的公告聲明中，強調了發布的測試系統重點是防止使用 AI Dungeon 創建兒童性虐待的內容。

而 OpenAI 的首席執行官 Sam Altman 在一份聲明中說：" 在某些情況下，內容調整的決策是困難的，但這個不是。這不是我們所有人想要的 AI 的未來。"

是的，的確不是我們想要的。

Latitude 還在繼續整改和調整。

但你覺得能完全控制現在的局面嗎？

網友：GPT-3 的 " 鍋 "，還是 AI Dungeon 的 " 鍋 "？

這一系列的迷惑操作在 Latitude 社區中炸開了鍋。

有些客觀的網友是這樣評論的 ：

如果系統隨機生成這樣的故事，我會理解，但是既然是用戶特別要求這樣的故事，那么問題不應該出在用戶身上嗎？如果應用相同的邏輯，那么在 Google 文檔中鍵入的任何文本也需要檢查 CP。

另外一位網友回復道：

區別在于：GPT-3 經常會對 " 性 " 的東西做出反應，即使目的是非 " 性 " 的。所以，舉一個假設的例子：你輸入 " 我騎上了馬 "，它的反應是 " 馬開始有了高潮 "（我只是在編，但關鍵是 " 騎 " 在不同的上下文中意味著不同的東西）。

還有人認為：

老實說，我覺得 AI Dungeon 對這件事完全不負責。人們使用技術來解決問題，事實就是如此。對于這些戀童癖者而言，最好是通過 AI 來實現自己的幻想，而不是真正現實中的孩子。

對此，另一位網友回復道：

如果它加深并擴大了他們的幻想，那就是一個問題。

細心的網友們還發現了一點，Latitude 在 4 月 27 日的公告聲明中，暗搓搓地提了這么一句：

"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."

AI Dungeon 將繼續支持其他 NSFW 內容，包括成人內容，暴力和褻圣。

聽聽～

這不禁讓人聯想他們的潛臺詞：

我們只是遇到這件事了就緊急公共處理，但處理歸處理，其他能吸引流量的我們一個都不會落下。

所以，Latitude 是不是還想打擦邊球？

AI 游戲帶來道德倫理問題，下一步會不會愈演愈烈？

游戲生成的道德倫理問題可以窺視出人類內心中的深淵。

如何負責任地設置能吸收大量互聯網負面文本的 AI 系統，儼然已成為 AI 研究的熱門話題。

這個問題不僅會影響 Latitude，也會影響更多采用 AI 創新技術的公司。

治標上，應該控制 GPT-3 的文本生成，使得從理論上無限的句子中，僅生成那些在道德上合理，不包含偏見且沒有違反任何法律的語句。

而治本上，只有人類通過加深對事物的理解和道德上的規范，才可能根本性地解決。

另外，值得深思，只是監管成人色情問題就足夠了嗎？

AI 游戲帶來了無限想象和創作空間的可能性，但卻導致了網絡色情暴力的泛濫和任意生成。

在監管過程中又持續出現了游戲公司和 OpenAI，游戲公司和客戶之間的對立和矛盾，如果不能加以控制，下一步更大的問題將會繼續加劇。

這就是 AI 技術發展中不可逆轉的問題嗎？

如何把握好 AI 場景創新和監管規范的平衡？

這有什么更好的辦法能夠解決？

值得每一個 AI 從業者深思。