AI也需要考慮『政治正確』嗎？
『Nothing，Forever』是一部最近在Twitch平臺上引發了廣泛關注的動畫作品，基本由粗糙的畫面、不知所雲的劇情和機械的電子音構成，之所以能引起討論，是因為它純粹是由AI生成的，我們之前也對此有過報道。
這部形式上模仿了美國90年代的情景戲劇『宋飛傳』的動畫，在Twitch平臺上號稱『永不停播』，因為它采用了OpenAI裡GPT-3語言預測模型，號稱可以實時采集評論區用戶的文字內容，並根據觀眾的反饋來調整劇情走向。
不過雖然在技術上能做到『永不停播』，但在兩個星期前，這個節目還是因為其他原因被平臺封禁。
2月5日，在該動畫的一場深夜個人脫口秀中，虛擬人物Larry發表了一系列關於跨性別者的侮辱性言論，包括了『質疑變性人是否患有精神疾病』以及『變性人是否正在破壞社會結構』等內容。
顯然，這樣的言論勢必會引發多數人的抵制與不滿，按照規定，Twitch平臺對『Nothing，Forever』采取了14天封禁的處罰，而這部動畫在最近即將重新恢復播放。
雖然發表爭議言論的是AI而非真人，但AI背後的研發團隊無疑需要為這起事故承擔相應的責任。
在開發團隊發佈的一份聲明中，他們就表示這『完全是我方錯誤導致的一個技術問題』
開發團隊宣稱根本原因是由於OpenAI的內容審核工具對AI模型意外失效，才導致了後續的事故。
為了能避免類似問題的再次出現，開發人員表示正在組建一個關於AI的『安全委員會』，以便人工智能的審核水平能夠緊隨技術發展，以做到實時檢測可能的敏感內容。
如果AI可以與人類互動並學習相應知識，那麼如何避免它被大量錯誤或者無意義的內容『污染』？這可能是之後人們需要探討的問題。
為了讓節目重新上線，團隊還宣佈會引入一個『觀眾互動系統』，這個系統能夠讓觀眾安全地與節目互動，並且依舊能產出有創意的新內容，但他們目前暫未透露更多的情報。
盡管AI已經顯現出了自己的一部分『創造力』，但在徹底取代人類工作之前，人類還得發明出新的崗位來解決它產生的問題，這可能也算是一種另類的『塞翁失馬』了。
