科技與倫理大戰(zhàn)一觸即發(fā)。

10月9日消息，日前AI圈的焦點幾乎被OpenAI新發(fā)布的Sora2模型所占據(jù)。這款融合了AI視頻生成與社交互動的創(chuàng)新產(chǎn)品，在短短數(shù)日內(nèi)便成為各大社交平臺的熱門話題之一。

圖源：App Store

記得當(dāng)時 OpenAI 剛推出 Sora 2 視頻生成器時就曾公布：公司默認(rèn)禁止“生成公眾人物的形象”。

但最近Sora 2 的創(chuàng)作者在使用過程中意外發(fā)現(xiàn)，該限制存在一個BUG。就是系統(tǒng)并未限制生成與已故公眾人物相關(guān)的視頻內(nèi)容。

這下可不得了，大量Sora 2用戶利用此漏洞，對已故名人的形象進(jìn)行復(fù)刻、拼接，甚至以不尊重的方式進(jìn)行二次創(chuàng)作。

圖源：微博

可以發(fā)現(xiàn)，目前短視頻平臺上充斥著大量借助 AI 技術(shù)讓已故名人“重返人間”的內(nèi)容。

那些已然離世的演員、音樂家、科學(xué)家紛紛重新”出現(xiàn)”在人們的視野之中，但被迫“說出”他們從未講過的話語，甚至一些視頻中含有不尊重已故者的行為。

舉個例子：“邁克爾·杰克遜激情獻(xiàn)唱全新說唱曲目”、“功夫巨星布魯斯·李化身酷炫 DJ 打碟”、“肯尼迪總統(tǒng)親自上陣，為黑五折扣瘋狂吆喝”這類抽象又吸睛的場景。

這些視頻顯然成為了對公共倫理底線的挑釁以及對逝者尊嚴(yán)的肆意踐踏。

更讓人難以接受的是，就連鼎鼎大名的物理學(xué)家蒂芬·霍金都被人惡搞。有人利用 Sora2 生成了讓霍金坐著他那標(biāo)志性的輪椅，去挑戰(zhàn)極具刺激性的U型滑池。

圖源：小紅書

視頻中只見“霍金”搖搖晃晃地操控著輪椅，緩緩來到U型滑池前。令人意想不到的是他順著滑池滑了下去。而更讓人驚掉下巴的是，他仿佛借助這股沖勁一飛沖天，真的“飛”上了天。

這種惡搞視頻引發(fā)了社會各界的廣泛譴責(zé)。網(wǎng)友們紛紛指責(zé)這不僅是對已故科學(xué)家個人尊嚴(yán)的嚴(yán)重踐踏，更是對身障群體的一種冒犯。

雖然OpenAI 采取了在每段生成視頻中疊加動態(tài)水印的措施，試圖借此減少觀眾受虛假影像誤導(dǎo)的可能性。然而當(dāng)人們目睹已故名人被 AI 工具肆意當(dāng)作創(chuàng)作素材時，其在世的親屬以及粉絲難免會深感憤懣。

此前 OpenAI 就曾因 Sora 處理虛構(gòu)版權(quán)作品的方式而陷入爭議。

Sora2 剛推出時，OpenAI 在版權(quán)內(nèi)容使用上是“默認(rèn)允許使用，版權(quán)權(quán)利人需自行選擇“Opt-Out”。但這一立場引發(fā)了好萊塢以及迪士尼、任天堂等大型 IP 持有方的強(qiáng)烈關(guān)注與反對。

圖源：小紅書

針對爭議，OpenAI CEO薩姆奧爾特曼隨后宣布：版權(quán)所有者需主動選擇“opt-in”，其才有機(jī)會出現(xiàn)在 Sora 2 生成的視頻里。這意味著除非版權(quán)權(quán)利人明確給予許可，否則用戶將無法通過 Sora 生成任何受版權(quán)保護(hù)的角色內(nèi)容。而且版權(quán)所有者還能從 Sora 視頻所產(chǎn)生的收益中獲得相應(yīng)分成。

但話說回來，雖然平臺針對在世人群，建立了“同意參與”與“本人授權(quán)入鏡”的雙重保障機(jī)制。但當(dāng)涉及已故者時，因無法獲取其本人的直接同意，這種因?qū)ο鬆顟B(tài)不同導(dǎo)致在實際運作中出現(xiàn)了矛盾。

而 OpenAI 對于這種情況似乎采取了默認(rèn)縱容的態(tài)度。近日一位 OpenAI 發(fā)言人透露：“我們目前暫無更多評論，不過確實允許生成歷史人物的形象。”

說到最后，針對本次事件，你們認(rèn)為在科技發(fā)展與倫理之間，咱們究竟該何去何從？是追逐科技的狂飆突進(jìn)，還是一味堅守倫理而束縛科技發(fā)展？歡迎在評論區(qū)留言說下你的見解。

       原文標(biāo)題 : 爆火全網(wǎng)的OpenAI Sora2，已經(jīng)被網(wǎng)友們“玩壞”了！