OpenAI首個AI視頻模型炸裂登場，徹底端掉行業(yè)飯碗！60秒一鏡到底驚人，世界模型真來了？
加入技術交流群
【導讀】剛剛，OpenAI發(fā)布首個AI視頻模型Sora，60秒的一鏡到底，神級效果生成。網(wǎng)友紛紛驚呼AI視頻要變天。卷瘋了卷瘋了，短短十幾小時內(nèi)，OpenAI和谷歌接連發(fā)布核彈級成果。
國內(nèi)還沒睡的人們，經(jīng)歷了過山車般的瘋狂一晚。
就在剛剛，OpenAI突然發(fā)布首款文生視頻模型——Sora。簡單來說就是，AI視頻要變天了！
它不僅能夠根據(jù)文字指令創(chuàng)造出既逼真又充滿想象力的場景，而且生成長達1分鐘的超長視頻，還是一鏡到底那種。
Runway Gen 2、Pika等AI視頻工具，都還在突破幾秒內(nèi)的連貫性，而OpenAI，已經(jīng)達到了史詩級的紀錄。
60秒的一鏡到底，視頻中的女主角、背景人物，都達到了驚人的一致性，各種鏡頭隨意切換，人物都是保持了神一般的穩(wěn)定性。
Prompt: A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. She wears a black leather jacket, a long red dress, and black boots, and carries a black purse. She wears sunglasses and red lipstick. She walks confidently and casually. The street is damp and reflective, creating a mirror effect of the colorful lights. Many pedestrians walk about.
OpenAI究竟是怎么做到的？根據(jù)官網(wǎng)介紹，「通過一次性為模型提供多幀的預測，我們解決了一個具有挑戰(zhàn)性的問題?！?/span>
顯然，這個王炸級技術有著革命般的意義，連Sam Altman都沉迷到不能自拔！
他不僅瘋狂發(fā)推安利，而且還親自下場為網(wǎng)友生成視頻：你們隨意來prompt，我一一輸出。
一位戴著尖頂帽，身披繡有白色星星的藍色長袍的巫師正在施法，他的一只手射出閃電，另一只手中拿著一本舊書。
在一間擁有電影級燈光設置的充滿托斯卡納鄉(xiāng)村風情的廚房里，一位擅長利用社交媒體的奶奶，正在教你制作美味的自制諾奇面。
我們將帶你進行一次未來城市的街頭巡覽，在這里，高科技與自然和諧共處，展現(xiàn)出一種獨特的賽博朋克風格。
這座城市潔凈無瑕，到處可見的是先進的未來式有軌電車、絢麗的噴泉、巨型的全息投影以及四處巡邏的機器人。
想象一下，一個來自未來的人類導游正帶領一群好奇的外星訪客，向他們展示人類極致創(chuàng)造力的結晶——這座無與倫比、充滿魅力的未來城市。
多項技術破紀錄
借助于對語言的深刻理解，Sora能夠準確地理解用戶指令中所表達的需求，把握這些元素在現(xiàn)實世界中的表現(xiàn)形式。
也因此，Sora創(chuàng)造出的角色，能夠表達豐富的情感！
它所制作出的復雜場景，不僅可以包括多個角色，還有特定的動作類型，以及對對象和背景的精確細節(jié)描繪。
看，下圖中人物的瞳孔、睫毛、皮膚紋理，都逼真到看不出一絲破綻，完全沒有AI味兒。
從此，視頻和現(xiàn)實究竟還有什么差別？！
Prompt: Extreme close up of a 24 year old woman’s eye blinking, standing in Marrakech during magic hour, cinematic film shot in 70mm, depth of field, vivid colors, cinematic
此外，Sora還能在同一視頻中設計出多個鏡頭，同時保持角色和視覺風格的一致性。
要知道，以前的AI視頻，都單鏡頭生成的。
而這次OpenAI能在多角度的鏡頭切換中，就能實現(xiàn)對象的一致性，這不得不說是個奇跡！
這種級別的多鏡頭一致性，是Gen 2和Pika都完全無法企及的……
Prompt: A movie trailer featuring the adventures of the 30 year old space man wearing a red wool knitted motorcycle helmet, blue sky, salt desert, cinematic style, shot on 35mm film, vivid colors.
舉個例子：「雪后的東京熙熙攘攘。鏡頭穿過繁忙的街道，跟隨著幾位享受著美麗雪景和在附近攤位購物的人們。美麗的櫻花瓣伴隨著雪花在風中飄舞?！?/span>
Sora根據(jù)這個提示所呈現(xiàn)的，便是東京在冬日里夢幻的一幕。
無人機的鏡頭跟隨一對悠閑散步的情侶穿梭在街道上，左側是車輛在河岸路上行駛的聲音，右側是顧客在一排小店之間穿梭的景象。
Prompt: Beautiful, snowy Tokyo city is bustling. The camera moves through the bustling city street, following several people enjoying the beautiful snowy weather and shopping at nearby stalls. Gorgeous sakura petals are flying through the wind along with snowflakes.
可以說，Sora的效果已經(jīng)領先到了恐怖的級別，完全跳出了用冷兵器短兵相接的時代，其他AI視頻被徹底干趴。
世界模型成真了？？最最最可怕的一點來了，Sora身上，竟已經(jīng)有了世界模型的雛形？
通過觀察大量數(shù)據(jù)，它竟然學會了許多關于世界的物理規(guī)律。
下面這個片段太令人印象深刻了：prompt中描繪了「一個短毛絨怪物跪在一支紅蠟燭旁的動畫場景」，同時描述了怪物的動作和視頻的氛圍。
隨后，Sora就創(chuàng)造了一個類似皮克斯作品的生物，它似乎融合了Furby、Gremlin和《怪獸公司》中Sully的DNA。
讓人震驚的是，Sora對于毛發(fā)紋理物理特性的理解，準確得令人驚掉下巴！
想當初，在《怪獸公司》上映時，皮克斯為了創(chuàng)造出怪物在移動時超級復雜的毛發(fā)紋理，可是費了好大一番功夫，技術團隊直接連肝幾個月。
而這一點，Sora輕而易舉地就實現(xiàn)了，而且從沒有人教過它！
「它學會了關于 3D 幾何形狀和一致性的知識，」項目的研究科學家Tim Brooks表示。
「這并非我們預先設定的——它完全是通過觀察大量數(shù)據(jù)自然而然地學會的?！?/span>
Prompt: Animated scene features a close-up of a short fluffy monster kneeling beside a melting red candle. The art style is 3D and realistic, with a focus on lighting and texture. The mood of the painting is one of wonder and curiosity, as the monster gazes at the flame with wide eyes and open mouth. Its pose and expression convey a sense of innocence and playfulness, as if it is exploring the world around it for the first time. The use of warm colors and dramatic lighting further enhances the cozy atmosphere of the image.
得益于DALL·E 3所使用的擴散模型，以及GPT-4的Transformer引擎，Sora不僅能夠生成滿足特定要求的視頻，而且能夠展示出對電影拍攝語法的自發(fā)理解。
這種能力體現(xiàn)在它對講故事的獨特才能上。
例如，在一個以「色彩繽紛的魚類和海洋生物充斥的，由紙藝精心構建的珊瑚礁世界」為主題的視頻中，項目研究員Bill Peebles指出，Sora通過其攝影角度和拍攝時機，成功地推進了故事的發(fā)展。
「視頻中實際上發(fā)生了多次鏡頭轉換——這些鏡頭并非后期拼接而成，而是模型一氣呵成地生成的，」他解釋道?！肝覀儾]有特別指令它這么做，它卻能自動完成。」
Prompt: A gorgeously rendered papercraft world of a coral reef, rife with colorful fish and sea creatures.
不過，當前的模型并不完美。它在模擬復雜場景的物理效果上可能會遇到難題，有時也難以準確理解特定情境下的因果關系。比如，某人吃掉餅干的一部分后，餅干可能看起來仍然完整無損。
此外，模型在處理空間細節(jié)，如區(qū)分左右時可能會出錯，也可能在描述隨時間變化的事件，如特定的攝影機動作軌跡時，表現(xiàn)不夠精確。好在，它還并不完美。否則，虛擬和現(xiàn)實的界限，還能區(qū)分得清嗎？這不是現(xiàn)實？但是無可否認的是，可怕的事實已經(jīng)就在面前：一個已經(jīng)能夠理解和模擬現(xiàn)實世界的模型，也就意味著AGI已經(jīng)不遠了。「唯一真正的視頻生成工作」業(yè)內(nèi)大佬張啟煊評價道，「Sora是我目前看到唯一跳脫出空鏡頭生成、真正的視頻生成工作?！?/span>在他看來，目前看來Sora跟Pika、Runway是有代差的，視頻生成領域終于被OpenAI支配。或許某天3D視頻領域，有朝一日也能體會到這種恐懼。
網(wǎng)友們都被震驚到失語：「下一個十年會是瘋狂的十年?！?/span>
「都結束了，我的飯碗要丟了?！?/span>
「整個素材行業(yè)都會隨著這篇成果的發(fā)布而消亡……」
OpenAI就是沒法停下干死初創(chuàng)公司的腳步，是嗎？
「好萊塢即將發(fā)生核爆」。
AI電影制作人和他們目前的項目。
技術介紹
Sora是一種擴散模型，它能夠通過從一開始看似靜態(tài)噪聲的視頻出發(fā)，經(jīng)過多步驟的噪聲去除過程，逐漸生成視頻。
Sora不僅能夠一次性生成完整的視頻，還能延長已生成的視頻。
通過讓模型能夠預見多幀內(nèi)容，團隊成功克服了確保視頻中的主體即便暫時消失也能保持一致性的難題。
與GPT模型類似，Sora采用了Transformer架構，從而實現(xiàn)了卓越的性能擴展。
OpenAI把視頻和圖像分解為較小的數(shù)據(jù)單元——「patches」，每個「patches」相當于GPT中的一個「token」。
這種統(tǒng)一的數(shù)據(jù)表示方法能夠在更廣泛的視覺數(shù)據(jù)上訓練擴散Transformer，覆蓋了不同的持續(xù)時間、分辨率和縱橫比。
Sora基于DALL·E和GPT模型的研究成果，采用了DALL·E 3的重標注技術，通過為視覺訓練數(shù)據(jù)生成詳細描述的標題，使模型更加準確地遵循用戶的文本指令生成視頻。
除了能根據(jù)文本指令生成視頻外，這款模型還能將現(xiàn)有的靜態(tài)圖像轉化成視頻，精確細致地賦予圖像中內(nèi)容以生動的動畫。模型還能擴展現(xiàn)有視頻或補全缺失的幀。
Sora為理解和模擬現(xiàn)實世界的模型奠定了基礎，對此OpenAI認為這是實現(xiàn)通用人工智能（AGI）的重要步驟。
作品欣賞
一列火車穿越東京郊區(qū)時，窗戶上反射出的迷人景象。
Prompt: Reflections in the window of a train traveling through the Tokyo suburbs.
在雪地草原上，幾只巨大的羊毛猛犸象緩緩前行，它們長長的毛皮在微風中輕輕飄揚。遠處是雪覆蓋的樹木和雄偉的雪山，午后的陽光穿透薄云，給這個場景增添了一抹溫暖的光彩。低角度的拍攝令這些龐大的毛茸茸動物顯得尤為壯觀，景深效果引人入勝。
Prompt: Several giant wooly mammoths approach treading through a snowy meadow, their long wooly fur lightly blows in the wind as they walk, snow covered trees and dramatic snow capped mountains in the distance, mid afternoon light with wispy clouds and a sun high in the distance creates a warm glow, the low camera view is stunning capturing the large furry mammal with beautiful photography, depth of field.
無人機從空中俯瞰大蘇爾加雷角海灘附近的崎嶇懸崖，海浪沖擊著巖石，形成白色的浪尖，落日的金色光輝照亮了巖石海岸。遠處有一個小島上立著燈塔，懸崖邊緣覆蓋著綠色植被。從道路到海灘的陡峭下降和懸崖邊緣凸出的景象，展現(xiàn)了海岸的原始美麗和太平洋海岸公路的崎嶇風景。
Prompt: Drone view of waves crashing against the rugged cliffs along Big Sur’s garay point beach. The crashing blue waters create white-tipped waves, while the golden light of the setting sun illuminates the rocky shore. A small island with a lighthouse sits in the distance, and green shrubbery covers the cliff’s edge. The steep drop from the road down to the beach is a dramatic feat, with the cliff’s edges jutting out over the sea. This is a view that captures the raw beauty of the coast and the rugged landscape of the Pacific Coast Highway.
藍色時刻下的圣托里尼島航拍視圖，展現(xiàn)了白色基克拉迪建筑和藍色圓頂?shù)慕^美建筑?；鹕娇诘木吧钊藝@為觀止，燈光營造出一種美麗而寧靜的氛圍。
Prompt: Aerial view of Santorini during the blue hour, showcasing the stunning architecture of white Cycladic buildings with blue domes. The caldera views are breathtaking, and the lighting creates a beautiful, serene atmosphere.
一位20多歲的年輕人坐在天空中的一朵云上，沉浸在書本中。
Prompt: A young man at his 20s is sitting on a piece of cloud in the sky, reading a book.
一群活潑的金毛尋回犬小狗在銀白色的雪地上嬉戲，它們好奇的小腦袋時而從雪地中探出，被雪花點綴，萌態(tài)十足。
Prompt: A litter of golden retriever puppies playing in the snow. Their heads pop out of the snow, covered in.
在意大利布拉諾一排排鮮艷的彩色建筑中，一只可愛的斑點狗正通過窗戶好奇地望向外面。與此同時，街道上人來人往，有的步行，有的騎行。
Prompt: The camera directly faces colorful buildings in burano italy. An adorable dalmation looks through a window on a building on the ground floor. Many people are walking and cycling along the canal streets in front of the buildings.
一幅充滿工人、設備和重型機械的建筑工地的移軸攝影。
Prompt: Tiltshift of a construction site filled with workers, equipment, and heavy machinery.
在一個培養(yǎng)皿中，生長著一片竹林，其中小熊貓們在歡快地奔跑。
Prompt: A petri dish with a bamboo forest growing within it that has tiny red pandas running around.
一只卡通袋鼠正在迪斯科舞池中跳舞。
Prompt: A cartoon kangaroo disco dances.
在一杯咖啡中，兩艘海盜船展開了激烈的戰(zhàn)斗，超寫實的近景視頻。
Prompt: Photorealistic closeup video of two pirate ships battling each other as they sail inside a cup of coffee.
大佬猜測：游戲引擎加持？
Pytorch聯(lián)合創(chuàng)始人Soumith Chintala猜測道，「根據(jù)Sam Altman發(fā)布的所有用戶請求視頻，Sora似乎是由游戲引擎提供支持，并為游戲引擎生成作品和參數(shù)」。
英偉達高級科學家Jim Fan對全新Sora模型，發(fā)表了一些自己的觀點：
Sora是一個數(shù)據(jù)驅動的物理引擎。它是對許多世界的模擬，無論是真實的，還是虛構的。該模擬器通過去噪和梯度學習方式，學習了復雜的渲染、「直觀的」物理、長期推理和語義理解。
如果Sora使用虛幻引擎5接受過大量合成數(shù)據(jù)的訓練，我不會感到驚訝的。必須如此！
同樣，愛丁堡大學的博士生Yao Fu表示，「生成式模型學習生成數(shù)據(jù)的算法，而不是記住數(shù)據(jù)本身。就像語言模型編碼生成語言的算法（在你的大腦中）一樣，視頻模型編碼生成視頻流的物理引擎。語言模型可以視為近似人腦，而視頻模型近似物理世界」。
重塑視頻行業(yè)
雖然，文本轉視頻技術要威脅到傳統(tǒng)電影制作，可能還需要很長時間——
你無法通過簡單地將120個Sora生成的一分鐘視頻拼接起來制作出連貫的電影，因為這些模型無法確保內(nèi)容的連續(xù)性。
但是，這并不妨礙Sora和類似的程序徹底改變TikTok等社交平臺。
「制作一部專業(yè)電影需要大量的昂貴設備?！筆eebles 說，「這個模型將讓普通人在社交媒體上制作出高質(zhì)量的視頻內(nèi)容成為可能?！?/span>
*博客內(nèi)容為網(wǎng)友個人發(fā)布，僅代表博主個人觀點，如有侵權請聯(lián)系工作人員刪除。
