360度全景視頻(Stereo3D)的現狀以及發展趨勢?

360度全景視頻行業背景是怎樣的,在VR的大背景下會有怎樣的發展?另外技術上利用軟體拼接或者演算法重新生成(Google I/O 推出的Jump裝置)難度是否很大。
從現有視頻來看,沉浸式沒有那麼強,都會有一些拼接痕迹。Samsung為Gear做的全景視頻看上去還不錯。


利益相關:
最近一個多月從零開始搞定了(真累成狗了)
1、全套拍攝軟硬體。
2、IOS/ 安卓 播放APP 開發,附帶PC上的播放器。(C++和QT威武,制霸一切平台,我們是C++團隊,所以選擇了如此奇怪的不走尋常路)。
3、為客戶從申請鄧白氏到APP上架
4、其中若干站的拍攝,包括汽車越野,潛水、滑翔傘、帆船、瀑降、娛樂風洞、演唱會等。陸續後期製作中,
陸續內容更新上傳中。

是給一個商業項目。「賓士GLA新車發布」
鏈接:GLA VR 內容和APP持續更新,歡迎關注。

趟了很多的坑。急的要命,總的來說,APP還有許多要優化的地方,尤其是手機感測器的演算法,太急了連測試的時間都沒有。只能先上去,慢慢再改了。所以各位輕噴(因為時間關係,無法做各平台原生開發,所以一刀流的結果就是出活快,但是項目死線緊逼,沒時間針對平台做特別的性能優化,遺憾)。不過因為高密度的拍攝,各種場景全走一遍,製作經驗上已經積累了不少獨門秘笈。

總的來說,門檻並不高,但對團隊技能組合要求很高。所以估計接下來會在發燒友和小範圍商用的圈子裡開始火爆(類似小飛俠航拍這樣的機構)。

感想:安卓好多機器其實可以硬解4K ,可惜沒時間測試市面上幾十種常用機型了,所以最後沒上4K片源。好遺憾啊。做了全景視頻才知道4K解碼是必須的,OLED是必須的,4K手機屏是必須的,可彎曲的柔性OLED是必須的。。。然並卵,YY一下而已。

至於JUMP,沒啥新鮮的。所以也就不特別評論了,深圳做安防攝像頭的廠子早就能做一圈全景的了,只是沒做360度全球域的。

盤點一下行業吧:

1、暴風投資了若干個國內的拼接軟體公司,簽約了30餘家有全景拍攝能力的團隊。也算布局了好半天。然並卵,被樂視一步破宮,第一個做了全景直播,前年底的時候我還尋思趕緊做個全景直播技術方案,賣個小米或樂視,可惜動手太慢,踏實了這下,以後引以為戒。

2、其實KS和INDEGOGO上好多眾籌的一體式全景攝像頭。最著名的這幾個
PANONO,我預定了N年,見不到啊。剛發郵件說,要加錢了!
BUBL, 我預定了N年,見不到啊。剛聽說,在杭州開了個分公司,估計要藉助中國人解決
產能問題了。中文名很霸氣,叫霸博!(其實產品出來了,解析度太低)
SPHERICAM ,第一代別人預定了N年,也見不到啊被罵死。第二代又開始眾籌了。估計也見不到。

為啥這幾家都忽悠的這麼好,等我們褲子脫光了就讓我看這個?
大概分析了一下原因,不管是4攝像頭,6攝像頭,12攝像頭方案。實際上這個事要求不低的。
攝像頭模組的調教暫且不談,就說這幾路攝像頭,要做成一體機的話,肯定不是軟體拼合而是硬體拼合了,並且要輸出實時視頻流。
那麼幾個問題要解決的(我不是搞硬體的,說錯了輕噴)
1)幾個攝像頭的硬體時鐘同步問題。
2)多個攝像頭進來的大帶寬的高速IO問題。
3)實時H264編碼問題。

這些計算量和實時性,依靠現在瑞芯全志聯發科的小ARM板子和GPU們都搞不定。基本上都是xlinx的大概是ARM核+FPGA的那種板子,說不定還有少量DSP的參與才能達到。作為硬體開發團隊來說,做個原型很容易,但是小規模生產的話價格難於降下去,降到萬元上下都是良心價。其實最好是有企業專門做個ASIC ,但這個回報實在看不清,沒有人輕舉妄動,除非MTK這樣的大廠某天抽風做量產IC方案。因此綜合來看,成本很不容易降低,但指標降低些人又不買單了。等於這幾家打落牙往肚裡吞,大概也就是為啥遲遲不發貨的原因。而且他們不藉助於寨都深圳,就想打閃電戰那是妄想,事實會教育這些老外的。

所以呢,用GO PRO的DIY方案 還會紅火個一年半載的,以及各種抄襲的東西,比如小蟻等。各種周邊配件現在到處雨後春筍般的冒出來。

3、YOUTUBE早已上了全景內容,還有幾個知名的愛好者網站也有大量的全景資源了。
國內呢? 其實聽說各家都在布局。但愛奇藝總裁於周日在望京的VR聚會上,宣布了愛奇藝
的全部戰略,PPT我沒拍,大概內容是API的開放、API的合作,UGC的鼓勵,UGC團隊的合作或分成,對攝像頭廠家的支持政策,等等等等,已經完整的提出來了,這比別家要先一大步,起碼看起來很完整了,這條鯰魚要讓其他幾家也開始動作了。不過微信如果不解決WEB GL兼容問題的話,想要在微信里直接播流媒體全景視頻的話怕是妄想,因此騰訊的態度其實很重要,如果微信往前一步,那麼對國內的全景視頻生態圈將是個巨大的推動。

4、什麼87870啊。SIGHT PANO啊,以前都沒聽過的,突然間就冒出來拿了上千萬的天使輪。不得不感慨VR最近果然是VC的關注方向,想要熱錢的同行們,趕快了,VC的錢明年就不一定什麼情況了。

---------------------------------------------------------------------------------------------------------------------------------
自己打臉一次。更新,之前的全景攝像機就這麼多,直到今天看到諾基亞加入戰團。。。。
卧槽。。。。。。。。。
諾基亞發布OZO 360度全景攝像機:多達8隻「眼「
畫風轉變太快。。。。
那估計很多格局要變了。
---------------------------------------------------------------------更新的分割線
諾基亞把我自己打腫的臉又打了一次。。。。。
價格出來了,數萬美元。。。
果然便宜不下來。。。。被我猜中了。。


現狀就是一窩蜂都在上, 行也得上,不行瞎忽悠也在上
發展趨勢是,現在階段清晰不夠好,全景視頻就算4k的球體解析度 真正觀看起來還不如640 480的解析度,更何況拍攝視頻本身銳度就不夠好,
手機機能也是瓶頸,視頻過高解析度的話,手機基本還是帶不動的,這個得等硬體進步。

另外就是全景視頻的立體效果,這個我的個人看法是拍攝時候生成視差的置換貼圖實時置換應該是可以部分實現的,當然又帶來手機機能的調整,不過看來國外的開發者們想到的也是這個方法。

拼接痕迹的話 更多是製作的精度問題,倒還不是技術壁壘那麼高聳


哦也補充下,

一體化方案,在前端,需要全景攝像頭採集,需要解決:
1. 圖形拼接演算法, 6頭還是8頭或者12頭,必須進行拼接,得看演算法效率和拼接質量
2. 專有硬體支持,目前看還得FPGA, DSP不知道能不能搞定,如果是X86的,用N卡 CUDA速度貌似不錯,但沒實際測過。
優點: 一點化方案,可以將設備做成便攜。

另外有國外video stitch的workstation方案:
1. 高清採集卡,輸入HDMI,可以任意搭配Go Pro或者其他任何帶HDMI輸出的專業攝像機或者攝像頭
2. 普通高配PC或者工作站配備I7 + 高配N卡,實時拼接
3. 直播流打包分發, Image --&> H264 Encode ---&> RTMP ,直接對接流分發網路,可以直接對接商用CDN ,

Vr 360全進視頻,一個難點,就是 video stitch演算法,可以使用Opencv stitching或者libpano或者參考業界paper自己耕田吧。

從目前趨勢來看,幾個比較典型的應用場景:
1. 直播,實際場景可以覆蓋到 演唱會、 真人秀 , 使用過幾個全景演唱會視頻,沉浸感和環繞音效,整體感覺很贊。
2. 虛擬影院,模擬影院場景,包括光線,如果音效AR到位,體驗媲美院線現場體驗。

關於 VR帶入感或者沉浸感:
1. 嚴格遵循Google CardBoard Design建議和Oculus的一些基本設計準則,避免用戶眩暈,遵循反基本生理規律。
2.重新設計交互,確保時刻可跟隨
3.對Video Cinema或者Video直播,確保跟實際場景高保真,包括光線和道具 。

關於呈現段或者用戶端APP構建:
1.請使用Unity吧,如果要做3D VR交互。
2.如果是單純的VR直播視頻,也可以用OpenGl做球面投影。


個人認為不會有完美的「全景3D視頻」出現。如果是虛擬構建的場景,可以通過改變雙攝像機(目)的位置體驗「無死角全景3D」,但如果是拍攝出來的視頻,理論上是不可能有「無死角全景3D」體驗的,只能靠提升攝像頭的數量來降低丟失立體角度的幾率。


現狀混亂,但絕對是大勢所趨。技術含量不高,製作得好足夠吸引眼球。


關注AMD的小夥伴都知道Radeon Loom這個項目,這是AMD的開源360度實時視頻拼接方案,今天就請跟隨銳VR來了解一下關於Loom的更多細節。

首先,關於Radeon Loom的命名:從新石器時代的洞穴壁畫到當代的IMAX及VR/AR體驗,都可以看出來人們非常享受360度環境下的藝術體驗,包括文藝復興時期的壁畫和內部繪製畫作,19世紀的大風景畫幕和環場影像以及最新興起的沉浸式視覺體驗。Loom這個單詞的中文釋義為「織布機」,織布機已經擁有數千年的歷史,並且對藝術和史詩講述類織錦畫的創作至關重要,如闡述了11世紀諾曼征服的長達70米的貝葉掛毯。Radeon Loom的命名保留了這一意象,希望能夠幫助數字時代的故事陳述者去編織和拼接下一部永恆的史詩。

關於Radeon Loom

正如現代機械織布機能夠在無數的線軸上製作出美麗的圖像一樣,AMD的Radeon GPU同樣可以處理成千上萬的多線程任務,渲染出令人驚嘆的數碼畫面。

1801年,法國人賈卡革新的提花織機引進了自動穿孔裝置,使得現有的工廠織布機可生產更為複雜的圖案,極大地提高了生產力,這對今天的時尚行業都影響巨大。Radeon Loom的目標本質上是與之一致的:為影視級VR視頻體驗提供創造性的動力,使高質量360度視頻的創作過程更加簡化和現代化,使內容創作者釋放更多的精力在獨特的內容革新上面。

我們的第一個目標,是使用戶在使用高質量的360相機陣列拍攝影片的過程中,就能夠通過Oculus Rift或HTCVive預覽360度視頻。反覆設計後,我們想出了一些解決方案,其中一個如下圖所示:

https://pic4.zhimg.com/v2-a81b746a0e2ab94354156e22de1879c7_b.png" dw="1280" dh="720" w="1280" data-original="https://pic4.zhimg.com/v2-a81b746a0e2ab94354156e22de1879c7_r.png">

有些重要的細節不得不提。首先,我們使用了快速的工作站顯卡,AMD FirePro? W9100或Radeon?Pro WX系列,因為顯卡速度越快,支持的鏡頭越多,解析度也更高。其次,我們通過SDI影像擷取卡和DirectGMA軟體從鏡頭中獲取數據流,所以這些數據可以被直接傳遞到GPU存儲緩衝區。最後,我們使用BlackMagic相機,通過HDMI輸出同步鎖相,並通過變流器將每一個信號轉換成轉播級SDI(串列數字介面)。

一旦這些數據通過DirectGMA進入GPU存儲器,一組複雜的演算法會將所有的圖片縫合成為360度球形視頻。當視頻被縫合完成,就會通過SDI被輸出到一台或多台PC,可通過頭顯直接觀看並/或上傳到互聯網。

在為一套實時360視頻裝備設定位置時會產生一些問題,這一定要引起重視。360度拍攝中不可能有一位攝影助理幫你手持並操控相機,否則他也會出現在視頻中。因此,你可能會想要定位拼接縫並/或在一定距離外通過PC查看拍攝的畫面,比如在一堵牆或一塊綠幕後。

為什麼拼接很難

如果你看過一些高質量的360度視頻,你可能會認為360度拼接已經是一個基本上被解決了的問題。然而,並不是的。但過去這幾十年的演算法先驅們所做出的成績值得被肯定,因為他們的努力已經解決了很多關於全景和360度VR拼接的問題。

然而,諸如視差、相機和拼接縫的數量、感測器之間的曝光差異等問題必須要被解決。先來解釋一下視差。簡單來說,就是兩個不同位置的鏡頭從不同角度拍攝同一個物體,就像你把一根指頭豎起靠近鼻樑中央,分別遮住一隻眼睛,用另一隻眼睛去觀看這根手指和其背景畫面,你會發現不同眼睛看到的畫面角度是不同的。

第二個問題是鏡頭數量越多越好,因為解析度和光學性能會因此而提高(因為畸變會減少)。然而,這意味著需要更多的縫合處理。此外,當人和物體多次在縫合處穿行,視差問題會因為微小的角度差而反覆出現。

第三個涉及的問題是每個鏡頭感測器都有不同的照明條件。比如,拍日落的時候會有一個面向西邊落日的鏡頭,此時朝東的鏡頭拍攝區域的光線就相對比較暗。現有的成熟演算法可以調節和協調圖像之間的曝光變化,但要以損失光照、顏色精準度和整體的動態範圍為代價。這一問題在弱光條件和有限的藝術表現形式下會更加突出。

拼接優化

我們在設計過程中遵循了一些簡單優化指導,如「儘可能少的觸碰每個像素」。以及,一旦「觸碰」或讀一個像素,儘可能多的在其之上進行操作。這說起來很容易,實際操作起來很難,因為數據量之龐大。通過使用DirectGMA(只適用於AMD FirePro? and Radeon? Pro顯卡)我們不必在CPU和GPU存儲器中複製數據,再循環往複。

另一個重要的優化是準備工作負載使GPU保持繁忙狀態。我們能做到的是在像素組被處理時提前準備好流水線。

為了達到多鏡頭實時拼接的目標,我們嘗試了多種實驗。最終,我們選擇並開發計算周期最少,品質最高的演算法,然後優化演算法的執行。當然,我們還選擇了最有效的演算法去優化了我們的大規模並行處理器和可擴展的FirePro?and Radeon? GPU。

Radeon Loom Beta版本現已可獲取

360度視頻創作已經爆發,僅僅在2016年就有近百萬的360度視頻被上傳至Facebook,YouTube等社交媒體網站上,並且有望在2025年形成115億美金規模的產業。如上所述,鏡頭越多,最終的360度體驗解析度和品質越高。然而,拼接工作著實是一個巨大的挑戰。

Radeon Loom通過GPU大量的並行處理革新了實時及線下360度視頻拼接的過程。Radeon Loom使用AMDKhronos? OpenVX? 開源計算視覺架構,可實時拼接多至24個4k x2k鏡頭、離線拼接多至31個8K x4K鏡頭拍攝到的畫面。如果你恰巧已經是一位360視頻開發者,可點擊Radeon Loom StitchingLibrary on http://GPUOpen.com 下載Radeon Loom的beta版本。

目前AMD中國團隊正在和本地攝像機開發商合作,提供端到端的解決方案,屆時會面向VR全景用戶發布!


全景≠VR,全景相機創業陷入國外開源,國內自主怪圈
劉方平  來源:雷鋒網   2015年12月01日 11:48評論(0 )

【IT時代網、IT時代周刊編者按】跟隨VR發展起來的全景相機,並沒有完全局限於VR領域,很多全景相機廠商把自己定位為消費級全景相機,為普通消費者提供儘可能好的全景照相與攝影體驗,從而生產一些高質量的全景內容,只不過,國內全景相機創業公司還處在利用國外開源程序的階段,盡量壓低成本。因為技術研發投入太高,消費者也無法承擔如此高價格的產品。

國外一開源,國內就自主。這在VR(虛擬現實)領域體現的淋漓盡致——Google的Cardborad一開源,國內就有數百家廠商蜂擁做了各種插手機的VR盒子。到了全景相機,這一幕似乎又開始重演。

全景拍攝算不上特別新鮮的事物,智能手機都有全景拍攝的功能,但本篇文章所要談的是使用2個以上攝像頭,能拍出360度全景照片和視頻的相機。

跟隨VR的腳步

今年以來全景相機有了一個大爆發,國外Google、三星、諾基亞等大廠都進入了這個領域,還有360 Heros、Jaunt VR、Next VR以及Bubl等較知名的廠商;國內推出全景相機的廠商包括暴風魔鏡、Wipet、完美幻境、Insta 360、UCVR等等。


這麼多廠商進入全景相機這個領域,最大的原因是他們都知道VR(虛擬現實)的廣闊市場前景,而目前VR存在的最大問題之一是缺乏內容。廠商做全景相機賭的便是為VR生產全景視頻。

「VR頭盔缺少內容,而全景相機拍攝的內容適合給VR使用。」完美幻境的聯合創始人趙博告訴雷鋒網。這家公司曾開發VR頭盔,但後來轉做全景相機。此外,暴風魔鏡推出暴風魔眼也是同樣的邏輯。

全景≠VR

雖然全景相機廠商押注VR,但VR內容領域的行業人士對消費級全景相機大都不屑一顧,主要原因是這些相機拍出的全景視頻並不是3D的,無法體現VR內容的震撼力。實際上全景相機廠商也沒有把寶全部押在VR上面,此前Wipet CEO范治江在接受雷鋒網採訪時便表示不湊VR圈的熱鬧,而是把產品定位於「手機伴侶」,「我們的定位實際上是把手機端的拍照和攝像做一個延伸,」他說。

談到這裡就不得不提到全景相機的分類,市面上我們可以看到2個、3個、4個甚至是16個攝像頭的全景相機,甚至還有所謂的光場相機。對此華為2012實驗室VR/AR領域的專家張夢晗把它們分成三類:

普通定焦全景-所有攝像機固定焦距(無窮遠),拍攝2D全景沒有3D立體效果,大部分的全景攝像機都是這樣的;

3D定焦全景,依然定焦,但是可以拍攝左右眼不同的3D效果,攝像機個數要比前者多,三星project beyond和Google Jump,Jaunt都是這樣的;

光場變焦相機,NextVR和Lytro有概念機型,多次同步變焦拍攝然後匯聚為一幀,保證遠近物體都能有清晰的效果。

本文談及的消費級全景相機都是普通定焦全景,為了控制成本、把相機做到足夠小,保證一般用戶有好的體驗,它們犧牲掉一些專業級全景相機的3D拍攝以及更高分 辨率等特性。最厲害的是光場變焦相機,但它們所需的鏡頭和感測器還更多,甚至多達上百個,成本遠遠超出一般消費者可接受的範圍。

國外開源,國內自主

早期玩全景相機的人很多用的是GoPro攢機方案,據張夢晗介紹,國內的多GoPro攢機方案,最早是國外一家叫360 Heros的公司提供,他們開源了3D列印的架子,這就讓很多國內的團隊有了生路。


一般人想要DIY全景相機並不難,「有GoPro架子,然後會有PS就能拍全景視頻」,張夢晗說。但是攢機方案在軟硬體上都有難點:

多GoPro的方案硬體方面難的是同步,雖然GoPro有同時控制最多50台GoPro的WiFi遙控器,但是做到精確的幀同步還是很難,Upano的多GoPro方案加了一個蜂鳴器,就是為了後期製作的時候方便調整內容同步用的。

軟體部分難點在於拼接和後處理,簡單的拼接在OpenCV里有封裝好的API可以用,或者基於SIFT自己寫拼接演算法,在拼接前要調整多幅圖像的對比度白平衡,即使這樣拼出來還是有縫的,需要拼好後再做一次處理。

雷鋒網採訪的多數廠商都表示,全景相機的核心不在硬體而在軟體,更準確地說是拼接演算法和全景播放器。國外有許多或開源或閉源的拼接軟體和播放器,比如這款VideoStitch Vahana,它不僅提供實時拼接的軟體,還教用戶如何攢機。聲稱是「國內最早採用6隻GoPro拍全景視頻解決方案的公司」深圳萊瑞特,對雷鋒網表示他們接下來要推出的全景直播方案就類似Vahana,拼接軟體來自國外,並表示國內並沒有類似的產品,「國內有的話,我們可以合作」。

當記者問張夢晗國內有沒有一家有核心技術,產品做得不錯的全景相機廠商時,他說沒有。然而多家廠商卻表示都採用了自主研發的演算法,對此UCVR的吳宗沅道出天機,他說:

沒什麼核心技術,中國哪有核心技術,就是根據海外的開源版本自己改的。我們說自己的演算法,說到底其實就是根據自己的鏡頭參數和鏡片參數做了修改和定製。


自行開發演算法的成本很高,「如果從頭到尾全是自己的演算法,需要投入半年時間,燒500-800萬,」吳宗沅說。加拿大全景相機團隊Bubl的亞太區負責人譚 穎對雷鋒網表示自家的演算法是「自主開發並持有專利」,而付出的成本是40人、5年時間和超過1000萬加幣(約5000萬人民幣)。Bubl先後獲得 Google和三星的投資,今年年中進入國內,並與樂視合作進行全景視頻的拍攝。

做好全景相機不容易

被認為沒有核心技術的國內廠商,所推出的全景相機大都走平價親民路線。UCVR EYE的眾籌價格為899元,而暴風魔眼為999元,產品還未命名和上市的完美幻境透露定價會在1000多元。相比之下Bubl的售價摺合人民幣3500多元。

雖然僅根據參數無法判斷誰家的相機拍攝效果好,最終需要產品評測才能知道。但可以肯定的是,做好一款全景相機並不容易,即便是DIY也能做到的那種。

「做任何一體化的設備都很難,一個合格的光學產品應該一次性自動完成所有事情,而不是需要大量的後期處理和調試,這樣全景視頻的拍攝效率提高不了,成本降不下來。」張夢晗說。


除了最終的視頻質量,消費級全景相機還要考慮更多。對於做產品,完美幻境的張博表示,他們主要考慮以下幾點:

1)解析度,清晰程度;

2)配套手機app的操作使用體驗;

3)整機的外觀設計,選材用料;

4)體積重量,可攜帶性。

他們曾考慮過一個3攝像頭的方案,但因為成本和體積的考慮放棄了。他覺得便攜很重要,就像「手機的效果不比GoPro差,但GoPro賣得很好,它真正的好處是足夠的小,足夠的便攜,可以固定在任何地方」。

全景相機很難做好,和手機攝像頭很難做好也類似。鏡頭和感測器的好壞只是一方面,「拍照的效果是要設置的,曝光、銳利度、白平衡,調這些的時間是三個月,即 便是做相機的產商也需要幾個月。」趙博說,「這就是為什麼蘋果800萬像素的攝像頭時常比其它更高規格的拍攝質量還更好。」

但對國內廠商來說,機會窗口正在縮窄,「目前國內還沒有一種產品達到了能快速生產高質量VR視頻的程度。風險在於標準沒有確立,而且傳統攝像器材企業已經發力在做產品,留給DIY全景採集設備的機會窗口越來越窄。」張夢晗說。

未來

對於將來的發展,消費級全景相機方面,Bubl的譚穎表示他們的產品會越做越小,到第三代甚至可以小到能裝在手機上,考慮到智能手機的巨大銷量,可以想見這塊市場會有多大。

完美幻境的張博同意越來越小的說法,不過他同時補充說「專業級的全景相機也會被顛覆」,未來他們可能會推出3D全景相機。他認為的行業趨勢,是Jaunt和NextVR這些國外廠商正在走的路。

華為的張夢晗則認為:「Google在推的公版GoPro拼接方案,相對比較有保障,如果YouTube對Google Jump有特殊支持的話,可能會漸漸成為PGC(專業內容生產)的行業標準。」【責任編輯/閆紅玉


看了一下,感覺必須來答個題!

差不多兩年過去了,360度全景的軟硬體發展確實變化很大,無論是從一體機拍攝,後期軟體還是播放分享軟體,都已進步了很多啊。

個人認為,360全景,是影像技術逐漸向虛擬現實VR技術發展的必經階段,當然,絕對不是最終結果。

360度全景,就是先讓人自由地旋轉,觀察每個角度;

下一步讓人更有沉浸感,那就需要360度全景+3D,不光看到所有畫面,還能感受到空間信息;

之後,就是人可以稍微移動,空間畫面隨著人眼的移動而改變;

到最後,就是觀看者可以自由自在地在一個空間里走動,這個,估計就是實景VR最高階段了吧!

由360度全景,演化到真正的實景VR,需要攝影採集設備、播放設備的不斷更新,特別是圖像演算法技術的大突破。

借著這個話題,就來說說我們公司深圳看到科技(http://www.kandaovr.com) ,正在往「360全景到實景VR」這個方向不斷努力。今年7月我們推出了一款3D 全景VR相機Obsidian, 一體機,本地配套軟體自動拼接,強調3D立體沉浸效果。(當然360度全景也能輕鬆應付)。

兩款機器,都屬於高顏值,高性能。

以相機作為載體,看到科技正在通過軟硬體結合的方式,首先做到自動智能全景拼接,再生成舒適的3D效果,讓用戶便捷地製作360度全景+3D的高質量作品,還用深度圖來重建空間,甚至渲染六自由度(6DOF)效果。

這是一張全景圖

這是對應的初步深度圖,都是靠相機圖像後期計算的。(顏色越深,代表物體距離越近)

在此基礎上,帶上VR眼鏡,可以模擬人左右上下移動頭部所看到的畫面,6DOF不是夢。

比如,這麼左右看

或者這麼上下看

這是360度全景視頻發展的一個方向,而不僅僅是怎麼拍,怎麼拼接的問題。

隨著設備、技術的更新迭代,探索的空間會越來越大,一起拭目以待吧!


360°全景視頻行業(又有人稱720°全景)
應該是人們對畫面視角不斷追求極致的大趨勢下的必然產物,而這種追求興起的時間可以追溯到十幾二十年前。上世紀五、六十年代就已經出現過搖頭式全景機,甚至更早的19世紀人們就開始對全景拍攝進行嘗試(對,19世紀數碼技術還未開始)。

對於普通人而言,「全景」的概念也是比較常見接觸的攝影名詞,想想手機里攝像那個全景功能,這個全景的拍攝需要用戶按照指定的方向移動手機鏡頭,進而使用序列圖像進行全景拼接,得到線性方向的全景圖(最高可以得到線性方向360°圖像)。近幾年為了得到極致的視角體驗,陸續出線了多鏡頭數碼全景機,這些攝像機為了滿足獲取全視野要求,採用多個鏡頭對準不同的方向採集圖像後拼接產生720°全景畫面,這種方法的流行也得益於PTGUI、Hugin、VideoStitch等軟體的輔助來實現自動全景拼接的。

提到全景,就必須提到全景和VR的關係

720°全景視頻的出現與VR的出現本身沒有直接關係,但是通過全景行業和VR行業的發展,人們發現全景行業與VR有一種天然契合的關係,全景視頻可以快速的通過轉換實現我們期待的VR功能,並且可以極為有效的降低VR製作的成本,未來VR行業也會強依賴於全景行業,或者二者之間的發展也會越來越呈現合同的趨勢。


關於全景視頻的生成和畫面拼接

現有的高質量的全景視頻的生成往往依賴於高質量的拼接軟體/演算法,對於多鏡頭(三路以上)方案的全景相機其拼接難度一般較低(由於拼接演算法要求帶拼接的畫面需要有重疊區域,多鏡頭一般重疊區域較大),並且得到的全景畫面有效像素更高,但是硬體上用的鏡頭多會對成本有顯著增加。而一種低成本全景生成方案是採用兩個魚眼鏡頭(魚眼視角大於180°,背對背安裝)來採集全景視頻,這樣就帶來了全景拼接演算法上的挑戰,現有的商用軟體也很難實現這樣的自動拼接,所以技術上還是有一定的門檻。

Google jump和類似的三星project beyond在多鏡頭全景的基礎上又添加了一組攝像頭,主要是利用兩組攝像頭生成兩組存在固定視差(模仿左右眼)的全景畫面,這種結構是專門針對VR體驗來設計的全景相機(又稱3D全景),主要是VR顯示對於左右眼分別顯示存在視差的畫面來營造深度感知體驗。而一般的全景相機實現VR觀看主要是通過軟體上的調整來虛擬兩眼有差異的畫面(甚至兩畫面直接一樣),這樣就會存在沉浸感不強的體驗。3D全景相機從實現上看並不難(前提多路全景能夠實現),技術上並沒有什麼突破。


(拼接技術)拼接技術一般流程是:特徵匹配-&>圖像定位-&>圖像投影-&>曝光補償-&>圖像融合等等幾個步驟。而對於常見的拼接痕迹現象,一般而言主要是圖像定位不準、相鄰圖像間色差、光照不均勻所致。


就目前看來,全景視頻行業在2C市場的發展已經有了愈演愈烈的趨勢,但由於已有的拍攝習慣(消費者對於圖片質量、濾鏡、美感度、光感等的需求)讓其對於全景的需求並不太強,加上設備和技術限制,在可見的未來並不能完全替代現有拍攝方式;而在2B市場全景視頻則擁有大量的發展空間,能夠滿足安防、監控、景區沉浸式傳播等諸多維度需求


總之,全景視頻行業依然位於風口,大有可為,未來可期。


看過基於全景相機拍攝的虛擬現實視頻,雖然可以實現720度球型空間的自由視角觀看,但看到的還只是物體的一個視角的投影,景物沒有3D效果,沉浸感不強。這個方案大概是由於實現較為簡單,目前廣泛採用,身邊就有朋友在做。

三星Project beyond 和goolge jump這種實現方式,多個攝像頭在拍攝全景視頻的同時,還互為雙目視覺對,能夠以類似人眼的方式,獲得具有視角差異的投影圖像來實現具有3D效果的虛擬現實視頻。Project beyond 是14年就發布了,但是目前還是沒能量產,不知道具體受限在哪。但是這種方式拍出來的,由於相機之間的基線不可能做的很遠,所以也就只能用來拍拍近處的人物或者視頻會議這樣的應用,遠距離或者大尺度的立體感還是拍不出來。另外如果直接根據人的視角選擇兩個相機的圖片貼過來也會存在很多問題,可能還需要在演算法上進行進一步的挖掘。

還有就是NEXTVR的虛擬現實攝像機,這應該是目前可見的最高水平了吧,多台6K解析度的相機拍攝全景圖像,利用光場技術提供深度信息,然後在顯示端通過深度特徵點在觀眾的兩個觀察視角反投影加上高解析度貼圖給人以逼真的效果。


全景視頻目前大多採用固定視角拍攝,但有些大場面的宣傳片還是要移動中拍攝,相機要增穩才能拍出有震撼力的鏡頭。
一般的穩拍器不適用於全景拍攝,新近有家公司開發了一款專用穩拍器,可以正立拍攝和弔掛航拍,很好的解決了全景視頻的運動拍攝難題。


先佔個坑。vr將會像智能手機一樣改變人類的通信交流方式。可以說前景無限。將來和機器人結合到一起。人類將脫離肉身和空間的限制。比如:1.改變現有的辦公方式,如果將來還是集中辦公這種辦公形式的話,那辦公室里每個辦公桌旁坐的就是你的替身,在家穿上感測器衣服。和置身於辦公室一樣,可以四處活動,可以和同事的替身到會議室討論問題。也並不影響實際的社交。甚至技術進一步發展,出現虛擬現實辦公室。每個人家裡辦公桌那四五平方米的地方將出現在虛擬辦公室里。2.改變人類的娛樂方式,將來的電影電視都將不是現在的電影電視。你可以摘掉牆上那個笨重的大電視屏幕了,而且這估計是10年之內就會實現,虛擬演唱會虛擬直播特別是遊戲行業都估計會很快迎來vr的革命。宅男們和日本動作片里的女主角零距離接觸的夢想也將不再遙遠。3.改變人類的生活方式,國慶春節千里迢迢回家看父母?到那時在父母家裡和自家分別放一個自己的"替身"和父母的"替身",自己隨時在父母家裡走動幫父母做飯和父母聊天。購物還去商場?即使去,也是你的"替身"去。淘寶也將不是現在的淘寶。逛淘寶就是逛商場。

就先寫到這裡吧……腦洞有點大,勿噴。我們拭目以待10年20年後的世界。


全景是叫sphere360,而不是stereo360。全景行業目前是一個發展特別快的行業,主要是針對不同的用戶層次。但實際,由於出來的畫面鮮有8k,大多是2k做直播,4k做錄播;極少有4k做直播的,導致好設備出來的畫面與普通設備出來的畫面,差異並不大。
並且由於拼接演算法固有的一些缺陷,拼接出來的畫面或多或少會有瑕疵,一般比較試用於室內拍攝。
國外有比較成熟的攜帶型的產品,比如民用級別的行業最好的richo theta 、 insta360 nano。國內也有一款民用便攜 的,nico 360(沒有使用過)。這些是將拼接軟體直接集成到硬體中的。
軟體上,可以找找vahana這款軟體。

順便說說,stereo360現在也已經有真正意義的sphere stereo 360產品


奧運期間CCTV5公眾賬號的《#全景奪金#》是運用的VR理念,把全景當做遊戲的核心場景,讓原本分散在各處的電視觀眾匯聚一堂,將目前逐漸興起的雙屏互動再升級,遊戲與奧運賽事匹配,與奧運選手同步奪金,以現金紅包為良好的用戶回饋,讓觀眾在看電視的同時還能在相同的全景場景中一起互動。以前的全景互動都是強迫帶眼鏡來觀看為主,這次是可以用手機來直接互動玩遊戲,做任務,贏獎牌,得金牌,搶紅包。不管遊戲能不能過關,都能有相應回饋。

關注cctv5公眾號,點擊「全景奪金」每晚6點半-8點半真實體驗


在vr真正的出現的情況下,360度視頻很難火起來,vr所追求的沉浸性已經大大的超越了360度視頻所能達到的感覺,360度視頻或許可能會火一陣子,但其實360度視頻並不是vr,他依然沒有擺脫3d的束縛,vr所追求的真正的沉浸性他根本沒有體現,只是借著vr的風頭罷了,不看好。


hi 你好,我有個主意,把20個iPhone se貼到足球上的六角型上,做出來全景視頻,而且每個視頻源還都是4k的,是不是很棒棒噠,
拍攝出來的效果是 20*4k/4=20k的視頻


然後用amd ryzen點對點拼接

拼接軟體購買現成的樓上有一個答主提供了 ryzen loom的拼接方案,好像還是免費的。

成本一共20* 4000(128g 的iPhone se)+4000的amd處理器 一共9萬左右


歷史上最清晰的360度視頻就誕生了
一起乾的可以私信我


mark學習


  VR已經興起很多年了,但VR全景拍攝還是不溫不火的在發展,並沒有像我們想像中的那麼火爆,那就要認真考慮下VR全景拍攝是不是真像傳說中熱門呢。或者說VR全景拍攝是否具有實用價值。

  從技術角度來說VR全景拍攝技術是沒有什麼門檻,重要的是我們怎麼去讓VR全景拍攝能真正的去在生活中靈活應用,或者說VR能否普及大眾應用。因為VR不僅是在技術的更新,更重要是能給我們生活帶來多打便利。

  從生活實際應用場景來說我們應該慶幸VR的到來,因為在家居領域我們有時候並不能很好的看到自己想要的結果,但VR就可以滿足我們需求。可以實時根據我們客戶需求做改動,讓最佳效果展現給客戶,這樣就減少客戶和公司的溝通成本。

  可能VR在目前沒有我們想像的這麼大,但隨著技術的不斷革新,以及VR全景拍攝的普及,或者在內容上的更新加快,我們就可以慢慢的感受到VR所帶來不是便利。

  到了我們自己利用VR全景拍攝技術製作內容,我們就會慢慢從內容的消費者到VR內容的生產者,也許我們會期待未來一天我們用VR全景拍攝的內容被VR體驗館所展覽。


做VR全景的前景如何

國內外的VR全景行業在今年迎來了大爆發,尤其是中國的VR全景行業更是在以閃電般的速度發展著。無數的調查報告也在預示著VR全景市場在中國的潛力將是巨大的,這也引得無數投資者的關注。
  中國在科技行業,常常帶著山寨大國的標籤,但是在虛擬現實這一技術出現之後,中國的科技圈開始了全新的變化。在過去的半年中,VR全景市場就引來了大筆的投資、合作交易以及國內外企業建立了新的合資公司。虛擬現實技術在中國不斷升溫,他們能夠基於市場反饋更加迅速地對產品進行升級,有望在移動VR全景市場超越美國對手。
  雖然VR的興起誕生出很多製作VR設備的廠商,但是目前還是SONY PSVR、HTC Vive以及Oculus Rift這三大頭顯佔領了市場的主要份額,然而在這三大品牌中又只有HTC Vive搶先進入了中國市場。
HTC Vive已經在國內逐漸的扎穩了腳跟,在MWC上海的VR展館中,展位上的VR設備90%都是來自HTC Vive,而且還受到眾多廠商的青睞,紛紛表示相與HTC Vive合作。如今來看,HTC Vive在中國的布局尚且是成功的。至於還會不會再次在國內掀起HTC潮流,那就要看玩家們對Vive熱情的持續時間了。
  在巨大的市場浪潮的推動下,中國互聯網企業巨頭百度、阿里、騰訊的VR全景市場戰略也漸漸浮出水面。在硬體廠商過多而缺乏內容生產的尷尬局面下,BAT自身定位相當明確,他們要做的是中間商——培育數十家VR硬體和內容的創業企業並通過開放自身平台來促進VR硬體和內容開發,最終等待能夠主導這個市場的硬體設備,因此,BAT的布局目標應該是搭建VR平台並擴充VR內容。
  正是因為VR全景內容和應用的缺失,除去開發硬體外,各大虛擬現實廠商才會爭相打造各自的生態戰略,目的就是希望通過產業鏈合作儘快彌補行業短板,並提前佔領先機。隨著互聯網巨頭紛紛入局,有可能會為虛擬現實發展注入一針強心劑。BAT作為中國互聯網的三巨頭,依憑門戶、電商、通訊三大領域的巨大優勢,牢牢把持住中國互聯網市場的用戶資源,如果中國真的是VR未來的主戰場,那麼誰掌握了更多的用戶,誰才會是最後的贏家。
  從當前的局勢來看,中國的VR全景市場的大動作不斷,無論是國內廠商還是國外廠商,對待中國的全景市場態度都十分積極。畢竟,這是一塊潛力無窮的市場,誰能在前期取得優勢地位,誰才能在以後市場穩定以後繼續擴大市場。


隨著計算機技術的飛速發展,多媒體所包含的種類也越來越多,所能表現的效果也越來越多,而一些比較傳統的表現方式也越來越無法滿足大部分客戶對於展示方式的要求。 在傳統的表現方式中,展示的手段無非是靜態的平面圖片和動態的視頻,也有進行三維全景進行展示的。靜態圖片只能提供場景的某一角度圖像,即使是廣角鏡頭,也不能有效全面的對場景進行表現;而動態視頻雖然可以讓用戶對場景有全面的了解,可圖像視角依然有限,觀看方式取決於拍攝者的拍攝方式,並不自由。三維建模的方式可以解決靜態圖片和動態視頻都存在的問題,但是代價很高,真實性也並不總是令人滿意。
  所以,在我們需要真實、全面、直觀的表現某一場景時,360全景無疑是最好的選擇。


推薦閱讀:

如何看待第一人稱影片《硬核》(Hardcore)?
VR全景是什麼?

TAG:虛擬現實VR | 視頻處理 | 全景圖 | 360度全景 | HTCVive |