為什麼VR中需要『觸覺』和『力反饋』?如何讓VR中產生『觸覺』和『力反饋』?

無論虛擬現實的音視效呈現的多麼逼真,但模擬更直接的觸覺顯然更加困難。

虛擬現實如何複製觸覺?一位德國研究員想出了一個天才般的方法

這篇文章中呈現了模擬觸覺的一種思路。

試問,目前對觸覺的模擬有哪些研究?


觸覺力反饋當然是有的!

做過一段時間觸覺反饋的設計應用,我也來寫點乾貨吧。

首先為什麼需要觸覺反饋

為了真實( ????? )

而且在某些可預期的應用裡面,觸覺反饋將會是重要甚至必需的信息,比如精細遙控外科手術,精密仿生義肢,不可描述類娛樂遊戲等。

接下來是如何產生觸覺反饋

其實對於VR觸覺模擬的研究已經有很多了,這裡挑一些基礎的說一下。另外由於我比較懶所以文中出現的中文術語都是自己任性翻譯的,還有未經允許不要轉載謝謝。

上來先說下我們組裡自己弄得一些有意思的應用吧,基本上用的設備是Phantom Omni,Novint Falcon 3D Touch以及Oculus rift。

這是同組的女生做的一個小project,Phantom可以接自己手指或者電容筆,然後藉助手指或者筆在一塊電容屏上觸摸,可以感受VR中預先設定幾種材料的質感,紋理,硬度。

我這種宅男就做了個飛船遊戲,畫質就不用看了反正我又不是做遊戲開發的 - - 重點是操縱飛船中能感受到星際間各種作用力比如隕石的碰撞力,黑洞和大質量行星的引力以及降落過程中大氣層內的各種風力等等。

第一人稱視角,以後把Oculus部分做好之後玩起來應該還是比較帶感的。

圖上不是我啊,我看上去有那麼宅嗎哼。

操縱設備用的是Novint Falcon 3D Touch,正好被這哥們擋住了。。。

他自己做的是一個感應溫度和阻力的滑鼠,沒有拍照,反正就是3D列印了一個滑鼠,加了溫度和振動配件,然後利用電磁鐵模擬阻力大小...相當於全部DIY沒有用到現成的觸覺反饋設備,這個我服。

好了下面簡單說一下觸覺反饋這個題目,我就寫個小paper好了。

概述

首先稍微解釋下觸覺和力反饋的概念,相較於聽覺或視覺而言,觸覺反饋(Haptic Feedback)確實更加複雜,所以導致極其難以高保真的模擬。而觸覺本身以及其對應的人類觸覺感知系統就是多種不同元素的混合體,簡單來說觸覺可以分為:

1.動覺(Kinesthetic Perception),如對力和力矩的感受。(感知物體形狀,重量,硬度等)

2.觸覺(Tactile Perception), 如對振動,溫度,切向力等的感受。(感知物體紋理,粗糙度,冷熱等)

在生活中我們一個簡單的觸覺感知往往都同時包含了上述多種信息,想想你牽著女朋友的手是不是軟軟暖暖輕輕小小毛絨絨五味俱全啊,如果是第一次碰到還會加上微微觸電的感覺呢。

這個例子除了虐狗還有一點就是說明我們一般感知到的觸覺就是包括了動覺和觸覺的,人類自帶的幾種觸覺感受器(如觸覺小體Meissner corpuscle, 巴氏小體Pacinian corpuscle,Merkel cell和 Ruffini ending這些我也看不懂的詞)也是協同作用的,獨立感知某一種特定反饋的情況很少(人體在麻醉的時候可以失去觸覺僅剩動覺感知),由此可見在VR中想百分百模擬出人類日常感受到的觸覺是很難的,除非黑科技把模擬觸覺信號直接連入用戶大腦。

現有常用的觸覺反饋設備一般也是側重於對於動覺的反饋。

1觸覺反饋設備與系統

1.1觸覺反饋設備

現在市場上的觸覺反饋設備有很多,這裡就不細講了,貼個圖:

Figure1.1

為了反饋出三維空間內力和力矩,至少要求3個自由度的位置反饋和3個自由度的力反饋,比如Novint Falcon 3D Touch,除了自身的操縱桿,也可以外接其它設備:

Source:Novint Falcon

所以說現在遊戲工業是第一生產力啊,當然插些別的做其它逼真的模擬也是可以的,自己想像吧。

1.2觸覺反饋系統

總的來說一個觸覺反饋系統的核心主要是兩點:觸碰檢測(Collision Detection) 和反饋(力)計算(Feedback Computation), 這兩步我們放在一個Haptic Rendering裡面完成。另外由於觸覺反饋的實時性,Haptic Rendering的更新頻率要求是很高的,我們一般取1kHz。如果更新頻率太低,會導致系統不穩定比如在反饋端用戶感受到的是震動而不是正常的受力情況。

話說回來觸覺反饋的應用還是得搭配上視覺反饋,否則只能看不能摸或者只能摸不能看,用戶玩的也不開心對不對。所以呢加上一個相適應的Visual Rendering,視覺反饋要求的更新頻率就可以低多了,一般小於300Hz即可。本身人眼視覺信息也是一幀幀的圖片嘛,連續性差一點也感覺不出。

還是上個圖吧:

Figure1.2

上圖是本地觸覺反饋系統的基本結構,但是觸覺反饋還有一個很重要的應用是遠程操控,比如遠程外科手術之類的,這就要求設置remote communication 比如client和server。這裡由於時間關係我也不講了。

隊友還等著打守望呢。

2 觸碰檢測(Collision Detection)

接下來詳細講下觸覺反饋的兩個核心內容,觸碰檢測和反饋計算。

觸碰檢測是觸覺反饋的前提,因為如果沒有碰到你就不會有觸覺反饋(廢話)。

如果是簡單剛體的話是比較簡單進行觸碰檢測的,比如說在虛擬空間的球體,我們只要知道球心,半徑和虛擬感知器的位置就可以知道是否發生了觸碰,但如果是結構和曲率稍微複雜一些的物體我們就必須先分解建模了。

2.1 建模:三角劃分(Triangular Primitives)

對於虛擬空間中的複雜物體,是否發生觸碰是非常難和耗費計算資源的,因此選擇合適的建模很重要,否則延遲到想哭。一般我們可以採取多邊形或者三角形來分割構建物體的表面,正好拔了四粒智齒,我就拿chai3D里的牙齒來舉個例子。

Figure2.1.1

比如說我們想感受這顆牙齒的質感和形狀,基本視覺效果是這個樣子的,但是為了進行觸碰檢測,我們需要對其表面建模:

Figure2.1.2

看不清楚嗎,讓我們近距離看一下這顆牙:

Figure2.1.3

通過將牙齒表面劃分成一個個三角形(尤其是溝槽處這種複雜的地方),我們可以檢測出虛擬儀器與牙齒的觸碰位置(對應三角形區域)以及觸碰程度(深度),可見三角形越小,劃分越細,模擬效果越好,耗費計算資源越大。另外,為了模擬牙齒的質感(粗糙度),我們還在每一塊三角形上加上其force normal vector:

(這樣水平方向的力也能考慮進去----滑過牙齒表面的阻力)

Figure2.1.4

這樣對一顆牙齒質感及形狀進行觸覺反饋的前期工作就完成了~

2.2建模:層次劃分法(Hierarchical Bounding Representation)

適用於更複雜的物體結構。

好累啊。

先空著。

3 力反饋計算 Feedback Force Computation

觸覺反饋中溫度和振動這樣的信息還是能比較直觀地模擬出來的,接下來介紹幾種現實中常見力的反饋模擬模型和演算法,基本上可以滿足虛擬空間中我們想要的物體的觸覺反饋的屬性了。

3.1形狀感知

首先觸覺反饋的基本內容之一就是通過觸覺你能感受到虛擬空間中物體的形狀,比如說藉助設備你可以感受一個籃球的大小或者一個方塊的形狀,稜角等信息。

還有一個概念需要先說明一下就是HIP 和IHIP,前者是Haptic Interaction Point, 對應虛擬空間中觸覺感知設備的實際位置,而後者是Ideal Haptic Interaction Point,對應觸覺感知設備視覺上的位置。由此我們可以確定觸碰的深度(depth),這往往用於判定反饋力的大小和方向。

VR中最簡單的剛體模型就是球體了,假設在VR中我們用一個質點去感受球體,那麼不管你在球體表面的哪個點發生碰觸,反饋到的力的方向為球心到觸碰點的連線,我們只需簡單定義力的標量大小即可。

Figure3.1.1

如圖,IHIP始終停留在球表面,正如我們不應穿透一個剛體。實際位置HIP可以在球的內部,HIP與IHIP連線即為穿透深度。最簡單的情形下設置力的大小為剛體系數乘以穿透深度,如果係數比較大,觸覺上我們會感覺這是一個硬硬的球,如果係數較小則是一個軟蛋。

同樣地我們可以模擬一個有稜有角的方塊:

Figure3.1.2

3.2形狀感知改進:God-object based haptic rendering

如果將上述簡單模型應用在更加複雜的物件或者諸如薄板這樣的特殊物體上,由於沒有儲存接觸歷史(contact history),模擬效果有可能出問題,比如發生移動HIP的時候發現感知力的方向有了突變,或者觸摸平板的時候發生了穿透的感覺,因此可以用God-Object或者Proxy演算法來對上述方法進行改進。

寫的好累啊。

感覺還有好多講不完了

先空著吧。

3.3引力,斥力及重力模擬

這裡也先空著 往下都是空著的目錄別翻了

哎你點個贊再走啊朋友

3.4摩擦力模擬及摩擦圓錐 Friction / Friction Cone Algorithm

空著

3.5漸變力 Force Shading

空著

3.6 黏度模擬 Viscosity

空著

3.7 感知及傳輸數據優化:死區原理 Deadband Principal

還是空著

參考列表 Reference

  • Rahul Chaudhari. Computational Haptics Laboratory. Institute for Media Technology, Technishe Universit?t München.
  • Diego C. Ruspini, Krasimir Kolarov and Oussama Khatib. The Haptic Display of Complex Graphical Environments. Interval Research Corporation. Stanford University.
  • Sean Quinlan. Efficient Distance Computation between Non-Convex Objects. Robotics Laboratory. Stanford University
  • W.S.Harwin and N.Melder. Improved Haptic Rendering for Multi-Finger Manipulation Using Friction Cone based God-Objects. Department of Cybernetics, University of Reading.
  • Cagatay Basdogan and Mandayam A.Srinivasan. Haptic Rendering in Virtual Environments. Jet Propulsion Laboratory, California Institute of Technology.
  • C.B.Zilles and J.K.Slisbury. A Constraint-based God-Object Method for Haptic Display. Artificial Intelligence Laboratory, Massachusetts Institute of Technology.


剛好我們最近在做這樣的設備,計劃在VR世界中實現力反饋,並且讓操作者通過力反饋來實現觸感。這裡我們就把我們團隊的一些討論和思考整理在這裡,希望能和大家進一步的討論。

為什麼需要力反饋和觸感?

VR和其他環境最大的不同是帶來了一個世界,使用者第一次完整進入了虛擬世界中。在這個世界中,使用者像在現實世界一樣觀察著虛擬世界。

就像蘋果手機的解鎖操作一樣,使用者自然而然的順應直觀操作就可以掌握。在VR世界中,當他們像看著真實世界時,他們就會像在真實世界一樣,用真實的動作去解決問題。

而在現實中,人的肢體動作都是通過環境的觸覺反饋來實現操作的,就想方面的朋友舉例的那些,無論是趴在桌子上、拿起物品、移動物品,我們都是通過觸覺來實現操作的實施過程。而視覺只負責物品定位即可,就是我們上萬年進化獲得的一種高效的肢體協作方式。

如果虛擬世界缺乏觸覺,那麼就意味著所有的操作都需要視覺反覆確認,這樣會讓效率變低,甚至會有很多無效操作,因為視覺不但容易被遮擋,而且還難以做到同時兼顧多處。

所以觸覺是一種在環境條件約束下實現高效操作的必要手段。而在虛擬世界下,要同樣讓使用者自然、高效起來,就同樣必須實現在約束條件下的觸覺。那麼在虛擬環境下的觸覺實現手段就是針對用戶行為得力反饋了。

為什麼「震動」不能很好地實現力反饋?

通常來說,震動擁有很好的提醒效果,例如手機的震動,可以很好的提醒用戶。

但是在一個虛擬世界中,使用者如果在進行相對複雜的操作,他的注意力大多是分散的,這個時候震動作為一種提醒就變得含糊不清了。如果用VR實現對火災處理的模擬,無論是手柄震動還是緊身衣的震動,用戶估計都需要反應一下,才能明白震動對應的觸感內容。

或者在VR抓取的時候,震動提醒不能對用戶的動作產生約束效果,所以很容易出現交互上的誤差。如果用戶在進行一種精度比較高的操作的時候,震動還有可能是一種干擾。

現實世界,當用戶在觸摸一個物體的時候,很容易通過觸覺了解到一個物體大致的形狀。就算是機器貓那樣的小圓手也可以做到。而在虛擬世界中,震動提醒要做到這一點就非常困難,這也是因為震動提醒缺乏對用戶的約束能力造成的。

所以震動提醒會是一種好的輔助提醒,而非好的力反饋提醒。

為什麼需要全身性的力反饋設備?

目前大多數面向力反饋的操作設備都是針對手部的,是因為手對觸感是最敏銳的。不過我們選擇是製作全身性的力反饋設備。

因為VR世界最吸引人的是帶來了一個逼真的世界,使用者需要能像真實世界一樣,真正的用身體和整個世界互動起來,才能帶來最真實的體驗。

同時,現在VR世界的大部分手部操作,都是通過手柄完成的。我們將軀幹力反饋設備和手柄結合,來實現對物品抓取和使用中的力反饋模擬。並且通過對肢體動作的約束,實現手柄和環境的力反饋碰撞。

這是一個上半身的設計模型,未來將建立全身性的交互設備

這樣,虛擬世界的環境、物品就可以被真實的觸碰和感知了。

並且可以通過對肢體運動的特定約束,來實現對大型設備的模擬和支持。結合萬象跑步機,就實現了一個完整的VR操作倉。當然這是一個比較遠期的目標了。

要實現到什麼精度級別的力反饋?

人的觸覺是非常靈敏的,每個人都可以摸出硬幣兩面的不同。同時人的觸覺有事有很強適應性的,可以快速的習慣物品大致操作方式來使用物品。

在虛擬世界現有的技術條件下,我們很難做到對用戶肢體觸覺高精度的模擬。所以我們考慮的是滿足在現有內容下,實現滿足一些力反饋需要的支持。

我們正在製作的第一版硬體demo,目前還很粗糙

例如:

實現兵器格鬥模擬中,武器的簡單碰撞。

實現在射擊遊戲中,結合遊戲手柄,滿足不同武器的使用姿態。比如步槍的抵肩射擊姿態的模擬。

實現對平面的模擬,讓虛擬世界的平面可以支撐用戶。實現虛擬世界的桌面,牆面等環境。

甚至滿足在虛擬社交環境下,用戶和用戶之間的觸碰,比如握手、擁抱。

通過肢體約束來實現觸摸碰撞。(sw的模型調整起來太頭疼,請不要吐槽這個奇怪的手掌姿態。)

全身性得力反饋設備要需要那些技術儲備?

目前我們主要在進行硬體設計和demo開發工作,從目前的軟體結合來看,一些流行的物理引擎是足以滿足需要的,但是對計算量有了顯著提高。

從需求來看,我們並不是完成對現實世界的擬真,而是在虛擬世界實現用戶肢體和其他物品碰撞,約束用戶運動範圍,來實現用戶同過肢體來自然的和虛擬世界交互的設備。所以主要實現的是滿足用戶直觀操作和虛擬世界的交互的對應。

如果要建立完成的全身性的交互力反饋設備,實際上需要實現的是一整套交互外骨骼設備。在這套設備中,還需要有良好的行走支撐設備,將用戶安置在一個安全的運動範圍內,同時還需要一個支撐,來滿足一些設備姿態的模擬。

正在調試中的設備原型

我們現在還在非常早期的設計開發階段,所以也歡迎有興趣的朋友隨時和我們交流討論。其他一些內容我放在了專欄中,對這種交互方式有興趣的朋友也歡迎繼續交流


我所知道的做法有幾種。

1. 人推。好處:人力資源便宜的情況下很低成本。壞處:不靠譜。

2. 超聲波力反饋。好處:什麼都不用穿戴。壞處:力反饋弱,無法處理遮擋。

在某屆siggraph上看到過一個設備。手伸進去就能感到超聲波聚焦產生的壓力,但很微弱。

3. 穿戴式設備。就像 @dizzarz 的答案 https://zhihu.com/question/37552388/answer/157011400


如何讓VR中產生『觸覺』和『力反饋

』?目前主要處在視覺和聽覺兩塊內容,相信下一步開發商會轉移到『觸覺』和『力反饋』等方面。當然,如高票答主所說,我們還需要摩擦力、慣性、重量以及指尖對物體的摩擦,手指對物體的位置方向調整。當今的水平,不可能在短時間內解決,但毫無例外的是,某些「野心勃勃」的研究團隊正在苦心鑽研,我們先來了解一下:

①Tesla Studio公的Teslasuit套裝

Teslasuit是世界上首款虛擬現實全身觸控體驗套件,用戶戴上頭盔之後,就能在虛擬現實里視覺和身體的感覺完美融合,讓你觸摸遊戲環境和遊戲人物讓其他人物觸摸你,體驗各種不同的感覺,完全體會不到真實世界和虛擬世界之間的差別。

比如虛擬約會,想想就知道,牽牽小手,臨分別時的擁抱,讓你告別「柏拉圖式」的戀愛;在醫療訓練方面,通過Teslasuit技術,可以真實模擬手術刀的把持感;在廚師訓練上,可以練習刀工而不怕傷到手……

為了更深的沉浸感,一套虛擬觸覺裝備想必是需要的。

————————————————————————————————————————————————②Dexta Robotics公司的Dexmo手套

Dexmo可以捕捉控制者的手部動作,進行更精準的機器人手部控制。以拆彈機器人為例子,目前的拆彈機器人搭載的一般只是夾取器,工作也只是轉移疑似爆炸物到遠處進行爆破,並不能進行更精確的控制。而利用Dexmo,配合同時開發中的力反饋功能,機械手握住物體的這種「握持感」可以遠程傳遞到控制者手上,從而進行靈巧機械手的精細控制。也就是說,Dexmo不僅僅是一個輸入裝置,也可以成為一個雙向的輸出裝置。

目前人們帶著頭戴式顯示器(例如Oculus Rift)的時候手上仍然要握著滑鼠和鍵盤,在我們看來這是一種相當反人類的操作方式,因為頭戴式顯示器的目的就是提供「浸入式體驗」,為了看清楚鍵盤而挪開顯示器十分有礙這種體驗。Dexmo提供的交互方式可以讓虛擬現實玩家在帶上頭戴式顯示器後可以看清自己在遊戲中的雙手,並且將現實中的手部動作輸入進虛擬世界中,增加了浸入感。力反饋功能將打開讓用戶「抓取」虛擬物體的可能性。想像一下在虛擬空間中有一個虛擬水杯,配合上力反饋的Dexmo可以讓佩戴者在現實世界中「抓住"不存在的虛擬物體,以建立起虛擬世界和現實世界初步的觸感的聯繫。

————————————————————————

————————————————————————上述的兩款新設備皆是對觸覺和力反饋領域的強力進軍,相信以後的產品將會亮相在遊戲市場上。了解罷,我們知道,在當今的遊戲界中,飛、挪、騰、越等動作是大多數主人公的必備技能,例如,科幻類遊戲中主角的噴氣背包,換作現實中,就難以實現。

那麼,我們能不能引用吊威亞一類的裝置,延伸到遊戲中為VR外設所用?答案是——當然!

吊威亞就是吊鋼絲繩的意思,「威亞」就是從wire(鋼絲)這個單詞音譯過來的。最早是從香港方面傳入大陸。多用於電視、電影等處的特效製作,也可以用於廣告。主要是使演員「飛行」。

演示.

遊戲:

假想圖:

虛擬:「為了直接繞過敵人的堡壘,你決定啟用噴氣背包,於是一瞬間,你衝到了空中,身體猛地向前一戳,堡壘遠遠地被拋在腦後,你又慢慢地降落到地面上,舉起手中的小米步槍,往敵人的菊花里一射...」

現實:「你戴上VR,後面是Wire,當你按下特定的按鈕時,Wire呼地往上把你提起,隨後Wire慢慢往下降落,你恢復到了地面上。」

遊戲:

假想圖:

遊戲中:

現實中:

值得一提的是,在一名叫AxonVR的公司中早已經應用了這方面的知識,下面是他們的假想圖:

————————————————————————————————————————————————

我們需要的不僅僅是像Dexmo那樣的機械手套,我們的整塊身體也需要運動,手並不代表全身,如果的話,我們能把機械外骨骼「搬」到遊戲界,我相信VR以後的世界將更加美妙,因為Dexmo公司就是從研究軍事領域把機械手套搬到遊戲界來工作,這簡直是為我們人類所造福(滑稽)。

機械外骨骼,又名「外骨骼裝甲」或「外骨骼機甲」,其結構類似昆蟲的外骨骼那樣,能穿在人身上,給人提供保護、額外的動力或能力,增強人體機能,如使腿殘疾的人能自己上樓,讓士兵能健步如飛、無障礙奔跑且不會疲勞、不會受傷.可以使用二段跳 ,機架上面的手套具有粘性,可以吸附金屬等等。電影《鋼鐵俠》中的鋼鐵衣就是機械外骨骼的典範,《異形》、《黑客帝國》、《機械戰警》中也出現過機械外骨骼。

如果我們穿上了為遊戲特製的外骨骼遊戲外設,會產生什麼樣的結果呢?

外骨骼的作用主要在於——一方面,限制玩家的運動;另一方面,更加方便玩家運動。限制玩家運動,原理在於力反饋,就如你在虛擬世界中,有一面牆擋在你面前,於是你用雙手把它推倒,在這個過程中,你能真真正正地感覺到這面「牆」給你的力反饋,你很難推開它。

我們再假設,如果這是一堵危牆,我只要施加一定的壓力,這堵牆就會應聲倒下,要做到這一點,外骨骼相應的關節部位就要有檢測器,當施加值達到一定時相關的部位便會一瞬鬆開,讓你有「牆」還真倒了的Feel。

理所當然,Axon公司在這方面也加以有用,並在此之前,他們向我們展示了半成品:

這裡分享一部有關機械外骨骼的視頻:【NCTECH分享】Aging Suit 外骨骼 - 讓你體驗老年人的感覺http://v.youku.com/v_show/id_XMTMwODY4MjAyMA==.html?xsharefrom=android

————————————————————————————————————————————————

最後,不要忘了一點,我們還需行走,不能像棵樹一樣站著不動,因此,我們需要一台老牌跑步機,之所以叫老牌,因為目前的萬向遊戲跑步機給玩家的使用感受沒有什麼滿意度,就是配上去玩遊戲沒有真實感,反而成了累贅。

最後聲明,以上內容僅屬個人觀點,有什麼好的內容請在下面回復我吧,謝謝。

Peripheral:


個人認為觸覺和力反饋是相當重要的,你是想要玩vr遊戲,講究的就是你自身來到一個完全虛擬世界的。

比如以後出了一個"侏羅紀公園"的遊戲,你要使用弓箭去進行自衛,這時候你連弓箭的重量,弓弦的緊繃都感受不到的話,會不會一秒齣戲。

現在我在玩steam vr遊戲時,有一個射箭的遊戲,當我拉直弓箭的時候,手柄是會抖動的,這給了我一種身臨其境的感覺。當然我認為這樣還是不夠的。

什麼時候我能在虛擬世界中,撿起一塊磚頭,還會覺得跟現實生活中一樣重。恐龍把嘴對著你,你能聞到口臭了!太酷了好嗎!


觸覺和力反饋都是現實中很重要的信息,但是目前因為技術限制所以沒有,不過如果沒有力反饋,就會給我們的交互帶來一系列的問題:

1.反作用力和摩擦力

2.重量

3.指尖對物體的摩擦,手指對物體的位置方向調整

4.慣性

—————————————————————————————————————

如果沒有觸覺,那就缺少了實在的感覺,你感覺自己的手是『麻木的』。

而觸摸會讓一個物體感覺很厚實。

—————————————————————————————————————

1.反作用力和摩擦力

在現實中,我們撿起一個物體,會感到它的手感。

我們捏著它,會感到它的反作用力。

這時我們就會知道:『哦,原來這個物體被我握在手裡。』

你慢慢鬆手,變會感到物體對你反作用力越小。

而當鬆手到一定程度,物體便會慢慢往下滑……

所以,在現實中,你即使閉上眼睛也能將一個物體放下。

因為你鬆手時感到了放下物體時的反作用力越來越小直至鬆開的這樣一個變化過程。

而這種變化在VR中是沒有的,在VR中只有0和1——

要麼抓住,要麼鬆開,沒有一個觸覺告訴你這個東西從手上滑落了。

更嚴重的是,在VR中,根本就沒有這種作用力。

你撿起一個東西,你的手指穿透了它,你感受不到它的力反饋,認知系統便開始質疑它的存在了。

—————————————————————————————————————

2.重量

這是我用oculus touch玩的一個遊戲《Killing Floor》——桌上插了一把刀,你伸手過去

當你中指無名指按下hand trigger,虛擬的刀就穩穩地被『抓』在你手裡——紋絲不動。

而你在現實中如果抓著一把刀,應該可以用手指轉動它吧?

更可怕的是你感受不到它的重量,就像是掂著一塊很輕很輕的泡沫板。

你在現實中抓住一根棍子,理論上你可以抓到棍子的任何一端,可以轉動棍子,更快月鬆手讓棍子滑到手上的任何位置……但是在VR中這一切都做不到。

在現實中,我們撿起一個東西的習慣是——

伸手去抓一個東西,然後再感到物體對手的反作用力,再拿起來物體握在手裡的重力,於是你知道『我抓起了這個物體』。

而如果在VR中,你看見一個物體,伸手去『抓』,結果一抓抓了個空。

或者你一抓,想把它抓了放到某個位置,你本來用了很大的力想把它拿起來,結果它不費吹灰之力,你一抓之下遠遠甩出了它本來的位置。

3.指尖對物體的摩擦,手指對物體的位置方向調整

在VR中,你無法用指尖抓起某個東西。

因為這裡的hand trigger是用到了中指無名指,甚至整個手的力量。

你摩擦指尖,摩擦被你指尖抓住的東西,你能感到它的紋理和觸感。而在VR中,你感到被你抓著的東西是虛無的。

亦無法用指尖轉動發條這樣細小的部件。

在現實中我打乒乓球的時候喜歡用發球的左手微微摩擦乒乓球,這樣它打出去時會微微旋轉,但是在VR中我無法用指尖摸到乒乓球,更無法旋轉它。

—————————————————————————————————————

4.慣性

用oculus touch抓東西是中指和無名指按下hand trigger。

(在遊戲《Ripcoil》中)

當你抓下時,整個圓盤呈現在你手裡。

在現實中,我們扔出一個物體,會感到相應的重量,你是扔一個輕飄飄的壘球?還是一個沉重的鉛球,你的手會給它一個不同的重量。

你要將一個球扔到不同遠近的地方,扔遠點就用很大的力甩出去,扔在很近的一個垃圾桶里就得小心地控制自己的力道……這就是慣性。

但是在VR中,就麻煩了,如果給你一個很重的虛擬的鉛球,你把它抓起來,輕飄飄似虛無,這時讓你扔,你完全不知道把它扔到什麼位置。

『投擲』這個動作本身也有很多讓用戶不好把握的地方,比如你扔一個東西其實需要在手腕加速到最快時鬆手,但是這個動作在玩oculus touch的時候需要在甩出去的時候鬆開中指和無名指按著的hand trigger,因為手上的虛擬物體沒有重量也沒有慣性,所以用戶很難把握扔出去的力道,結果停在半空,一鬆手,虛擬物體直直地掉到了地上。

—————————————————————————————————————

振動反饋

目前的controller,以oculus touch為代表,都是採用震動(vibration)的方式產生觸覺,內置一個線性加速度計(linear actuator)。

你可以設置:0.0f、0.5f、1.0f 頻率(frequency)和0.0f 到1.0f的振幅(amplitude)以區分『不同的觸覺』。

但是振動的時間不能太長,一是時間長了用戶的手對振動麻木了,二是時間長了影響controller 的位置跟蹤。

目前,是採用最簡單的振動,在最關鍵的操作上完成交互,具體分為兩種haptic:

當你在VR中,打碎一個玻璃杯、撿起一個甜甜圈、拍了一下桌子(與全息的剛體碰撞),或者手上的全息物體給你提示,這時你手上的controller都會振動以脈動觸覺(pulse haptic)

還有一種是基於距離的振動(distance based haptic),當你拉開抽屜或者旋轉門把手的時候觸發。

最簡單的就是顛乒乓球,你能感到乒乓球每次砸到球拍上時的那種震動。

當然,除了『手』,身體上也需要觸覺和力反饋,最好的做法是將現實中的姿勢和VR中的姿勢相匹配,下面是我考慮的四種力反饋:

  • 屁股坐在椅上

  • 背靠椅背

  • 腳踩地面

  • 手放在桌上

而這四種力反饋就能在VR中找到對應關係,所以就很舒服。

相關問題:VR中如何解決你的手穿過虛擬剛體,而沒有產生剛體碰撞的問題?


之前聽朋友說起過,有一個體驗是把體驗者關在一個鐵籠子里,可以想像一下在虛擬世界裡看到自己在海底的一個籠子里,籠子摸上去是真有,然後大鯊魚遊了過來!


力反饋、虛擬手套


人機交互,觸覺是更自然的一種方式。


東南大學機器人感測與控制研究所的科研團隊最近有了新進展:http://www.jiqiren.tv/touch-vr-robot.html


首先感謝邀請,在我了解的虛擬現實運用中,最多的感受來自於視覺的衝擊給大腦帶來的反應,如模擬器類的遊戲機,其中跳傘、蹦極、駕駛等無不利用視覺來增加深陷其中的逼真程度。看了推薦文章,裡面提到的觸覺可以說是在實現虛擬現實的器材上做了一些更新,適度的震動、敲擊、血壓儀一般的收緊等小動作都可以配合虛擬現實的場景讓一切變得更逼真。

就像我們看的電影,從2D到3D、4D,甚至現在的7D這些一點一點實現的進步都讓我們嘆為觀止,以前的我們一定不能想像電影中美食的氣味真的可以飄出來進入我們的鼻腔,但現在已經有國外的公司實現了這個功能。

或許以前的想像在不久的將來都會得到實現的。


王晉康的七重外殼裡是穿一身緊身衣 裡面有各種電極釋放刺激


當然是依靠Haptic Rendering啊


gloveone好像不錯吧,不過最近好像沒什麼消息了http://youtu.be/RAZidk_mPc8


對觸覺,我最近沒有深入研究,我們網站之前的這兩篇文章,你可以看看。Haptics技術:在觸屏上實現物理按鈕效果,VR沉浸式體驗進階。


如果淘寶買衣服不僅能夠提供衣服設計圖、ar試穿效果,還能夠提供觸覺增強的質感體驗,我會對淘寶購物更安心

對於力觸覺重構,有的專註於研究設備的研製,有的專註於力觸覺建模方法,如高票回答。還有一個研究方向,如何針對現實物體重構高真實度的力觸覺感受,也就是尋找真實物體交互動力學的準確參數。這三點如果都能做到,應該就可以摸到網上衣物了吧。


因為不這麼做人會覺得不真實、沒有浸入感,甚至暈。

個人認為,腦機介面開發出來以前解決不了。


我的博士研究中做過相關研究,力反饋比較難,觸覺反饋可用震動電機通過不同頻率振動來反饋不同的觸覺。

先碼,後面慢慢答


dw?x


這個問題就好像我要攔截人類所有正常的觸覺信號,然後通過計算機輸入信號給大腦,同時我還要保證運動神經的控制信號能被計算機捕獲,進行處理後再發給目標肌肉。

如果能做到以上,其實eva都成現實了。


推薦閱讀:

如何評價微軟在2015年新出的 Productivity Future Vision 視頻?
你想像中的magic Leap的交互方式是怎樣的?
要製作一款應用,需要如何從零開始學習編程?
為什麼手機客戶端的搜索入口或者搜索框大部分都在頂部,在大屏手機中明顯是難點擊到的?

TAG:人機交互 | 交互設計 | 增強現實AR | 認知科學 | 虛擬現實VR |