ETA:Meta甩出10大硬核技术 揭秘扎克伯格元宇宙野心

终极版VR,长这样?!

作者:夏舍予

说起VR(虚拟现实)领域的前沿研究进展,全球最火爆的VR设备供应商Meta,绝对是引领市场风向的存在。

Meta的CEO马克·扎克伯格最近在访谈中透露了Meta在元宇宙领域的最新布局。Meta将于10月推出新的VR头显——Meta Quest Pro。

据悉,该头显的最大亮点是具有面部和眼动跟踪功能,可以让虚拟数字化身进行眼神交流。硬件分析师Brad Lynch认为,Meta Quest Pro将采用经过改进的XR2处理器,较现有的XR2处理器同比性能提升30%。分析师郭明錤预测,Quest Pro将使用单眼2160×2160分辨率的面板。

在访谈中,扎克伯格还谈到了元宇宙社交,他认为,从文字、图像、再到视频,社交媒体的载体正朝着更大的信息容量演变,而下一个能比视频承载更多信息量的载体,就在VR领域。

此前,扎克伯格亲自下场推荐自家的社交平台Horizon Worlds,并发表了一张VR自拍。虽然照片遭到全网群嘲,不过扎克伯格还是为Horizon Worlds带起了一波全网热度。

扎克伯格的VR自拍

近来,Meta在元宇宙领域的动作频繁。今年6月,Meta的VR部门Reality Labs推出了四款VR头显原型机,分别展示未来VR设备的4个关键技术演进方向:高分辨率、高动态范围(HDR)、轻薄外形、降低晕眩感的变焦技术优化。在8月举办的SIGGRAPH大会中,Meta的显示系统开发负责人Douglas Lanman发表演讲,为我们介绍了攻破VR技术瓶颈的十大挑战。

在SIGGRAPH 2022大会上,外媒Auganix的记者Sam Sprigg特别体验了主打HDR功能的VR原型机Starburst。Oculus Quest 2是Meta迄今推出的VR一体机巅峰之作,去年出货量突破千万台,是史上最畅销的VR产品,而Starburst的峰值亮度足足有Quest 2的200倍。

那么,Meta的元宇宙布局究竟是怎样的?Meta的原型机体验起来到底如何?Meta的百亿研发都投入到了哪里?让我们带着这些疑问,一起来看看Meta在VR领域上的最新发展。

为探索四大研究领域

Meta发布四款原型机

今年6月,Meta Reality Labs公布了四款不同技术领域的VR头显原型机。

元宇宙平台Roblox拟于2023下半年加入Meta Quest生态:1月10日消息,科技媒体The Verge称,元宇宙平台Roblox或拟于2023下半年加入Meta Quest生态,这意味着使用Quest VR头显设备的玩家可以进入Roblox元宇宙平台。

实际上,去年五月就有传言Roblox计划进入VR市场,其首席执行官David Baszucki也暗示可能会推出配套的硬件VR设备,但目前可能会选择与Meta合作。目前Meta已经确认将在2023年推出新款硬件设备Meta Quest 3,预计将在10月左右就行的Meta Connect大会上发布。(fossbytes)[2023/1/10 11:04:36]

Butterscotch探索分辨率技术、Starburst探索HDR技术、Holocake 2探索VR头显的轻薄外形打造技术、Half Dome 系列探索变焦技术。这四款原型机分别代表了Meta在四个VR头显研发领域取得的最新进展。

此前,Meta的CEO马克·扎克伯格曾提出视觉图灵测试(Visual Turing test)的概念。简单来说,视觉图灵测试的考核标准就是虚拟图像能否以假乱真,让人眼无法分辨出虚拟图像与真实图像。扎克伯格表示,视觉图灵测试有两个重点,即照片级真实感和临场感。

不同VR头显分辨率对比

而让图像更加逼真的方法之一,就是尽可能地提升图像的分辨率。为此,Meta研发了原型机Butterscotch,其特点就是具有“视网膜级别”的分辨率。

Butterscotch的PPD达到55,很接近每1度角60像素的“视网膜分辨率”水平,其分辨率是Quest 2的2.5倍,Meta Reality Labs科研部门DSR团队光学科学家Yang Zhao说,Butterscotch的定制透镜模组中,有两个高精度玻璃镜片,镜片的表面质量更高,但也更重。此外,还有一个可衍射光线的特制透镜。玻璃透镜与衍射透镜组合后,即可呈现清晰的图像。

Starburst原型机

Starburst原型机的特点是具备高HDR(高动态范围成像)功能,其背光的最大亮度可达20000nit,是现有VR头显Quest 2的200倍。Meta Reality Labs团队开发Starburst的目的是在虚拟环境中还原完整的室内照明,并探索能让用户实现最佳沉浸体验的理想亮度。

MetaMask Institutional与Gnosis Safe达成合作:6月28日消息,MetaMask Institutional(MMI)宣布,通过与多签钱包GnosisSafe达成合作,MMI扩展了其加密货币托管产品,以集成DAO的托管选项,并为DAO提供了更易于访问DeFi生态系统的全新方式。DAO更青睐GnosisSafe,因为其多重签名功能,为DAO部署资金提供了额外的安全性。据悉,MetaMask Institutional是MetaMask钱包的机构兼容版本,为加密基金、做市商、交易平台和DAO提供机构所需的安全、合规、高效的DeFi和Web3服务。通过MMI的DeFi和Web3投资组合仪表板,DAO可以全面了解其投资组合,业绩,单个资产以及历史交易记录。[2022/6/28 1:36:19]

Starburst采用COB LED(常用于车灯上的LED)取代原来的LCD屏幕背光,这在很大程度上提高了LCD的背光亮度,但也产生了更多的热量。因此,Starburst还配备了风扇和3D打印散热底架。但是设备整体比较笨重,且耗电严重。在四项技术中,这项技术离上市的距离最远。

Holocake 2原型机

Holocake 2原型机的特点是轻薄,可以提升VR头显的佩戴舒适度。Holocake 2是一款PC VR设备,虽然它的外形轻薄,但是它需要额外的计算和电池组件空间,采取分体式设计。

Half Dome发展史

Half Dome是基于Oculus Rift改造的VR头显原型机,其特点是采用可变焦透镜。从第三代开始,Half Dome的透镜从机械系统升级为电子变焦系统,减少了机械噪音和震动。Half Dome 3有32个可切换的焦点平面。据体验者透露,通过Half Dome的动态变焦玩《Lucky’s Tale》等游戏时,视野里的图像焦点可以根据手柄移动的距离而变化。

Starburst峰值亮度为20000nit

是Quest 2的200倍

在本月举办的计算机图形顶会SIGGRAPH 2022上,外媒Auganix的记者Sam Sprigg特别体验了主打HDR功能的VR原型机Starburst。Oculus Quest 2是Meta迄今推出的VR一体机巅峰之作,去年出货量突破千万台,是史上最畅销的VR产品,而Starburst的峰值亮度足足有Quest 2的200倍。

Meta首家线下商店两周后开业:4月26日消息,Meta Platforms公司在其官网宣布,将于5月9日在美国加州伯林盖姆开设旗下第一家实体零售店“Meta Store”。消费者可以在现场试用视频通话设备Portal、智能眼镜Ray-Ban Stories以及虚拟现实头显Quest 2。(鞭牛士)[2022/4/26 5:11:29]

在展会现场,两台Starburst被挂在一个框架上供参与者体验。Starburst的重量约为2.5公斤,这个数字对于头戴式设备而言,有点太大了。Sam Sprigg说:“它太重了,你无法把它戴在头上,只能把它举到脸前。”并且,Starburst需要大量电力支持其高亮度显示,所以它被固定在了框架上。

两台Starburst被悬挂在一个架子上

Starburst的亮度是用“nit”来衡量的,Sam Sprigg称,室内环境的亮度超过10000nit,而Starburst的峰值亮度为20000nit。而Meta曾表示,Quest 2的峰值亮度约为100nit,Starburst的峰值亮度是Quest 2的200倍。

而20000nit的峰值也可以在一定程度上解释Starburst的“笨重”。高亮度也会产生高热量,为了散热,Starburst配备了大型的铝散热器。Meta的显示系统研究团队(Display Systems Research,DSR)的研究科学家Nathan Matsuda说,铝散热器至少占了设备重量的50%。此外,设备顶部有一个大型风扇,可以吸收散热器中的热量。

Starburst由36个零部件组成

不过,Starburst的分辨率较低,约为2560x1620像素,比Quest 2略低。不过,这也可以让人接受。因为Starburst主要展示HDR的解决方案,至于高分辨率,那是Butterscotch该探索的方向。

Starburst同时使用彩色和单色LCD(液晶显示器)。Matsuda表示,这是因为单个LCD在低光下的对比度较差,而两个彩色LCD又会吸收大部分光线,降低显示效果。因此,将彩色和单色LCD串联使用,就可以获得最佳的显示效果。

为了专注探索HDR技术,Starburst在画面的刷新率和视野方面做出了妥协。不过,Sam Sprigg称,这种妥协并没有影响Starburst在HDR和亮度方面的表现。

Meta员工不满扎克伯格痴迷元宇宙:不知道要交付什么:金色财经报道,马克·扎克伯格对元宇宙的痴迷已经引发 Meta (原 Facebook)公司员工不满,他们认为“元宇宙已经成为扎克伯格唯一想谈论的事情”,以至于让许多为他工作的人感到沮丧。目前,Meta 公司已经组建特定于元宇宙的团队”,员工认为这是一个“将覆盖公司内所有团队”的团队,但不少人仍然非常困惑,一方面担心会煽动混乱和焦虑,另一方面是员工似乎并不真正知道要交付什么或做什么,Meta 迄今并没有连贯的元宇宙战略。(businessinsider)[2022/4/24 14:45:10]

Sam Sprigg“戴着”Starburst

Starburst演示的第一部分就是在虚拟空间设置一个光源,再放置一些球体来显示反射光源。Sam Sprigg称,在10000nit显示范围下,这与Quest 2的体验相同,没有什么特别的地方。

但是,当亮度上升到10000nit时,他能感受到更明显的亮度。展示10000nit光线时,演示切换到了海洋日落景观。太阳穿过云层,光线打在海洋的波浪上,水面波光粼粼。然后,光线上升到了峰值20000nit,画面中有一个虚拟的太阳。Sam Sprigg称,他觉得自己仿佛看到了真实的太阳,因为光线实在太亮了。最后,太阳落山时,海浪发出了微弱的反光。这个演示令人印象深刻。

放置球体测试光源

Sam Sprigg称,他在Starburst中直视20000nit的光源可能跟盯着60瓦灯泡的感觉差不多。但是,VR中的光源距离他的眼睛只有几英寸,这个距离很近。他认为,这种亮度显示可以为用户带来更加真实且富有沉浸感的体验。

但是,Sam Sprigg也指出,功率、热量、外形是限制VR头显发展HDR技术的重要阻碍。他认为,我们可能还需要很长的时间,才能等到能够输出20000nit的成熟上市产品。

困难重重

VR头显面临十大技术挑战

目前Meta虽然在VR头显上已经取得了一些技术进展,但仍然遇到了很多目前无法解决的技术瓶颈。在SIGGRAPH大会的演讲中,Meta显示系统开发负责人Douglas Lanman为我们提供了一些参考方向——要想将VR体验提升到新的高度,目前有十大挑战亟待解决!

谁能率先攻破这些挑战,谁就有望在愈演愈烈的元宇宙硬件入口抢夺赛中,争得先机。

NirvanaMeta将同OverBabyDoge展开社区合作:据官方消息,NirvanaMeta将同OverBabyDoge展开社区合作,合作围绕DAO基础知识讲解输出、人员沉淀建设、对外投资合作等方面。此外,NirvanaMeta将与OverBabyDoge共同谋求社区的稳定发展。[2022/3/31 14:29:16]

1、分辨率:Meta开发Butterscotch原型机,致力提高分辨率

为了提高用户的沉浸感,让虚拟世界看起来更加逼真、清晰,VR头显必须拥有更高的分辨率。目前的VR头显分辨率离人类视觉水平还非常遥远。

Meta表示,他们的初步目标是实现单眼8K分辨率和60PPD(像素密度)。但是目前Quest 2只达到了单眼2K分辨率和20PPD,距离这一目标还有较远距离。

为了提高VR头显的分辨率,Meta开发了专注探索分辨率的Butterscotch原型机。在这方面,高分辨率显示器的开发和生产并不是难点,难点在于如何为高分辨率显示器配备相应的计算能力。Lanman指出,注视点渲染(Foveated Rendering)和云流送(Cloud streaming)两种技术或许有助于提升计算能力,但是这两种技术本身的研发难度也很大。

上面是普通模糊处理的VR效果,下面是注视点渲染技术模糊效果

2、视场角:VR头显视场角比人眼小一倍

人类的平均水平视场角为200度,而目前大多数商用VR头显的水平视场角为100度。这意味着VR头显的视野范围比我们在真实环境中看到的更窄。此外,在垂直视场角方面,VR头显也有改进的余地。

视野越宽,VR头显呈现的像素也越多。这就要求更高的功率和更多的废热(waste heat)。此外,视线范围变宽后,视线范围边缘的图像容易失真。因此,更宽的视线范围需要更好的透镜技术支持。并且,研究人员还要确保镜头和显示器的构建方式不会增加VR头显的外形尺寸。

3、人体工程学(Ergonomics):VR头显佩戴舒适度不够

目前大多数VR头显都会略显“笨重”,例如Quest 2的重量超过500克,其设备厚度(从面部突出的距离)达8厘米。这样的设备显然不会为用户带来很好的佩戴体验。理想的VR设备应该更轻薄,能让用户舒适地长时间佩戴。

Pancake透镜和全息透镜或许会对减小头显体积有所帮助,目前Meta的Holocake 2原型机正在往此方向探索,但其尚未发展到大规模生产的水平。

“太阳镜”是Holocake 1原型机,透明的是2016年的Oculus Rift

4、视力矫正显示屏:还未找到成本低廉的视力矫正显示屏

更好的VR头显应该具备视觉矫正功能,让用户不必在VR头显下还带着常规眼镜。这个问题可以通过特殊的镜头附件解决,但这不是理想的解决方案。最佳方案是头显的显示器自带视觉矫正功能,这样头显设计师就不再需要考虑适配眼镜等问题。

但挑战就在于,如何才能找到一种制造成本低廉,且不会额外增加头显重量的解决方式呢?

具有视力矫正功能的镜头附件已经存在,但它们并不是理想的解决方案

5、变焦:Meta原型机Half Dome可实现人眼变焦

在自然环境中,为了看清不同距离的画面,人眼可以自然变焦。但在VR头显中,因为人眼与屏幕之间的距离没有改变,所以人眼无法变焦,也无法看清远近景物之间的差别。这其中存在视觉辐辏调节冲突(vergence-accommodation-conflict)问题。所以有时用户会感到眼睛疲劳,甚至出现头痛和呕吐现象。

为了解决这个问题,Meta的研究人员开发了一系列支持“渐进式视觉”(progressive vision)的原型机Half Dome。Half Dome可以模拟不同的焦点平面,呈现出不同的模糊程度,从而帮助人眼在虚拟世界里调整焦距。

瞳孔会随着物体距离变化

6、眼动追踪:难以适配所有人的眼部情况

眼动跟踪是虚拟现实中的一项关键技术。它是众多其他重要VR技术的基础,如变焦、畸变校正等。通过这项技术,用户可以在虚拟世界中实现与其他用户的眼神交流,拥有更加真实的社交体验。

但问题在于,每个人都有不同的瞳孔形状、每个人眼睑和睫毛的生长情况也不同,所以目前眼动追踪技术还无法很好地适配所有用户。因此,Lanman团队将广泛收集更多的用户数据,以此升级眼动追踪技术技术,努力让它与更多人适配。

瞳孔的形状因人而异,这对眼动追踪技术来说是一个挑战

7、畸变校正:Meta研发失真模拟器,加快算法迭代速度

瞳孔的运动会引起图像的失真,进而降低用户的沉浸感,这种现象在配合变焦技术使用时尤其明显。为了开发校正算法,研究人员必须在实物头显上进行调整测试,但生产头显可能会耗费数周甚至数月,这大大拖延了算法的迭代时间。

为了解决这个问题,Meta研究团队开发了一种失真模拟器(distortion simulator)。有了这种模拟器,无需生产测试头显和特殊镜头,研究人员就能测试校正算法。

红色光线未校正,蓝色光线是校正后的结果

8、高动态范围(HDR):Starburst原型机峰值亮度为20000nit

物理对象和环境的亮度远远高于VR头显,为了解决这个问题,Meta创造了Starburst原型机。Starburst的亮度峰值为20000nit,是现存Quest 2的200倍。

Starburst可以更真实地模拟封闭空间和夜晚的照明状况,让虚拟环境看起来更加真实。不过,目前Starburst很重,并且十分耗能。

Meta认为,HDR对视觉真实感的贡献要大于分辨率和变焦,但这项技术距离实际应用最为遥远。

Starburst原型机特写

9、视觉逼真度(Visual realism):透视(Passthrough)技术尚不成熟

更好的VR头显应该还能让VR用户与现实世界保持互动。VR头显可以记录真实环境信息并在虚拟现实中显示为视频图像。这种称为“透视”(Passthrough)的技术已经在商用VR头显中实现,但其质量很差。例如,Quest 2提供了一种黑白相间的透视模式,而Meta的即将推出的高端VR头显“Quest Pro”旨在追求更高的分辨率和彩色透视功能。

然而,VR头显尚未实现物理环境的完美重建。透视技术捕捉到的画面视角在空间上与眼睛存在偏差,用户在长时间使用时可能会感到不适。所以,Meta正在研究人工智能辅助的视线合成,该技术能实时生成视角正确的视点,并具有高视觉保真度。

此外,Meta还在研究一种“反向透视”(Reverse Passthrough)功能,该功能可以让现实用户看到VR用户的眼镜和脸部,进而进行眼神交流。但是目前这项技术在视觉上不协调、不自然,还远未为市场做好准备。

左边是一个Oculus Rift,它挡住了VR用户的视线,右侧是早期的反向“透视”原型机

10、面部重建:Meta开展“虚拟化身”项目研究

Meta希望未来人们在虚拟环境中见面就像在现实中一样真实。为此,Meta正在展开了名为虚拟化身(Codec Avatars)的研究项目,该项目致力于为人们在虚拟环境中创建3D数字化身。

目前,VR头显可以实时读取VR用户的面部表情,并将其转移到虚拟现实中。据悉,即将推出的Quest Pro或将成为Meta第一款提供面部跟踪(face-tracking)的设备。

Quest Pro可以识别面部表情并将其传输到VR设备上

结语:Meta的VR技术已有突破

但仍需继续攻克技术难题

Lanman在SIGGRAPH 2022上提出了目前VR头显面临的十大挑战,我们可以从中看到目前Meta取得的进展和尚未解决的问题。Meta发布了四款原型机,目的是解决VR头显在分辨率、变焦、轻薄外形、HDR四个方面的问题。这四款原型机各有所长,在各自领域获得了初步的技术进展。此外,Meta开展了虚拟化身项目助力VR头显的面部重建功能、开发了失真模拟器加速算法迭代。

这些原型机展现了现在Meta在VR单项技术领域能达到的最高水准,但这些技术远远不足以打造出一个成熟的VR头显。目前仍存在一些Meta暂时无法攻克的技术问题。例如VR头显的视场角比人眼更窄、VR头显佩戴的舒适度不够、VR头显还未配备视力矫正功能、VR头显的眼动追踪技术不能适配所有人、VR头显的“透视”技术尚不成熟等等。

细数目前Meta在VR头显上的探索,我们可以发现,Meta已经在VR头显探索的路上走了很长的一段距离。但是,Meta离这条路的终点还很远。目前,VR头显相关的各项技术都在积极开发中,但这些技术还远未成熟,离上市商用还有一段距离。从这个角度来看,VR的爆发潮还很远。

来源:Auganix、Mixed

智东西

个人专栏

阅读更多

金色早8点

Bress

链捕手

财经法学

PANews

成都链安

Odaily星球日报

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

地球链

[0:15ms0-2:191ms