英伟达进入AI生成模型领域的研究，直接比别人多一个次元：一句描述生成3D模型。我们生存在三维的世界里，尽管目前大多数应用程序是2D的，但人们对3D数字内容有很高的需求，包括游戏、娱乐、建筑和机器人模拟等应用。然而，创建专业的3D内容需要很高的艺术与审美素养和大量3D建模专业知识。人工完成这项工作需要花费大量时间和精力来培养这些技能。需求大又是「劳动密集型行业」，那么有没有可能交给AI来做？
上周五，英伟达提交到预印版论文平台arXiv的论文引起了人们的关注。和现在流行的NovelAI差不多，人们只需要输入一段文字比如「一只坐在睡莲上的蓝色箭毒蛙」，AI就能给你生成个纹理造型俱全的3D模型出来。Magic3D还可以执行基于提示的3D网格编辑：给定低分辨率3D模型和基本提示，可以更改文本从而修改生成的模型内容。此外，作者还展示了保持画风，以及将2D图像样式应用于3D模型的能力。
Stable Diffusion的论文在2022年8月才首次提交，几个月就已经进化到这样的程度，不禁让人感叹科技发展的速度。英伟达表示，你只需要在这个基础上稍作修改，生成的模型就可以当做游戏或CGI艺术场景的素材了。3D生成模型的方向并不神秘，其实在9月29日，谷歌曾经发布过一款文本到3D的生成模型DreamFusion，英伟达在Magic3D的研究中直接对标该方法。
类似于DreamFusion用文本生成2D图像，再将其优化为体积NeRF（神经辐射场）数据的流程，Magic3D使用两阶段生成法，用低分辨率生成的粗略模型再优化到更高的分辨率。英伟达的方法首先使用低分辨率扩散先验获得粗糙模型，并使用稀疏3D哈希网格结构进行加速。用粗略表示作为初始，再进一步优化了带纹理的3D网格模型，该模型具有与高分辨率潜在扩散模型交互的高效可微分渲染器。
Magic3D可以在40分钟内创建高质量的3D网格模型，比DreamFusion快2倍（后者平均需要1.5小时），同时还实现了更高的分辨率。统计表明相比DreamFusion，61.7%的人更喜欢英伟达的新方法。连同图像调节生成功能，新技术为各种创意应用开辟了新途径。Magic3D可以在较短的计算时间内根据文本prompt合成高度详细的3D模型。
Magic3D通过改进DreamFusion中的几个主要设计选择来使用文本prompt合成高质量的3D内容。具体来说，Magic3D是一种从粗到精的优化方法，其中使用不同分辨率下的多个扩散先验来优化3D表征，从而生成视图一致的几何形状以及高分辨率细节。Magic3D使用监督方法合成8倍高分辨率的3D内容，速度也比DreamFusion快2倍。
Magic3D的整个工作流程分为两个阶段：在第一阶段，该研究优化了类似于DreamFusion的粗略神经场表征，以实现具有基于哈希网格（hash grid）的内存和计算的高效场景表征。在第二阶段该方法切换到优化网格表征。这个步骤很关键，它允许该方法在高达512×512的分辨率下利用扩散先验。
由于3D网格适用于快速图形渲染，可以实时渲染高分辨率图像，因此该研究利用基于光栅化的高效微分渲染器和相机特写来恢复几何纹理中的高频细节。基于上述两个阶段，该方法可以生成高保真的3D内容，并且很容易在标准图形软件中导入和可视化。此外，该研究展示了用文本prompt对3D合成过程的创造性控制能力。
为了对比实际应用效果，英伟达的研究人员把Magic3D和DreamFusion在397个文本提示生成的内容上进行了比较。平均的粗略模型生成阶段花费15分钟，精细阶段训练了25分钟，所有运行时间均在8块英伟达A100 GPU上测得。虽然论文和demo只是第一步，但英伟达已经为Magic3D想好了未来的应用方向：给游戏和元宇宙世界提供制作海量3D模型的工具，而且让所有人都可以上手使用。
当然，最早上线这项功能的可能会是英伟达自己的Omniverse。