整理 | 禾木木 出品 | AI科技大本营(ID:rgznai100) 前有DALL.E文本生成图像,现有将文字变成 3D场景。 近日,苹果 AI 团队发布最新 AI 模型 GAUDI,它是基于 3D 场景的神经架构 NeRFs,可以根据文字生成 3D 室内场景。 2021 年末时,谷歌通过 Dream Fields 首次展示了 3D AI 生成系统,将 NeRF 生成 3D 视图的能力与 OpenAI 的 CLIP 评估图像内容的能力相结合。 Apple GAUDI 是 3D 内饰专家 虽然谷歌致力于使用 Dream Fields 生成单个对象,但将生成 AI 扩展到完全不受约束的 3D 场景仍是一个尚未解决的问题。 虽然现在 GAUDI 生成的 3D 场景视频质量还不是很高,但这也说明了 AI 在图像和视频技术这生成的另一种可能。
计算机生成的全息(CGH)通过对衍射和干涉的数值模拟实现了高空间角度的3D投影。 长期以来,研究人员一直在研究制作全息图的技术,但是,现有的基于物理的方法无法生成具有按像素聚焦控制和精确遮挡的全息图。 麻省理工学院的研究人员使用深度学习来加速计算机生成的全息图,从而实现实时全息图的生成。研究人员设计了一种卷积神经网络,使用可训练的张量链大致模拟人类如何处理视觉信息。 首先,用于渲染RGB-D图像的3D场景具有很高的复杂度,并且在颜色,几何形状,阴影,纹理和遮挡方面存在很大的差异,以帮助CNN推广到计算机渲染和实际捕获的RGB-D测试中 输入,通过自定义随机场景生成器实现的 实时3D全息技术的应用将会惠及从VR到3D打印的众多系统,研究人员表示,该种新系统可以帮助VR观看者沉浸在更真实的风景中,同时消除长期使用VR带来的眼睛疲劳和其他副作用。 同时,三维全息术还可以促进3D打印技术的发展,该技术比传统的逐层3D打印更快、更精确,因为该项技术允许同时投影整个3D图形。
机器之心专栏 机器之心编辑部 45 秒单张图片变 3D,无需大量 3D 数据和逐物体优化。 3D AI 生成最近发展得如火如荼,不少最新工作都能够从一句话 / 一张图生成高质量的三维模型。 这种方式使得现有的 3D AI 生成方法都非常耗时,譬如 ProlificDreamer 的作者就曾在知乎上表示方法目前的主要局限之一便是生成时间太慢了! 方法 由于 3D 数据的稀缺性,学术界最近的绝大多数 3D AI 生成工作都通过利用 2D 扩散生成模型来指导 3D 表示(如 NeRF)的优化,从而实现 3D 内容生成。 与现有 3D AI 生成方法的比较 研究者表示,得益于 “2D 多视角预测 + 3D 可泛化重建” 的技术路线,One-2-3-45 与现有的 3D AI 生成方法相比,除了推断时间显著降低外,还在输入的多样性 结语 One-2-3-45 提出了 “2D 多视角预测 + 3D 可泛化重建” 这样一项新颖的 3D AI 生成玩法,并在许多方面都展示出了其优越性。
隐藏3D图像的AI生成实验你是否见过那些隐藏着3D图像的自体立体图?就像1990年代的Magic Eye图片,看似嘈杂的重复图案,直到你以特定方式调节视觉焦距才能看到立体效果。 技术实现机制剖析当要求"生成独角兽魔法眼3D立体图像"时,ChatGPT传递给DALL-E3(实际负责图像生成的模型)的描述极其详细:需要包含复杂图案和多样化色彩以确保3D效果突出背景应包含神秘元素以增强深度幻觉独角兽的角和鬃毛应在图案中清晰可辨但 在自主生成场景中,它本质上仍是文本生成器。这些被宣传为"全能AI"的模型,实际更像装满应用的手机:文本生成应用可在特定情况下启动图像生成应用,但它们并非真正意义上的统一程序。 在生成ASCII文字艺术并自行读取时:在新会话中向其发送自生成的ASCII文字时,它识别为"ERROR"对自身创作的ASCII艺术品的识别和评级同样糟糕技术本质揭示生成ASCII艺术和3D图像并非ChatGPT 最后尝试让ChatGPT生成《小王子》风格的隐藏绵羊图像,结果基本失败。这再次证明了当前AI在多模态任务协同处理上的技术局限性。
编译 | 若名 出品 | AI科技大本营 用 AI 生成逼真三维物体模型并不像人们以为的那么困难。 近日,在 NeurIPS 2018 会议上接收的论文“ 视觉对象网络:图像生成与分离式的3D表示”中,麻省理工学院计算机科学与人工智能实验室(MIT CSAIL)和 Google 的研究人员介绍了能创造出有逼真纹理和形状的一个生成式 “现代深层生成模型学会了合成逼真的图像,”研究人员写道,“但大多数计算模型只专注于生成 2D 图像,而忽略了 3D 世界的美好......这种视角不可避免地限制了它们在许多领域的实际应用,例如合成数据生成 “我们的主要想法是将图像生成过程分解为形状、视点和纹理三种因素,”Google 团队写道,“这种分离式 3D 表示使我们能够在对抗学习框架下从 3D 和 2D 视觉数据集合中学习模型。 9 月, Nvidia 的研究人员开发了一种 AI 模型,可以生成脑癌的合成扫描图像,8 月,卡内基梅隆大学的一个团队 演示了 AI 可以将人们已存的动作和面部表情转换成另一张照片或视频中的目标对象。
以游戏皮肤生产管线为例,头部游戏实践最长需9个月,其中概念设计和制作实现占据60%以上的人力投入;传统3D研发管线包含10大环节,耗时5-7天,单件成本高达数千元。 材质生成。 CodeBuddy IDE(研发效能层): 产设研一体的AI全栈工程师工具,从L1(文件级代码生成)演进至L5(AI开发团队)。 兑现工业化降本增效:3D资产与营销投放的量化回报 全栈AI方案在实际业务场景中展现了高度确定的投资回报率,核心业务指标量化如下: 3D资产生产效率提升 >70%: 混元3D AI游戏管线将传统需5-7天的制作周期压缩至 架构维度的代际领先: 混元3D为业界最早一批3D-DiT原生大模型,其自研3D-Poly自回归大模型生成的Mesh布线标准已直接对标专业设计师人工标准,解决了传统AI生成模型“拓扑布线杂乱不可用”的核心痛点
要使用AI从几张图片生成3D打印模型的STL文件,你可以采用以下几种方法和工具: Genie:Luma AI推出的Genie工具可以将文本或图像转换为3D模型。 你可以在网页上输入提示词或上传图片,系统会在几秒内生成基础的3D模型,并支持进一步编辑和下载为STL等格式。 Tripo:Tripo工具支持通过文本或图像生成3D模型。 CSM(Common Sense Machines,https://3d.csm.ai/register):CSM支持从视频和图像创建3D模型。 你可以上传一张背景干净的正面图像,系统会生成初始3D模型和精修3D模型,支持下载为STL等格式。 SudoAI:SudoAI支持通过文本和图像生成3D模型,主攻游戏领域的模型生成。 它结合多视图扩散模型和法线扩散模型,能够快速生成具有高保真度和丰富纹理的3D网格,并支持导出为STL格式。 Meshy:Meshy支持文本生成3D和图片生成3D的功能。
机器之心专栏 机器之心编辑部 近日,腾讯宣布推出一项名为 Paint3D 的技术,它能够根据文本或图像输入,为无纹理的 3D 模型生成高分辨率、无光照且多样化的纹理贴图,对任何 3D 物体进行纹理绘制。 这些纹理没有内嵌光照阴影效果,同时保持了语义一致性,大大提升了 3D 模型纹理生成方面的最优效果。 3D 生成领域学者 Yawar Siddiqui 评价道:「终于有一种无内嵌光照的纹理生成方法了,结果非常出色,是我所见过的最好的纹理生成方法!」 ,将这个图像从第一个视角反投影到 3D 网格上,生成该视角的纹理贴图。 实验结果显示,Paint3D 有着更好的纹理生成质量,同时能生成更符合输入条件的纹理结果,实验结果对比如下: 研究人员也在相同的 3D 模型上与当前最佳的纹理生成算法进行比较。
解决方案实现降本增效 基于混元大模型矩阵,提供覆盖游戏研发全流程的AI能力: AI生文/生图:混元hunyuan-turbo支持剧情生成、文案创作 AI代码:混元hunyuan-code实现代码自动生成与测试 AI生3D:文生3D/图生3D生成PBR贴图,支持360°全视角展示 AI NPC:混元hunyuan-role实现角色扮演与智能陪伴 AI音频:支持角色配音、背景音乐生成 量化效果显著提升研发与运营效率 2D设计提效超30%:概念设计阶段实现分钟级应用生成,大幅缩短创作周期 3D资产生产效率提升70%+:传统专业人工美术管线需5-7天,混元3D AI管线仅需10分钟 运营投放效果提升:AI素材使广告回报率提升 人力或时间成本(数据来源:艾瑞咨询) 客户实践案例验证解决方案有效性 《天涯明月刀》智能NPC应用: 采用混元角色扮演大模型,NPC支持多轮对话与情感表达 实现实时语言处理能力,理解玩家输入并生成符合人设的回应 解决方案,为游戏行业提供从内容生成到智能交互的完整技术支撑,助力游戏企业应对市场挑战,实现创新突破。
一、 产品定位与核心亮点 产品定义:腾讯混元生3D是一款基于腾讯自研大模型的AI 3D内容生成平台。 适用于平台大量商品3D化转换,以及客户DIY装修素材的批量生产场景。 平台工具厂商:面向具备丰富网站AI能力及素材工具的平台,作为底层AI能力插件,补充并完善平台的3D素材生成链路。 超高清模型质量:凭借1536³分辨率与36亿体素的硬核支撑,解决AI生成3D模型精度不足的行业痛点,输出超高质量模型。 案例2:Lovart 背景:属于AI技术行业,自身定位为平台工具厂商,拥有丰富的网站AI能力和素材工具,需要进一步拓展3D维度的生成能力。 解决方案:将腾讯混元生3D集成至其平台工具矩阵中。 痛点在于普通用户获取可打印的优质3D模型门槛过高,制约了打印机的使用频次。 解决方案:接入AI 3D内容生成平台能力。
AIGC:如何用AI生成惊艳的3D内容引言在这个博客中,我们将探讨如何使用人工智能生成计算机(AIGC)来生成惊艳的3D内容。我们将详细介绍每个步骤,并提供代码示例以帮助您理解。1. 使用AI生成3D内容人工智能可以用于生成3D内容。这通常涉及到使用深度学习模型,如生成对抗网络(GANs)或变分自编码器(VAEs)。 # 示例:使用GAN生成3D对象from keras.models import load_model# 加载预训练的GAN模型model = load_model('gan_model.h5')# 生成随机噪声 可视化生成的3D内容生成3D内容后,我们需要将其可视化。这可以通过各种3D渲染工具来实现。 # 示例:可视化生成的3D对象import matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D# 创建一个3D图形fig =
这是某机构在其平台上的首个此类模型,对于构建更安全的AI体验——特别是面向社交或用户的应用——是一个有用的工具。 Hunyuan3D 2MiniHunyuan3D 2Mini是其早期3D生成模型的一个更快、更小的版本。 它非常适合游戏资产创建和风格化角色创作,并且已经出现在某社交平台的工作流程中,创作者可以用它以前所未有的速度构建充满活力的3D世界。 凭借内置的类人特性,它们非常适合用于逼真的语音、游戏对话,或者只是让你的AI听起来更有活力。 社区创意Flux、Kling和Wan2.1等模型正在推动病毒式创意的激增——包括动画人物和AI生成的虚拟形象。本期内容到此为止,但请继续关注更多关于模型、实验和值得一试的酷炫想法。
机器之心报道 编辑:小舟、佳琪 2D 升维成 3D 的过程中,可见部分和不可见部分可以分开建模。 2025 年来了,3D 生成也迎来了新突破。 刚刚,Stability AI 在 CES 上宣布为 3D 生成推出一种两阶段新方法 ——SPAR3D(Stable Point Aware 3D),旨在为游戏开发者、产品设计师和环境构建者开拓 3D 从单个输入图像,SPAR3D 仅需 0.7 秒即可为每个对象生成高度详细的 3D 网格。 为了既能充分利用扩散模型在分布式学习方面的优势,又能避免输出质量差和计算效率低的问题,Stability AI 的研究团队设计了一个两阶段重建系统:SPAR3D。 参考链接: https://stability.ai/news/stable-point-aware-3d?
构建全链方案:AI赋能游戏研发与运营的关键技术 腾讯云提供覆盖游戏全生命周期的AI解决方案,核心模块包括: AI多模态生成: AI生文/生图:混元hunyuan-turbo(文本生成)、混元生图 AI生3D:文生3D/图生3D、生成PBR贴图(混元3D管线),几何与纹理解耦生成,支持自动绑骨蒙皮、动作驱动。 AI音频:角色配音、背景音乐、玩家陪玩(如《和平精英》AI队友“花傲天”)。 量化应用成效:效率提升与成本优化的实证数据 关键ROI指标(数据来源:腾讯云内部评测、艾瑞咨询、DataEye): 3D资产生产效率提升:传统人工管线(5-7天、数千元)→ 混元3D管线(10分钟、 轻游戏制作周期缩短:从1个月压缩至2天(混元3D生成角色、道具、场景等资产)。 研发成本节约:AIGC助力游戏研发环节节约50-70%人力或时间成本(艾瑞咨询)。 3D生成革新:混元3D-SaaS平台(3d.hunyuan.tencent.com)采用业界最早3D-DiT原生大模型,几何与纹理解耦生成,支持文生3D/图生3D、PBR材质、自动绑骨蒙皮(布线优化满足轻游戏千面级标准
不过,像 OpenAI 的 DALL-E 2 或谷歌 的 Imagen 等 AI 系统,都只能生成二维图像,如果文字也能变成三维场景,那带来视觉体验势必加倍提升。 现在,来自苹果的 AI 团队推出了 3D 场景生成的最新神经架构—— GAUDI 。 它可以捕捉复杂和逼真的 3D 场景分布,从移动摄像机中进行沉浸式渲染,还能根据文本提示来创建 3D 场景! 那么,NeRFs 这种从不同摄像机角度逼真地渲染图像的强大能力,能不能用于生成式 AI 呢? 当然可以,已经有研究团队尝试了 3D 场景的生成,如谷歌在去年首次推出了 AI 系统 Dream Fields,它将 NeRF 生成 3D 视图的能力与 OpenAI 的 CLIP 评估图像内容的能力相结合 不过,这个系统或许可以为苹果正在进行的渲染 3D 对象和场景的 AI 系统,这是一个好的开始和基础,据说 GAUDI 还将被应用到苹果的 XR 耳机中,用于生成数字化位置。
3D技术中一个特别热门的子领域是3D模型的生成。创造性地组合3D模型,从图像快速生成3D模型,以及为其他机器学习应用程序和模拟创建综合数据,这只是3D模型生成的众多用例中的少数几个。 ? 它是一种通用算法,不会对3D模型的面或占用进行建模,因此无法仅使用PointNet来生成3D-R2N2采用的体素方法将我们都熟悉的2D卷积扩展到3D,并通过自然地从RGB图像生成水密网格。 这种严格的排序使他们能够将基于注意力的序列建模方法应用于生成3D网格,就像BERT或GPT模型对文本所做的一样。 PolyGen的总体目标是双重的:首先为3D模型生成一组可能的顶点(可能由图像,体素或类标签来限制),然后生成一系列的面,一个接一个地连接 顶点在一起,为该模型提供了一个合理的表面。 结论 PolyGen模型描述了用于有条件生成3D网格的强大,高效且灵活的框架。序列生成可以在各种条件和输入类型下完成,范围从图像到体素到简单的类标签,甚至除了起始标记外什么都不做。
Invesalius是专门应用于医学图像3D重建,输入数据必须是一个序列的2D的DICOM图像,可以是CT或者是MRI序列,输出的是3D表面轮廓,该工具就是为生成解剖学的物理模型而做准备的。 3、配置3D表面 3D表面配置可以设置透明度,直接默认值即可,然后下一步。 4、输出结果 直接输出立体图像和相应的3D表面轮廓结果。 ?
Representation”,描述了一个生成式AI系统,能够用纹理创造逼真的形状。 该AI系统名为视觉对象网络(VON),不仅可以生成比某些最先进的方法更逼真的图像,还可以进行形状和纹理编辑,视点偏移,以及其他三维调整。 研究人员表示,“现代深度生成模型学会合成逼真的图像,大多数计算模型只专注于生成2D图像,忽略了世界的3D本质,这种仅支持2D的视角限制了它们在许多领域的实际应用,例如合成数据生成,机器人学习,虚拟现实和游戏 “我们的主要想法是将图像生成过程分解为三个因素:形状,视点和纹理,这种解决3D表征使我们能够在对抗性学习框架下,从3D和2D视觉数据集合中学习模型。 与现有的2D生成模型相比,我们的模型合成了更逼真的图像。它还允许各种不同的3D操作,而以前的2D方法是无法实现的。”
腾讯混元3D生成模型实现“文本/图像到3D”一键转换 拓竹科技旗下全球活跃度第一的3D打印模型平台MakerWorld,全面接入腾讯混元3D生成模型。 支持用户通过上传一张图片或输入一段文本描述,快速生成高质量、可直接打印的3D模型,极大降低创作门槛。 格式兼容: 生成模型支持导出为STL、3MF等主流格式,完美适配拓竹全系列打印机及切片软件。 “即便是零基础的小白用户,也能快速生成高质量3D模型,导出后直接打印,体验丝滑。” undefined—— 拓竹科技,MakerWorld平台 技术合作深化:自动修复与多模态生成保障可用性 腾讯混元3D生成模型内置自动几何雕刻与缺陷修复能力,可检测并补全孔洞、平滑线条,消除拼接断层。 为何选择腾讯:高精度生成技术与开放生态协同 腾讯混元3D作为业界领先的生成模型,不仅提供秒级3D资产生成能力,更致力于构建完整3D内容生态。
最近,3D药物设计的生成模型因其在蛋白质口袋中直接设计配体的潜力而获得了广泛关注。然而,目前的方法通常存在采样时间非常慢或生成分子的化学有效性差的问题。 最后,作者比较了MolFlow与当前方法在生成高质量样本方面的能力,进一步展示了其强大性能。 3D药物设计的生成模型最近因其在蛋白质口袋中直接设计配体的潜力而引起了极大关注。 其他模型尝试训练无条件的3D分子生成器作为起点,尤其是那些应用扩散模型到分子坐标上的模型已经变得特别流行。 现有的3D分子生成器,使用完全连接的消息传递,表现出非常差的扩展性,无法处理更大的分子和更大的模型尺寸。最先进的无条件生成器在采样单批分子时需要数分钟,使其不适合基于RL的微调。 由于现有的3D生成模型在推理时已经需要知道N,因此使用尺度OT时对采样没有额外的限制。