回答情况：
提问时间：
问题标签：
1回答
我想知道是否有任何系统/基础设施能够执行一些人工推理过程，例如：Context: A is a pen Question: is A vertical or horizontal Reasoning processA is horizontal提前谢谢你！
浏览 19提问于2018-04-04得票数 0
我知道，可以在google上部署用于培训作业的自定义容器，并且我已经能够使用命令实现相同的运行。gcloud ai-platform jobs submit training infer name --region some_region --master-image-uri=path/to/docker/image --config config.yaml
培训工作成功完成，模型获得成功，现在我想使用这个模型进行推理，但是问题是我的代码有系统级的依赖关系，所以我必须对体系结构做一些修改才能让它一直运行这些文档
浏览 3提问于2019-10-25得票数 8
我有Coral AI usb TPU，我成功地运行了入门示例，部署了已经编译/训练过的示例模型(图像分类)，并在TPU上运行了一个鹦鹉图像推理：--input test_data/parrot.jpg
但是，我想在计算机CPU (例如，我的笔记本电脑或Raspberry Pi )中运行相同模型的推理，以比较在加速器中运行推理所需的时间，比如Coral
浏览 14提问于2022-04-28得票数 0
我在Vertex AI上载了我的tflite模型并创建了一个端点，我请求使用一些输入值进行推理，但它返回的结果与我本地的tflite模型的推理结果不同。虽然有相同的输入数组，但本地tflite模型和上传到Vertex AI上的模型返回了非常不同的结果。 在将值传输到Vertex AI实例时，值是否存在失真的可能性？
浏览 42修改于2021-11-17得票数 0
我计划结合使用SageMaker serverless无服务器推理和SageMaker Neo来部署我的模型，用于无服务器、低延迟的推理。然而，文件不清楚是否有可能这样做。无服务器推理指定"Serverless推理与AWS集成以提供高可用性.“，因此我假设底层实例与AWS具有相同(或兼容)类型。
你用过这样的组合吗？它起作用了吗？
浏览 4提问于2022-09-08得票数 0
回答已采纳
要将经过训练的.Net模型打包到WPF Core3.1应用程序中，我想知道这两种方法: Microsoft.ML.OnnxRuntime和Microsoft.AI.MachineLearning (WinML对于公共用户，使用OnnxRuntime部署Onnx模型有什么缺点吗？或者它需要特定的环境来进行推理？ 为什么微软需要维护两种不同的方法，如果它们本质上是相同的？
浏览 120提问于2020-12-09得票数 0
我有一个基本的旧ASP.NET应用程序，该应用程序的不同版本部署到多个环境开发、测试、试运行等。大多数现在已经升级到至少2.2.0，一些最新的正在使用2.4.1的AI。但是，这是否会导致Live Stream无法报告服务器端遥测？直到2.2.0版本是跨环境的最新版本之前，Live Stream都像预
浏览 14修改于2017-08-04得票数 1
回答已采纳
在深入学习模型的推理api中，使用了一个烧瓶api(使用gunicorn) .这个特定的推理过程是非常密集的cpu (尚未使用gpu )。基于以下方面将其部署到kubernetes集群的最佳实践是什么：
，我应该创建多个豆荚处理请求使用单个枪手工人，还是更少的吊舱，使武装多工人？(节点内存footprint)since google提供了使用外部负载均衡器将您的部署公开为一个服务，我是否需要在stack?creating的相同节点上安装一个nginx服务器？-)
浏览 5提问于2020-04-05得票数 0
我们试图在服务器上使用TensorFlow (TF)对图像进行推理。android应用程序将jpeg图像发送到我的机器，php api执行我的android推理(python)脚本并返回分数，大约需要6s，但是我们意识到加载TF需要很长时间，但是进行推理需要很短的时间，TF取第一A，第二B，按顺序进行推理。
我们正在做的是：
设备发送jpeg，加载TF实例，进行推理并传递给TF。设备发送jpeg，加载T
浏览 1修改于2018-07-29得票数 0
我正在开发一个将部署在EKS上的应用程序。在第一种形式中，它将有三种微型服务。只有前端才会通过负载平衡暴露到集群的外部。Python后端将充当推理服务器和将来将添加的其他服务的中介。
我的问题是，如果Vue前端在集群中，它可以与后端槽clusterIP交互。
浏览 3提问于2022-11-04得票数 0
以下是Android的版本：以下是XCode的版本：我得到以下错误：
在Andrea的iPad上以调试模式启动lib/main.dart .使用Xcode项目中指定的开发团队自动签署iOS以进行设备部署: XG2RLBENW5
浏览 1修改于2018-09-15得票数 0
回答已采纳
在使用Rest部署模型进行在线推理时，可以节省VM成本，ADB允许我们通过REST部署在线推理模型。为此，亚行创建了一个专门为特定模型服务的VM。“数据科学家”可以创建和部署多个测试在线推理的模型，因此，由于这些新创建的VM一直在运行，成本可以迅速增长，而且是无法控制的，也是不必要的。
在一段时间的不活动之后，有可能关闭他们？
浏览 3提问于2022-06-10得票数 0
我正在使用AWS Sagemaker部署在Sagemaker之外训练的语音模型。我能够将我的模型转换成Sagemaker能够理解的东西，并将其部署为端点。问题是Sagemaker直接加载模型并调用.predict来获得推理。我无法确定在已部署的模型中可以在何处添加预处理功能。建议使用AWS Lambda或其他服务器进行预处理。
浏览 20提问于2021-04-09得票数 1
使用以下命令停止Alfresco服务器和SOLR之后：我删除了以下文件夹：alf_data/solr/workspace-SpacesStore/alfrescoModels
重新部署了我的露天服务
浏览 1修改于2014-06-05得票数 0
我正在尝试为游戏Gomoku实现一个类似AlphaZero的棋盘游戏AI (结合了评估棋盘位置的CNN的蒙特卡洛树搜索)。 现在，MCTS是作为一个单独的组件实现的。在训练期间，我通过让AI与自己对战、调用model.fit一次、使用新的模型权重创建新的数据集等方式来生成训练数据(大约5000块棋盘)。我并行播放多场比赛，每一场比赛都使用各自独立的Python/TF服务器。每个服务器加载自己的模型副本(我使用tf.config.experimental.set_memory_growth(gpu, True))。
浏览 12提问于2020-12-31得票数 0
我一直在阅读Google AI平台的文档以进行推断，它们似乎(也许我错过了它)说明支持哪些框架。 我是不是应该假设所有框架都是受支持的？训练方支持自定义dockers，这给人一种感觉，只要你可以将任何代码打包到容器中，它就会运行-但在预测/推理产品上没有这样的指导。
浏览 17提问于2020-08-28得票数 0
有一段时间，我只得到了发布的客户端数据(例如浏览器页面加载时间)，但没有任何服务器指标。我们目前没有运行AI代理应用程序。
昨晚，我们在不改变AI配置的情况下部署了一个新版本的应用程序，突然服务器指标开始出现。太棒了！不幸的是，45分钟后，我们向应用程序部署了一个组装修补程序，在应用程序池被回收之后，服务器度量停止了，这一次客户机度量也停止了。打开浏览器中的web应用程序，我可以看到正在加载AI.js脚本，查看出站网络调用，我可以看到遥测成功地提交给<
浏览 1修改于2017-05-23得票数 0
回答已采纳
我正在尝试完成我的自动化部署过程，请看，它已经很接近了。我可以在VS2010中右键单击我的MVC项目，然后选择"Build deployment package“，它就会成功地构建它，这将部署到远程服务器。[C:\hoh_code\GIT\ai-poker-project\Clients\PokerLeagueMSDEPLOY : error[C:\hoh_code\GIT\ai-poker-project\
Clients
浏览 1修改于2020-06-20得票数 0
回答已采纳
可以使用无服务器技术将ML模型部署到生产中，因为如果部署包太大(或者是从不需要的依赖项中构建的，则可以压缩包大小)。
但是也有部署ML用于培训的用例，而不仅仅是推理。
浏览 0修改于2021-02-02得票数 1
回答已采纳
0回答
哪个Ai工具最好用？你会选择deepfig还是豆包？
工具、数学、DeepSeek
哪个Ai工具最好用？你会选择deepfig还是豆包？deepfig和豆包他们两个是有区别的，deepfig专注于专业领域，擅长代码生成，数学建模，推理成本低，豆包主打多模态多场景创意生产，支持文生图，实时联网，更贴近生活
浏览 204提问于2025-09-14
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号