问题

参考官方说明启动torchserve模型，然后在python client中使用GRPC APIs测试模型，提示如下错误：

io.grpc.StatusRuntimeException: RESOURCE_EXHAUSTED: gRPC message exceeds maximum size 6553500: 10838210

gRPC消息超出了最大限制。

解决方法

在启动torchserve时，指定参数https://github.com/pytorch/serve/blob/master/docs/configuration.md#command-line-parameters

加上--ts-config参数，在传入的配置文件中，修改gRPC允许的最大size。

inference_address=http://0.0.0.0:8080
management_address=http://0.0.0.0:8081
metrics_address=http://0.0.0.0:8082
number_of_netty_threads=32
job_queue_size=1000
model_store=/home/model-server/model-store
workflow_store=/home/model-server/wf-store
max_request_size=65535000

就是其中的max_request_size=65535000，可以从错误提示中看到，默认大小是6553500，我这里直接设置成原来的10倍了，可以根据自己需要进行设置。

使用torchserve时出错：RESOURCE_EXHAUSTED: gRPC message exceeds maximum size 6553500: 10838210相关推荐

记录解决grpc message exceeds maximum size 4194304 限制问题
Integer.MAX_VALUE = 256*1024*1024 客户端配置maxInboundMessageSize ManagedChannelBuilder builder = Managed ...
C语言将CSR存储模式转为coo,将大型稀疏矩阵转换为COO时出错(Error converting large sparse matrix to COO)...
将大型稀疏矩阵转换为COO时出错(Error converting large sparse matrix to COO) 我遇到了下面的问题,试图浏览两个大的CSR矩阵: /usr/lib/pyth ...
CAS (10) —— JBoss EAP 6.4下部署CAS时出现错误exception.message=Error decoding flow execution的解决办法...
CAS (10) -- JBoss EAP 6.4下部署CAS时出现错误exception.message=Error decoding flow execution的解决办法 jboss版本: jb ...
AFAB-资产折旧时出错在上一年结算之后您只能记帐到新的一年
环境: 2008 年上线,2009 年停用系统只在1月份提过一次折旧. 2010.03 新购置了资产,在4月份提折旧时出错 "在上一年结算之后您只能记帐到新的一年" , 20 ...
linux启动守护进程失败,Ubuntu Linux设置守护进程时出错的解决
Ubuntu系统使用源从7.10升级到8.04后,启动并在用户登录后,界面无响应5分钟左右后,弹出出错信息: 启动GNOME设置守护进程时出错主题.声音或者背景设置等可能不会正常工作. 最后的错误信 ...
新增或编辑保存时出错后，页面无法再次编辑
新增或编辑保存时出错后,页面无法再次编辑,除非关闭新增或编辑弹窗,重新打开新增或编辑页面,否则无法编辑 ,如下图: 解决方案在新增方法之前定义loading参数,在调用后台服务之前先使用loadin ...
powerpovit oracle,在 SharePoint Server 2013 PowerPivot Oracle 数据源配置服务时出错
在 SharePoint Server 2013 PowerPivot Oracle 数据源配置服务时出错 2021/3/15 适用于: SharePoint Server 2013 本文内容症状 ...
【Ubuntu】dpkg: 处理软件包 XXXX (--configure)时出错解决方法
1.使用apt-get --purge remove删除安装包时报错 dpkg: 处理软件包 python-gflags (–configure)时出错: 子进程已安装 post-installat ...
试图运行项目时出错，无法启动调试。没有正确安装调试器，请运行安装程序安装或恢复调试器。...
用Visual Studio.net 2003调试项目时,出现错误对话框,显示如下: 试图运行项目时出错,无法启动调试.没有正确安装调试器,请运行安装程序安装或恢复调试 ...

使用torchserve时出错：RESOURCE_EXHAUSTED: gRPC message exceeds maximum size 6553500: 10838210

问题

解决方法

使用torchserve时出错：RESOURCE_EXHAUSTED: gRPC message exceeds maximum size 6553500: 10838210相关推荐

最新文章

热门文章