OOM when allocating tensor with shape[300,14,14,256] and type float on /job:localhost/replica:0/tas

89 阅读 0 评论 59 点赞

我是靠谱客的博主单纯芝麻，最近开发中收集的这篇文章主要介绍OOM when allocating tensor with shape[300,14,14,256] and type float on /job:localhost/replica:0/tas，觉得挺不错的，现在分享给大家，希望可以做个参考。

概述

训练mask-R-cnn模型，训练时将model.train(dataset_train, dataset_val,learning_rate=config.LEARNING_RATE,epochs=40,layers='heads')中的layers=‘heads’修改成layers='4+'，结果报错

OOM when allocating tensor with shape[300,256,28,28] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc

入下面截图

原来的heads模型是可以训练的，但改成all或者3+都不能运行，我的服务器是8G的显存，网上查了一卷说是bach_size过大，后来修改了GPU_COUNT=1或IMAGES_GPU=1,模型可以正常训练了，不过有GPU的服务器最好改IMAGES_GPU=1

最后

以上就是单纯芝麻为你收集整理的OOM when allocating tensor with shape[300,14,14,256] and type float on /job:localhost/replica:0/tas的全部内容，希望文章能够帮你解决OOM when allocating tensor with shape[300,14,14,256] and type float on /job:localhost/replica:0/tas所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。

本文分类：报错
浏览次数：89 次浏览
发布日期：2023-10-23 01:20:38
本文链接：https://www.kaopuke.com/article/k-p-k_13_u_23_o_22_fz_13__7__18_1.html

OOM when allocating tensor with shape[300,14,14,256] and type float on /job:localhost/replica:0/tas

概述

最后

评论列表共有 0 条评论

发表评论取消回复

OOM when allocating tensor with shape[300,14,14,256] and type float on /job:localhost/replica:0/tas

概述

最后

相关文章

评论列表共有 0 条评论

发表评论 取消回复

发表评论取消回复