【概要】現在pythonで1024×1024サイズの画像を128×128にリサイズしてディープランニングを行っています。
ですが、失われる情報量が多いため、出来るだけ大きめのサイズでディープランニングを実行したいのですがサイズを大きくすると以下のようなエラーが出ます。
ResourceExhaustedError: OOM when allocating tensor with shape[128,64,256,256] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc
[[node decoder/conv2d_transpose_6/conv2d_transpose (defined at <ipython-input-4-31629779ab21>:121) ]]
Hint: If you want to see a list of allocated tensors when OOM happens, add report_tensor_allocations_upon_oom to RunOptions for current allocation info.
[Op:__inference_train_function_6780]
Function call stack:
train_function
MemoryError: Unable to allocate 14.4 GiB for an array with shape (3679, 1024, 1024, 1) and data type float32
開発環境はanacondaのJupiter notebook上で動かしています。
マシーンスペックは以下の通りです
CPU:ryzen5 3500 6-core
ram:8.0GB
gpu:gtx 1660
このスペックで動かせるサイズの限界、サイズを大きくして実行するにはどうしたら良いかのアドバイスをくださる方を募集します。