GTX960 2GのGPUを使って発生
DigitはGPUが4G以上のメモリーを搭載したPCを想定して作られている
このバグの解決策はバッチサイズをデフォルトの100から50に下げるかイメージサイズをデフォルトの256から128に下げるか

参考URL
https://github.com/NVIDIA/DIGITS/issues/18