#ifndef _CUDA_UTILS_H_
#define _CUDA_UTILS_H_

#include <algorithm>
#include <atomic>
#include <functional>
#include <iostream>
#include <numeric> 

#include <stdint.h>

#include <NvInfer.h>
#include <NvInferPlugin.h>
#include <NvOnnxParser.h>
#include <NvCaffeParser.h>

#include <cuda.h>
#include <cuda_runtime.h>
#include <cuda_runtime_api.h>

using namespace nvinfer1;
using namespace nvcaffeparser1;

using namespace std;

#ifndef CUDA_CHECK
#define CUDA_CHECK(callstr)\
    {\
        cudaError_t error_code = callstr;\
        if (error_code != cudaSuccess) {\
            std::cerr << "CUDA error " << error_code << " at " << __FILE__ << ":" << __LINE__;\
            assert(0);\
        }\
    }
#endif  // CUDA_CHECK

inline unsigned int getElementSize(nvinfer1::DataType t);

inline int64_t volume(const nvinfer1::Dims& d);

#endif //END OF _CUDA_UTILS_H_