首先检查/usr/local/cuda-8.0/lib64目录，看看libcudart.so.8.0是否存在，如果不存在，则先正确安装cuda。如果确定cuda已经存在，这个问题的出现于Linux的ldconfig命令有关。
ldconfig
ldconfig介绍
ldconfig是一个动态链接库管理命令，可以让动态链接库为系统所共享。 ldconfig 命令的用途, 是在三个目录, 搜索出可共享的动态链接库(格式如前介绍,lib*.so*)，进而创建出动态装入程序(ld.so)所需的连接和缓存文件，缓存文件默认为 /etc/ld.so.cache，此文件保存已排好序的动态链接库名字列表。搜索的目录为：
-/lib
-/usr/lib
-/etc/ld.so.conf (动态库配置文件)
linux下的共享库机制采用了类似于高速缓存的机制，将库信息保存在/etc/ld.so.cache里，程序连接的时候首先从这个文件里边查找，然后再到ld.so.conf的路径里边去详细找，这就是为什么修改了ld.so.conf要重新运行一下ldconfig的原因。
ldconfig几个需要注意的地方：
1）往/lib和/usr/lib里面加东西，是不用修改/etc/ld.so.conf的，但是完了之后要调一下ldconfig，不然这个library会找不到；
2）想往上面两个目录以外加东西的时候，一定要修改/etc/ld.so.conf，然后再调用ldconfig，不然也会找不到。比如安装了一个mysql到/usr/local/mysql，mysql有一大堆library在/usr/local/mysql/lib下面，这时就需要在/etc/ld.so.conf下面加一行/usr/local/mysql/lib，保存过后ldconfig一下，新的library才能在 程序运行时被找到；
3）如果想在这两个目录以外放lib，但是又不想在/etc/ld.so.conf中加东西（或者是没有权限加东西）。那也可以，就是export一个全局变 量LD_LIBRARY_PATH，然后运行程序的时候就会去这个目录中找library。一般来讲这只是一种临时的解决方案，在没有权限或临时需要的时候使用；
4）ldconfig做的这些东西都与运行程序时有关，跟编译时一点关系都没有。编译的时候还是该加-L就得加，不要混淆了；
5）总之，就是不管做了什么关于library的变动后，最好都ldconfig一下，不然会出现一些意想不到的结果。不会花太多的时间, 但是会省很多的事。
解决方法
所需的libcudart.so.8.0如果正确安装的话，以下两种方法同理：
1. sudo ldconfig /usr/local/cuda-8.0/lib64
(转自libcudart.so.8.0: cannot open shared object file: No such file or directory)
2. export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-8.0/lib64。如果仍然不行，再尝试执行: export PATH=$PATH:/usr/local/cuda-8.0/bin export LIBRARY_PATH=$LIBRARY_PATH:/usr/local/cuda-8.0/lib64 source /etc/profile
(转自 cuda程序执行出错: libcudart.so.8.0: cannot open shared object file: No such file or directory)