《AutoDiff理解》 之第一篇， 自动求导技术在深度学习中的应用
文章目录前言什么是自动求导自动求导的实现方式关于计算图Reference前言自动求导技术(AutoDiff) [1] 是在诸多领域有着广泛应用的技术，特别是在深度学习中，其参数更新大多数依赖于梯度的传递，对于自动求导的使用就更加的频繁了。本系列文章将会基于代码[2]去介绍如何基于计算图的方式去反向自...
Science Robotics 封面论文：Google DeepMind 通过深度强化学习赋予双足机器人敏捷的足球技能
创造通用具身智能，即创造能够在物理世界中敏捷、灵巧和理解的智能体——就像动物或人类一样——是人工智能 （AI） 研究人员和机器人专家的长期目标之一。动物和人类不仅是自己身体的主人，能够流畅而轻松地执行和组合复杂的动作，而且还可以感知和理解他们的环境，并利用他们的身体来影响世界上的复杂结果。 近些年...
深度学习中 droupout层是咋回事？？
参考这篇博文 博主写的非常好！ https://blog.csdn.net/program_developer/article/details/80737724参考这篇博文 博主写的非常好！ https://blog.csdn.net/program_developer/article/de...
深度学习模型压缩方法综述（三）
深度学习模型压缩方法综述（一） 深度学习模型压缩方法综述（二） 深度学习模型压缩方法综述（三）前言在前两章，我们介绍了一些在已有的深度学习模型的基础上，直接对其进行压缩的方法，包括核的稀疏化，和模型的裁剪两个方面的内容，其中核的稀疏化可能需要一些稀疏计算库的支持，其加速的效果可能受到带宽、稀疏度等很...
深度学习【26】wavenet-歌声合成
论文:A NEURAL PARAMETRIC SINGING SYNTHESIZER 完整论文：A Neural Parametric Singing Synthesizer Modeling Timbre and Expression from Natural Songs 之前研究过一段时间的wa...
Dell G3 搭建深度学习环境（Ubuntu16.04）
前言：本机配置：windows 10 64位系统CPU：i5-8300H显卡：GTX1050Ti硬盘：C盘（Windows10系统盘）128G固态硬盘D盘（DATA）1T机械硬盘一、Ubuntu16.04 系统安装1.1 准备阶段Ubuntu16.04系统镜像文件下载地址：官网：http://www...
B站吴恩达深度学习视频笔记（6）——逻辑回归
前言逻辑回归是机器学习非常重要的一种模型，在机器学习的某些场景下，甚至出现了“一个LR打天下”的情况，可以说这个模型是机器学习必须精通的模型。在这之前，你肯定接触过线性回归，但是逻辑回归和线性回归存在不小的差异，我需要先帮你弄清线性回归和逻辑回归是什么，他们有什么区别，再通过吴恩达老师的视频，详细地...
B站吴恩达深度学习视频笔记（28）——深度神经网络说明以及向前传播向后传播实现
深层神经网络（Deep L-layer neural network）目前为止我们已经学习了只有一个单独隐藏层的神经网络的正向传播和反向传播，还有逻辑回归，并且你还学到了向量化，这在随机初始化权重时是很重要。目前所要做的是把这些理念集合起来，就可以执行你自己的深度神经网络。复习下前面21个笔记的内容...
大数据深度学习：基于Tensorflow深度学习的神经网络CNN算法垃圾分类识别系统
文章目录 大数据深度学习：基于Tensorflow深度学习的神经网络CNN算法垃圾分类识别系统一、项目概述二、深度学习卷积神经网络（Convolutional Neural Networks，简称CNN）三、部分数据库架构四、系统实现系统模型部分核心代码模型训练效果图训练模型效果展示模型训练...
【深度学习】1、常见模型优化算法原理与项目实践对比（PyTorch实践）
目录简介1、SGD(Stochastic Gradient Descent, SGD)2、Momentum3、NAG（Nesterov Accelerated Gradient，NAG）4、Adagrad5、RMSProp6、Adadelta7、Adam8、AdaMax9、Nadam10、优化算法的...
主流深度学习CTR模型
随着微软的Deep Crossing，Google的Wide&Deep，以及FNN，PNN等一大批优秀的深度学习CTR预估模型在2016年被提出，计算广告和推荐系统领域全面进入了深度学习时代，时至今日，深度学习CTR模型已经成为广告和推荐领域毫无疑问的主流。在之前的专栏文章《前深度学习时代C...
搜索推荐中的召回匹配模型综述(三)：基于匹配函数学习的深度学习方法
Part0 基于match function learning的深度学习方法对比representation learning的方法，基于match function learning最大的特点是，不直接学习user和item的embedding，而是通过已有的各种输入，通过一个neural net...
推荐系统遇上深度学习(十一)--神经协同过滤NCF原理及实战
欢迎关注天善智能，我们是专注于商业智能BI，人工智能AI，大数据分析与挖掘领域的垂直社区，学习，问答、求职一站式搞定！对商业智能BI、大数据分析挖掘、机器学习，python，R等数据领域感兴趣的同学加微信：tsaiedu，并注明消息来源，邀请你进入数据爱好者交流群，数据爱好者们都在这儿。本文来自天善...
《基于深度学习的推荐系统研究综述》_黄立威——阅读笔记
一、常用的深度学习模型和方法介绍1.自编码器自编码器通过一个编码和一个解码过程来重构输入数据，学习数据的隐表示。基本的自编码器可视为一个三层的神经网络结构.下图是自编码器结构示意图：自编码器的目的是使得输入 x 与输出 y 尽可能接近，这种接近程度通过重构误差表示，根据数据的不同形式，通常重构误差有...
Ubuntu18.04系统安装及深度学习框架搭建
Q：为什么会写下这个博客呢？S：因为我自己搭配了三四次环境了，每次都会出现不同的bug，从最初的两周，到最后的一天就可以搭完环境。对这个流程比较熟悉了，希望写下来对搭配环境的同学有所帮助。注：本博引用了很多其他博主的博文，在正文直接插入其链接，表示引用。首先，下载Ubuntu系统和制作U盘，以及如何...
深度学习---之Batch normalization
Batch normalization一.知识储备1.1机器学习希望样本空间独立同分布： 就是样本的各个维度特征之间分布相同，且相互独立。如果数据不服从独立同分布会造成什么？首先讲 独立：各个特征相关性比较多，容易造成冗余，比如一个特征描述耳朵，另一个特征也是描述耳朵的，就相当于特征重复了，而我们希...
华为开源深度学习框架MindSpore背后的商业野心
最近华为开源了深度学习框架MindSpore，一时成为了热点。我之前也点评了很多微软、Google、腾讯等厂商的框架，有些点评文章还被官方社区收录，今天为大家解析下MindSpore。首先阐明下我个人的观点，华为开源深度学习框架，从技术角度没有太大新意，从生态角度已经初显华为的庞大商业野心。01 生...
labview实现机器学习和深度学习的方法总结
labview实现机器学习和深度学习的方法总结机器学习深度学习1. 科研用途2. 商业用途2.1 LabVIEW/Python 集成工具包- Enthought2.2 Labview VDM2.3 python封装机器学习Analytics and Machine Learning Toolkit（...
手把手教你搭建自己的深度学习机器
一直有童鞋问，我要学习数据分析，大数据的学习需要什么样的机器深度学习是一门用来解决复杂问题的技术，例如自然语言处理和图像处理。 深度学习系统本质上是在另一台电脑上安装一个具有深度学习的GPU。GPU是普通计算机和深度学习机器的主要区别。 目前，我们已经可以很快的处理超大计算量的问...
深度学习之目标检测与目标识别
一 目标识别分类及应用场景 目前可以将现有的基于深度学习的目标检测与识别算法大致分为以下三大类： ① 基于区域建议的目标检测与识别算法，如R-CNN, Fast-R-CNN, Faster-R-CNN; ② 基于回归的目标检测与识别算法，如YOLO, SSD; ③ 基于搜索...