深度学习最常用的算法:Adam优化算法
深度学习常常需要大量的时间和机算资源进行训练，这也是困扰深度学习算法开发的重大原因。虽然我们可以采用分布式并行训练加速模型的学习，但所需的计算资源并没有丝毫减少。而唯有需要资源更少、令模型收敛更快的最优化算法，才能从根本上加速机器的学习速度和效果，Adam 算法正为此而生！Adam 优化算法是随机梯...
深度学习剖根问底：Logistic回归和Softmax回归
1． 简介逻辑回归和Softmax回归是两个基础的分类模型，虽然听名字以为是回归模型，但实际我觉得他们也有一定的关系。逻辑回归，Softmax回归以及线性回归都是基于线性模型，它们固定的非线性的基函数（basis function） 的线性组合，形式如下：2．逻辑回归谈谈逻辑回归，Softmax回归...
深度学习--RNN（循环神经网络）原理详解
RNN也就是循环神经网络，多用于处理时间序列上的数据，比如自然语言处理。如下图所示，x<1>为输入的第一个数据，x<2>为第二个，以此类推。在普通的神经网络中，x<1>就通过神经网络直接输出y<1>，同理x<2>对应y<2>，但...
神经网络及深度学习-Sigmoid 神经元函数介绍(5)
学习算法听起来很棒。但是，我们如何为神经网络设计这样的算法呢？假设我们有一个感知器网络，我们想用它来学习解决一些问题。例如，对网络的输入可能是来自扫描的手写数字图像的原始像素数据。我们希望网络学习权值和权重，以便网络输出对数字进行正确地分类。为了了解学习是如何工作的，假设我们对网络中的一些权重(或偏...
深度学习常见的**函数
一，什么的**函数**函数是神经网络中对数据做非线性变换的函数。如下所示：输入的x值，经过权值相乘合并之后再经过‘**函数’得到一个映射值。二，**函数的作用因为线性的数据表达过于单一，若没有**函数，再多层的网络也不过是多套了几层的线性函数而已。以分类为例，线性函数只能处理线性可分的问题，对于复杂...
3.9 训练一个 Softmax 分类器-深度学习第二课《改善深层神经网络》-Stanford吴恩达教授
训练一个 Softmax 分类器 (Training a Softmax Classifier)上一个视频中我们学习了Softmax层和Softmax**函数，在这个视频中，你将更深入地了解Softmax分类，并学习如何训练一个使用了Softmax层的模型。回忆一下我们之前举的的例子，输出层计算出的...
tensorflow实战google深度学习框架阅读笔记——保存，读取model（ckpt文件）
最近在阅读《tensorflow实战google深度学习框架》，对里面讲到的内容，重点部分做下摘抄和笔记，以备后面查阅。部分内容为本人个人理解，如果错误，请指正，如果侵权，请联系删除，谢谢。转载请注明出处，谢谢。将模型保存为ckpt文件 首先，创建一个saver对象：saver=tf.trai...
【深度学习|基础算法】初识Transformer-encoder-decoder
关于transformer的学习 一、前言二、初识Transformer2.1 总览2.2 encoder2.3 decoder三. 流程与细节1、输入2、self-attentionVector CalculationMatrix Calculation3、多头self-attention...
解析 | 深度学习在无人驾驶汽车上面的运用有哪些？
深度学习在无人驾驶领域主要用于图像处理，也就是摄像头上面。当然也可以用于雷达的数据处理，但是基于图像极大丰富的信息以及难以手工建模的特性，深度学习能最大限度的发挥其优势。现在介绍一下全球摄像头领域的巨擘，以色列的mobileye公司是怎么在他们的产品中运用深度学习的。 深度学习可以用于感知，识别周围...
从零开始深度学习0604——使用hugo搭建博客
使用hugo搭建博客 从https://github.com/gohugoio/hugo/releases 下载推荐选择 带有extend扩展包的安装包因为第一次我没选择带有extend的这个，花了一下午时间找原因 然后解压后，将文件夹内hugo.exe 的路径 配置到环境变量在cmd中 ...
【从零开始深度学习】——3、如何搭建一个单隐层神经网络
本章将利用numpy搭建一个单隐层的神经网络，选择2个输入单元，4个隐藏单元和2个输出单元。神经网络的搭建由以下六个步骤完成：1、定义神经网络结构2、初始化模型参数（w和b）3、前向传播算法结构设计4、损失函数定义5、反向传播算法结构设计6、权值迭代与更新算法结构设计7、封装代码，整合模型便于直接调...
【手写汉字识别】基于深度学习的脱机手写汉字识别技术研究
写在前面最近一段时间在为本科毕业设计做一些知识储备，方向与手写识别的系统设计相关，在看到一篇2019年题为《基于深度学习的脱机手写汉字识别技术研究》的工学硕士论文后，感觉收获比较大，准备把自己的总结和一些想法记录下来，本篇文章只记录本人感兴趣部分一、发展1966年，IBM 公司R.Casey、G.N...
基于深度学习的电动自行车头盔佩戴检测系统
文章目录 1. 文档说明2. 运行环境说明2.1 硬件配置2.2 软件配置2.3 程序依赖库3. 基本环境配置3.1 软件安装3.1.1 集成开发环境安装与配置3.1.2 数据库安装与配置3.1.3 编程语言安装3.1.4 CUDA和cuDNN安装与配置3.1.5 机器学习库安装3.2 依赖...
深度学习中的损失函数总结以及Center Loss函数笔记
北京 上海巡回站 | NVIDIA DLI深度学习培训2018年1月26/1月12日NVIDIA 深度学习学院 带你快速进入火热的DL领域阅读全文 >正文共5481个字，19张图，预计阅读时间14分钟...
动手学深度学习10 模型选择+过拟合和欠拟合-1. 模型选择
电子书：https://zh-v2.d2l.ai/chapter_multilayer-perceptrons/underfit-overfit.html视频：https://www.bilibili.com/video/BV1kX4y1g7jp?p=1&vd_source=eb04c9a...
笔记： SuperPoint: Self Supervised Interest Point Detection and Description 深度学习特征点检测
SuperPoint: Self Supervised Interest Point Detection and Description 2018年magicLeap发表了一篇文章，基于自监督训练的特...
大创项目推荐 深度学习 机器视觉 人脸识别系统 - opencv python-2 深度学习-人脸识别过程
不同于机器学习模型的人脸识别，深度学习将人脸特征向量化，以及人脸向量分类结合到了一起，通过神经网络算法一步到位。 深度学习-人脸识别系统都包括： 人脸检测人脸对其人脸识别人脸检测 深度学习在图像分类中的巨大成功后很快被用于人脸检测的问题，起初解决该问题的思路大多是基于CNN网络的尺度不变性，对图片...
深度学习方法；乳腺癌分类
乳腺癌的类型很多，但大多数常见的是浸润性导管癌、导管原位癌和浸润性小叶癌。浸润性导管癌(IDC)是最常见的乳腺癌类型。这些都是恶性肿瘤的亚型。大约80%的乳腺癌是浸润性导管癌(IDC)，它起源于乳腺的乳管。 浸润性是指癌症已经“侵袭”或扩散到周围的乳房组织，而导管是指从乳管开始的癌症，乳管是将乳...
Caffe深度学习入门——配置caffe-SSD详细步骤
介绍 https://github.com/weiliu89/caffe/tree/ssdSSD是使用单个网络进行对象检测的统一框架。 您可以使用该代码来训练/评估网络以进行对象检测任务。 有关详细信息，请参阅我们的arXiv论文和幻灯片 。系统VOC2007测试mAPFPS （Titan X）箱...
推荐系统遇上深度学习(三十八)--CFGAN:一种基于GAN的协同过滤推荐框架
本文论文题目：《CFGAN: A Generic Collaborative Filtering Framework based on Generative Adversarial Networks》本文论文下载地址：https://dl.acm.org/citation.cfm?doid=3269...