深度学习正在引发一场深刻的技术革命,这是人类首次如此接近思维的本质。象手写体识别,脸像识别这类系统,过去的思路是从业务背景中线提取特征,然后产生若干辨识逻辑,再形成算法编程实现,但对于像imagenet那样要对上百万的图片进行上千个分类识别的问题,以往的技术就傻眼了,别说逻辑,连特征的提取都因为过于复杂而没办法进行。现在流行的深度学习网络的方法,把逻辑隐藏在成百上千万的神经网络权值里,让特征被自动识别与提取,却能得出让人吃惊的高准确率。给出通用的框架,通过大量学习数据训练出合适的权值,权值就是逻辑,这是未来的方向,那种先设计算法敲代码的日子该一去不复返了,以后甚至程序员的工作都由机器全部完成也不是没有可能。
第1节 跌宕起伏70年:神经网络发展概述;最简单的神经元仿生:单层感知器
第2节 线性神经网络,BP神经网络,基于梯度下降的各种学习算法
第3节 BP神经网络应用,图像压缩,信用识别;稀疏自动编码器与特征提取
第4节 能联想和记忆的Hopfield神经网络,DHNN与DCNN;应用:OCR识别,解决旅行商问题
第5节 模拟退火算法与Boltzmann机:随机版的Hopfield神经网络
第6节 受限Boltzmann机RBM,应用RBM进行协同过滤
第7节 深度置信网络:利用堆叠的RBM进行权值预训练,应用于图像编码与解码,图像识别
第8节 万能逼近器:径向基神经网络;PCA与SVM神经网络
第9节 自组织竞争神经网络,递归神经网络
第10节 卷积神经网络;经典应用:MNIST手写体数字识别,Imagenet图像识别
第11节 计算机博弈原理,蒙特卡洛树搜索,深度学习与AlphaGo,价值网络与策略网络的设计,构成和训练
第12节 深度学习在自然语言处理中的应用
第13节 堆叠150层的超深度网络:深度残差网络
|