cs231n 2018系列笔记（lecture8）

所有内容 文章材料地址链接: https://pan.baidu.com/s/1LES35hg8aUQv-E1CoLNX7A 密码: x5v3 参考https://zhuanlan.zhihu.com/p/34346816 slides 激活函数篇： sigmoid 优点： 范围在【0，1】；和神经的激活方式很相似 缺点： x过大时梯度为0； 经sigmoid激活后不是以0为中...

    lecture地址：https://pan.baidu.com/s/1ogacZy5QEFGv_DyLyk9r-A 密码：ff6s 这篇lecture主讲的是CNN的网络结构分析和变迁，比较详尽。 Alexnet 首先是Alexnet,2012年最佳 分析了CNN对于图片维度的改变，之前有提到过 王小花：cs231n 2018系列笔记(lecture5)​zhuanl...

文章材料链接地址: https://pan.baidu.com/s/18nJ6z0RVwzHUZ8uiFCZK8Q 密码: nn14   之前把assignment1做完了，assignemnt2是从lecture5开始，那笔记也从这里开始，敬请指正。 lecture5 slide介绍比较详细，就跳过了Notes部分 slides 卷积操作的维度转换 k一般取2的倍数，F一般...

所有内容 slides地址 链接: https://pan.baidu.com/s/12zGt_kYd5Jj8jq5EygS35A 密码: hd57 batchnorm及其演变 1.普通batchnorm公式，请注意维度，后面会用到 2.test时batchnorm公式 均值和方差用train时候的不需要训练，其他不变 3.全连接层和卷积层的batchnorm 除了...

前言： 个人感觉，后面几个章节相对知识性内容不是那么明显，更多像一种前沿领域的讲座lecture。并且没有lecture notes。所以有必要做一些笔记，用自己的语言记录，知识重组一下。 summary: RNN是用来解决序列数据的神经网络，具有下面的几种类型。其中不同的类型有不同的实际应用。One to one 可以用于 image captioning 通过图片生成序列化的描述。Many to one 可以用于文本情感分析。Many to many 可以用于机器翻译。 基础的vanilla RNN模

这是2017年，斯坦福大学，李飞飞教授及其博士生讲授的CS231n课程的第二节，主要内容是KNN算法、距离度量算法、超参数的选择方法、线性分类器的简单介绍。 所有图像来自课程ppt，内容来自课程视频。 全文都是看英文字幕所得，如有翻译转诉不恰当之处请包涵。

    lecture地址链接：https://pan.baidu.com/s/1ZKLepm2ow4AV3QJQwgmeFQ 密码：kaoc   本篇主讲的是RNN在机器视觉方面的应用。 one to one 是普通的Vanilla Neural Networks one to many 应用于Image Captioning，实现看图说话 many to one应用于sent...

CS231n课程从lecture08后面就没有相对官方、认可度高的整理过的笔记了。本文将针对lecture08该PPT做些简单的笔记工作。 要点：神经网络的硬件和软件平台 在课件最开始总结了lecture07讲的关键： optimization的选择——SGD+Momentum,Nesterov,RMSProp,Adam dropout正则化可以看作是在 网络的前向传播过程中...

这一讲节介绍了GPU的一些特性以及tensorflow, pytorch等一些其他深度学习框架，框架基本使用部分不会在这篇笔记中，主要是为了记录深度学习一些重要而基础的概念。 CPU vs GPU CPU上有更少的核，但每个核更加强大，比较适合顺序处理，时钟频率更快 GPU的核数多得多，但单一核能力不如CPU，适合并行处理，如在矩阵计算中（拆成每个行列相乘） 建议：在比较CPU与G...

这一讲的ppt内容相当之大，主要介绍了几个较为出名的CNN结构。在其他人所作的再整理中也就都是非常简单地介绍了这几个网络，实际上想要深入理解还是需要找出以原paper读读，然后再针对单个网络搜搜看看别人的理解。此处也仅简单概括几个案例，作为后续的学习方向。 LeNet-5 简单的5层网络，常用于字母识别，结构：input->conv->pool->conv->pool-...

图像分类损失函数和优化反向传播和神经网络卷积神经网络训练神经网络（上）训练神经网络（下）框架，软件CNN结构先这样了，233