随着学会的队伍不断发展壮大，分支机构的发展愈发完善，丰富多彩的分支活动与学术分享也频频呈现。今年以来，CAAI认知系统与信息处理专委会积极倡导学会“疫情防控不放松，学习充电不间断”的理念，邀请年轻学者结合本专委会自身领域研究精选相关文献进行研究与再解读，本期与大家分享《基于多功能主成分分析的仿人抓取强化学习方法》。
随着时代的发展，机器人的应用越来越广泛–人机协作、与人类互动、代替人类完成过于繁重或危险的任务等，要求机器人能够执行复杂的任务，并且能够轻松地学习新的任务。一方面要求具有高自由度的复杂机械结构，另一方面需要可靠的学习算法来提高性能。这吸引了各个群体的关注，致力于创造生物智能系统。认知机器人学是一个很有发展前途的方向，它从自然界中汲取灵感，为机器人提供认知能力和学习技能。
，数学中最神秘的5个符号e、i、π、1和0，全包含在里面了。
z=X^2+y^2
%bp神经网络构建
下面解决过拟合问题，把隐藏层的节点数目设少一点就行了。
参看：
http://eprints.pascal-network.org/archive/00008596/01/glorot11a.pdf
利用隐藏层计算出的每个值，再用相同的方法，和输出层进行计算。
不要过于相信默认的学习率衰减。如果是重用来自其他领域的代码，那么在处理学习速度衰减时一定要非常小心。您不仅希望针对不同的问题使用不同的衰减计划，而且 – 更糟糕的是 – 在典型的实施中，计划将基于当前的epoch数，该值会根据数据集的大小而广泛变化。
归一化(Normalization)，也叫标准化，就是把一堆数字按比例缩放到0~1或-1~1的范围。
虽然用Purelin输出可以不必归一化，但归一化能在一定程度上加快收敛速度，因此被许多教程定为训练前的必须步骤。
↓↓↓点击「阅读原文」查看机器之心网站，获取更多精彩内容。
那么，让我们从两个重要的观察开始。
30000
Karpathy的推特简介上有一句“I like to train Deep Neural Nets on large datasets.”近日，Karpathy将他训练神经网络的经验倾囊相授，获得大量好评。
Keras
所以我想，打开我差不多尘封的博客，就这个话题写一篇长文，应该会更好。不过，我不打算详细列举更多常见的错误，我想更深入地探讨一下如何能够完全避免这些错误(或快速修复它们)。这样做的诀窍是遵循一个特定的过程，据我所知，这个过程很少有文字记录。
权重衰减。增加权重衰减惩罚。
In [14]:
本文由CAAI认知系统与信息处理专委会供稿
torch.utils.data.DataLoader理解：https://blog.csdn.net/qq_36653505/article/details/83351808
继续训练。我经常看到人们在验证损失趋于平稳时停止模型训练。在我的经验中，网络持续训练的时间长得出乎意料。有一次，我在寒假期间模型训练的时候不小心离开了，当我一月份回来的时候，那是SOTA(“最先进的技术”)。
参数估计，利用递推估计方法获得模型参数；
其中，控制系统工具箱(Control System Toolbox)应用最为广泛。
>>> your_data = # plug your awesome dataset here>>> model = SuperCrossValidator(SuperDuper.fit, your_data, ResNet50, SGDOptimizer)# conquer world here
% 设置训练参数
net.trainparam.show = 50; % 显示训练结果(训练50次显示一次)
net.trainparam.epochs = 500; % 总训练次数
net.trainparam.goal = 0.01; % 训练目标：误差<0.01
net.trainParam.lr = 0.01; % 学习率(learning rate)
一旦你有了一个定性的感觉，写一些简单的代码来搜索/过滤/排序也是一个好主意，不管你能想到什么(例如标签的类型，标注的尺寸，标签的数量，等等)，然后可视化它们的分布，看看在每一个维度上的异常值。异常值几乎总是会发现数据质量或预处理中的一些bug。
随后，我们运行这里的代码。如下图所示，可以看到我的因变量Y与自变量X都准备完毕了。
学习使用PyTorch dataset和dataloader
理想情况下，我们现在拥有一个至少能在训练集上拟合的很好的大型模型。现在是时候对其进行正则化，并通过放弃一些训练精度来获得一些验证精度。以下是一些小贴士和技巧：
简化。确保不要有任何不必要的幻想。例如，在这个阶段一定要关闭所有数据增强。数据增强是一种正则化策略，我们稍后可能会将其合并进来，但目前它只是会引入一些愚蠢的bug。
输出层→隐藏层：残差 = -(输出值-样本值) * 激活函数的导数
隐藏层→隐藏层：残差 = (右层每个节点的残差加权求和)* 激活函数的导数
Andrej Kapathy 是计算机视觉和深度学习领域的专家之一，毕业于斯坦福人工智能实验室，博士师从李飞飞教授，在谷歌大脑、DeepMind 实过习，与吴恩达一起共事，业界几大深度学习实验室都待过。
1. 梳理数据
训练神经网络的第一步是完全不接触任何神经网络代码，而是从彻底检查数据开始。这一步至关重要。我喜欢花大量时间(以小时为单位)浏览数千个示例，了解它们的分布并寻找模式。幸运的是，我们的大脑非常擅长做这个。有一次，我发现数据中包含重复的例子。另一次我发现了损坏的图像/标签。我会寻找数据中的不平衡和偏差。我通常也会关注我自己对数据进行分类的过程，这个过程暗示了我们最终要探索的各种架构类型。
2. 建立端到端的训练/评估框架+获取简单的基线
正确地初始化。正确初地始化最后一层权重。例如，如果你要回归一些平均值为50的值，那么要将最终偏差初始化为50。如果你有一个不平衡的数据集，其正负比为1:10，那么在你的日志上设置偏差，使你的网络预测概率在初始化时为0.1。正确设置这些参数将加快收敛速度，并消除“hockey stick”损失曲线，在最初几次迭代中，你的网络基本上只是学习偏差。
human baseline。监控人类可解释和可检查的损失以外的指标(例如准确性)。尽可能地评估你自己(人类)的准确性，并与之进行比较。或者，对测试数据进行两次注释，对于每个示例，将一个注释作为预测，将第二个注释作为ground truth。
使用反向传播来绘制依赖关系图。深度学习代码通常包含复杂、向量化和broadcast操作。我遇到过的一个比较常见的bug是，人们使用view而不是在某个地方进行transpose/permute，无意中混淆了批处理的维度信息。然而，你的网络通常仍然训练良好，因为它将学会忽略来自其他示例的数据。一种debug的方法是将某个示例i的损失设置为1.0，然后运行反向传播一直到输入，并确保只在i-thexample上得到一个非零梯度。也就是说，梯度提供了网络中的依赖关系信息，这对于debug非常有用。
3.过拟合
4.正则化
获取更多的数据。首先，在任何实际环境中，最佳和首选方法是添加更多真实的训练数据。当可以收集更多数据时，就不要再花费大量时间尝试从小型数据集中挤性能了。据我所知，添加更多数据几乎是唯一无限期改善配置良好的神经网络性能的方式。还有一种方式是合奏（如果你能负担得起的话），但是在5个模型之后最高。
最后，为了进一步确保网络是一个合理的分类器，我喜欢对网络第一层权重进行可视化，并确保获得有意义的边缘。如果第一层滤波器看起来像噪音，那么可能需要去掉一些东西。类似地，网络中的激活函数有时也会有异常出现，暴露出一些问题。
5.精细调整
随机网格搜索。为了同时调整多个超参数，使用网格搜索确保覆盖所有设置，这听起来很诱人，但请记住，最好使用随机搜索。直观地说，这是因为神经网络通常对某些参数比其他参数更敏感。在极限情况下，如果一个参数很重要，但是改变另一个参数没有效果，那还不如对第一个参数进行彻底采样。
6.性能压榨
保持训练。我经常看到人们在验证损失趋于平稳时就想停止模型训练。根据我的经验，网络会长时间不间断地进行训练。有一次我在冬假期间不小心没有停止训练，当我第二1月份回来时，发现模型性能达到了SOTA水平。