新的一年到来了，过去的 2016 年可以说是有史以来机器学习领域进展最显著的一年。在大数据和高性能计算设备的助力下，具备学习能力的机器在围棋、语音识别、翻译、图像渲染和识别等许多领域都实现了惊人的成就。但那远远还不是这一领域的终点，大部分媒体和投资者仍然还看好以机器学习为主的人工智能技术的未来发展，市场也无法掩饰地表现出了对这方面的人才的需求。
这篇文章尽可能地全面地梳理了机器之心在 2016 年发过的基础知识和技术指导方面的文章，希望能为读者通往人工智能领域的专业人才乃至学界大牛之路提供一点助力。本文按照从基础到前沿划分对文章进行了分类（学习资源、基础介绍文章、技术起点、继续进阶、前沿研究），读者可方便地根据自己的学习进度选择合适的文章阅读。
目录
- 资源 | 深度学习资料大全：从基础到各种网络模型
- 深度 | 全面整理 30 个重要的深度学习库：按 Python 和 C++等 10 种语言分类
- 盘点 | 2016 年不可错过的 21 个深度学习视频、教程和课程
- 资源 | 程序员实用深度学习免费课程：从入门到实践
- 推荐 | 九本不容错过的深度学习和神经网络书籍
- 干货 | 深度学习名词表：57 个专业术语加相关资料解析（附论文）
- 盘点 | 2016 年年度十大 Python 库
- 学界 | 2010-2016 年被引用次数最多的深度学习论文（附论文下载）
- 资源 | 自学数据科学 和 机器学习？19 个数学和统计学公开课推荐
- 资源 | Yoshua Bengio 新书《Deep Learning》中文版开放预览（附 PDF 下载链接）
- 学界 | 数据科学家应该掌握的 12 种机器学习算法（附信息图）
- 深度 | 从入门到研究，人工智能领域最值得一读的 20 份资料（附下载）
- 书单｜关于数据科学的十本好书
- 开源 | 哈佛大学九大自然语言处理开源项目（附论文）
- 深度 | ICML 2016 演讲视频公开：数百个演讲视频带你读懂机器学习（附观看地址）
- 独家 | Yoshua Bengio 研究生科研指导演讲：解读人工智能全貌和下一个前沿
- 视频 | Yann LeCun CMU 演讲：人工智能的下一个前沿 - 无监督学习
- 盘点 | 今年 GitHub 排名前 20 的 Python 机器学习开源项目
- 书单｜机器学习、数据挖掘和自然语言处理，机器学习工程师和数据科学家最应该读的 16 本书
- 资源 | 任何阶段的学习者都适用的参考：机器学习领域书目全集
- 重磅 | Yoshua Bengio 深度学习暑期班学习总结，35 个授课视频全部开放（附观看地址）
- 干货 | Andrej Karpathy CS294 课程总结：可视化和理解深度神经网络
- 现场报道｜Geoffrey Hinton 最新演讲梳理，从人工神经网络到 RNN 应用
- 深度｜NIPS 2016 最全盘点：主题详解、前沿论文及下载资源（附会场趣闻）
- 聚焦 | 这个周末，享受 Yoshua Bengio、吴恩达、Andrej Karpathy 等人的深度学习直播讲座
- 深度 | 提升深度学习模型的表现，你需要这 20 个技巧（附论文）
- 深度 | TensorFlow 开源一周年：这可能是一份最完整的盘点
- 业界 | 五大主流深度学习框架比较分析：MXNET 是最好选择
- 二、基础介绍文章
- 业界 | 2016 伦敦深度学习峰会观感：人工智能面临的三大难题
- 2016 机器学习与自然语言处理学术全景图：卡耐基梅隆大学排名第一
- 业界 | 2016 年美国机器人路线图出炉，最新机器人产业盘点
- 业界 | 一张图看懂全球 Bot 布局
- 深度 | Yoshua Bengio 专栏文章：深度学习崛起带来人工智能的春天
- 重磅 | 神经网络架构演进史：全面回顾从 LeNet5 到 ENet 十余种架构（附论文）
- 深度 | 李飞飞高徒 Andrej Karpathy：计算机科学博士的生存指南（附博士论文）
- 资源 | 贝叶斯神经网络简史
- 深度 | 百度首席科学家吴恩达刊文：人工智能的能力和不足
- 重磅 | 高盛百页人工智能生态报告：美国仍是主导力量，中国正高速成长（附下载）
- 深度 | 伯克利教授 Stuart Russell：人工智能基础概念与 34 个误区
- 入门 | 初学者必读：解读 14 个深度学习关键词
- 入门 | 智能时代每个人都应该了解：什么是深度学习？
- 访谈 | CMU 机器学习系负责人 Manuela Veloso：人工智能与人类的未来是共生自主
- 演讲 | CMU 教授邢波：人工智能的路径、方向与未来
- 业界｜从供应链优化到差异化定价：机器学习十种方式变革制造业
- 深度 | 对比深度学习十大框架：TensorFlow 最流行但并不是最好
- 专栏 | 当 AI 遇上 AR - 从微软 HoloLens Processing Unit (HPU) 说起
- 洞悉 AlphaGo 超越围棋大师的力量：机器之心邀你一起强化学习
- 专访 | 东南大学漆桂林教授：知识图谱不仅是一项技术，更是一项工程
- 深度 | 人工智能全局概览：通用智能的当前困境和未来可能（附 PDF）
- AI Talk | 视频访谈百度 IDL 林元庆：百度大脑如何在人脸识别上战胜人类「最强大脑」
- 资源 | TensorFlow 生态系统：与多种开源框架的融合
- 深度 | Kaggle 创始人 Quora 问答：深度学习会淘汰其他的机器学习方法吗？
- 机器之心年度盘点 | 从技术角度，回顾 2016 年语音识别的发展
- 业界 | 机器学习的基本局限性：从一个数学脑筋急转弯说起
- 观点 | 人们都在说人工智能，其实现在我们真正做的是智能增强
- 业界 | 人工智能、机器学习、深度学习，三者之间的同心圆关系
- 深度 | R vs Python：R 是现在最好的数据科学语言吗？
- 前沿 | 斯坦福 NLP 团队介绍交互式语言学习：从语言游戏到日程规划
- 技术 | 斯坦福大学副教授 Reza Zadeh：神经网络越深就越难优化
- 深度 | 神经网络和深度学习简史第四部分：深度学习终迎伟大复兴
- 业界 | 深度学习技术在股票交易上的应用研究调查
- 业界 | 深度学习十大飙升趋势
- 深度 | 深度学习简明入门，以及它在物联网和智慧城市中的角色
- 专栏 | 服务器端人工智能，FPGA 和 GPU 到底谁更强？
- 重磅 | Science「机器人子刊」创刊号，五大研究解读机器人领域最新进展（附视频及论文）
- 教程 | 西红柿还是猕猴桃？一个案例帮你入门机器学习
- 重磅｜详细解读神经网络十大误解，再也不会弄错它的工作原理
- 深度 | 基于图的机器学习技术：谷歌众多产品和服务背后的智能
- 三、技术起点
- 资源 | 10 种深度学习算法的 TensorFlow 实现
- 资源 | 数十种 TensorFlow 实现案例汇集：代码+笔记
- 基础 | 机器学习入门必备：如何用 Python 从头实现感知器算法
- 深度 | ACM 最新月刊文章：强化学习的复兴
- 业界 | 人工智能开发者的入门指南
- 深度 | 从入门到精通：卷积神经网络初学者指南（附论文）
- 深度 | 机器学习敲门砖：任何人都能看懂的 TensorFlow 介绍
- 资源 | DeepMind 提出的可微神经计算机架构的 TensorFlow 实现
- 学界 | RNN 怎么用？给初学者的小教程
- 深度 | 深度学习教程：从感知器到深层网络
- 开源 | OpenAI 的 PixelCNN++实现：基于 Python3 和 TensorFlow
- 现场报道｜Geoffrey Hinton 最新演讲梳理，从人工神经网络到 RNN 应用
- 深度 | 谷歌官方指南：如何通过玩 TensorFlow Playground 来理解神经网络
- 深度 | 一篇文章带你进入无监督学习：从基本概念到四种实现模型（附论文）
- 资源 | NIPS 2016 上 22 篇论文的实现汇集
- 机器学习初学者入门实践：怎样轻松创造高精度分类网络
- 深度 | 解决真实世界问题：如何在不平衡类上使用机器学习？
- 深度 | 卷积神经网络架构详解：它与神经网络有何不同？
- 深度 | LSTM 和递归网络基础教程
- 业界 | 基础教程：门外汉如何使用谷歌的 Prediction API 做机器学习
- 业界 | NVIDIA 趣味解读：深度学习训练和推理之间有什么不同？
- 资源 | 如何通过 Python 打造一款简易版 AlphaGo?
- 业界｜如何用图像识别技术来变革商业？这里有份操作指南
- 深度 | 自然语言处理顶级会议 EMNLP 2016 干货：从原理到代码全面剖析可用于 NLP 的神经网络（附获奖论文）
- 深度 | 使用机器学习进行语言翻译：神经网络和 seq2seq 为何效果非凡？
- 基础 | 神经网络快速入门：什么是多层感知器和反向传播？
- 学界 | 神经网络中激活函数的作用
- 深度 | 逐层剖析，谷歌机器翻译突破背后的神经网络架构是怎样的？
- 深度 | 深度学习漫游指南：强化学习概览
- 深度 | 深度学习与神经网络全局概览：核心技术的发展历程
- 深度 | 主流深度学习框架对比：看你最适合哪一款？
- 四、继续进阶
- 深度 | 40 年认知架构研究概览：实现通用人工智能的道路上我们走了多远？（附论文）
- 第四范式联合创始人陈雨强：机器学习在工业应用中的新思考
- 技术 | 词嵌入系列博客 Part1：基于语言建模的词嵌入模型
- 技术 | 词嵌入系列博客 Part2：比较语言建模中近似 softmax 的几种方法
- 技术 | 词嵌入系列博客 Part3：word2vec 的秘密配方
- 深度 | 从分割到识别，全面解析 Facebook 开源的 3 款机器视觉工具（附论文）
- 深度 | 从硬件到软件：OpenAI 解读自家的深度学习基础架构
- 深度 | 分布式深度学习：神经网络的分布式训练
- 学界 | Embedding 新框架模型：Exponential Family Embeddings
- 专栏 | FPGA vs. ASIC，谁将引领移动端人工智能潮流？
- 学界 | 概述性论文：卷积神经网络的近期研究进展
- 前沿 | 《Nature》 封面文章：人工智能引发材料科学变革
- 学界 | 概述论文：迁移学习研究全貌
- 学界 | Andrej Karpathy：你为什么应该理解反向传播
- 独家 | GAN 之父 NIPS 2016 演讲现场直击：全方位解读生成对抗网络的原理及未来（附 PPT）
- 深度 | 深度学习能力的拓展，Google Brain 讲解注意力模型和增强 RNN
- 深度 | 人工智能改变 MIDI 创作：谷歌 Magenta 项目是如何教神经网络编写音乐的？
- 资源 | 基于 MXNet 的神经机器翻译实现
- 盘点 | 2016 深度学习重大进展：从无监督学习到生成对抗网络
- 深度 | 深度学习遇上基因组，诊断疾病和揭示深层生物原理或迎来突破
- 业界 | King+Woman-Man=Queen:用基于 Spark 的机器学习来捕捉词意
- 基础 | 初学者必读：从迭代的五个层面理解机器学习
- 资源 | 轻量级 Matlab 深度学习框架 LightNet 的实现（附论文）
- 应用 | 如何基于机器学习设计一套智能交易系统？
- 深度 | 如何在 TensorFlow 中用深度学习修复图像？（附论文）
- 深度 | 机器学习中的并行计算：GPU、CUDA 和实际应用
- 洞悉 AlphaGo 超越围棋大师的力量：机器之心邀你一起强化学习
- 深度 | 英伟达自动驾驶技术解读：用于自动驾驶汽车的端到端深度学习（附论文）
- 技术 | 深度解读最流行的优化算法：梯度下降
- 深度 | Science：斯坦福大学用迁移学习预测非洲贫困状况
- 专栏 | 用 Word2vec 轻松处理新金融风控场景中的文本类数据
- 重磅 | Science：实用量子计算机已近在咫尺
- 干货 | 深度学习硬件架构简述
- 深度 | 深度学习系列文章 Part2：迁移学习和微调深度卷积神经网络（附论文）
- 重磅 | 图文并茂的神经网络架构大盘点：从基本原理到衍生关系
- 深度 | 为你的深度学习任务挑选最合适 GPU：从性能到价格的全方位指南
- 业界 | 详解谷歌神经网络图像压缩技术：如何高质量地将图像压缩得更小
- 业界 | 用于视觉任务的 CNN 为何能在听觉任务上取得成功？
- 深度 | 自然语言处理领域深度学习研究总结：从基本概念到前沿成果
- 深度 | 专访谷歌 Jeff Dean：强化学习适合的任务与产品化应用
- 重磅论文 | 解析深度卷积神经网络的 14 种设计模式（附下载）
- 五、前沿研究
- 学界 | 并行运算，Facebook 提出门控卷积神经网络的语言建模
- 学界 | FAIR 实验室与微软研究院合著论文：通过虚拟问答衡量机器智能
- 学界 | FusionNet 融合三个卷积网络：识别对象从二维升级到三维（附论文）
- 学界 | 谷歌新论文提出神经符号机：使用弱监督在 Freebase 上学习语义解析器
- 学界 | Google Brain 与 OpenAI 合作论文：规模化的对抗机器学习
- 学界 | 谷歌新论文：使用生成对抗网络的无监督像素级域适应
- 学界 | 谷歌 ICLR 2017 论文提出超大规模的神经网络：稀疏门控专家混合层（附论文）
- 学界 | 谷歌最新论文：使用循环神经网络的全分辨率图像压缩
- 学界 | 谷歌新论文提出适应性生成对抗网络 AdaGAN：增强生成模型
- 学界 | 谷歌技术论文：用于 YouTube 推荐的深度神经网络
- 学界 | 谷歌、微软合著论文：由知识引导的结构化注意网络
- 深度 | 谷歌深度解读：机器人可以如何通过共享经历学习新技能（附论文）
- 业界 | 谷歌 NIPS 2016 提交的 8 篇论文：从无监督学习到生成模型（附论文下载）
- 学界 | 谷歌 DeepMind 最新论文：使用合成梯度的解耦神经接口
- 学界 | 谷歌提交 ICLR 2017 论文：学习记忆罕见事件
- 学界 | 谷歌提出深度概率编程语言 Edward：融合了贝叶斯、深度学习和概率编程
- 学界 | 谷歌新论文提出预测器架构：端到端的学习与规划
- 学界 | DeepMind 最新论文：线性时间的神经机器翻译
- 学界 | DeepMind David Silver 最新论文：学习跨多个数量级的值
- 学界 | DeepMind 最新论文：在线 Segment to Segment 神经传导
- 业界 | DeepMind 深度解读 Nature 论文：可微神经计算机
- 学界 | DeepMind 最新论文：调控运动控制器的学习和迁移（附下载）
- 学界 | DeepMind NIPS 2016 论文盘点（Part1）：强化学习正大步向前
- 学界 | DeepMind NIPS 2016 论文盘点（Part2）：无监督学习的新进展
- 学界 | ECCV 2016 公布最佳论文奖、最佳荣誉提名和最佳学生论文奖（附论文）
- 学界 | Geoffrey Hinton 最新论文：使用快速权重处理最近的过去
- 学界 | 哈工大讯飞联合实验室最新论文，用 attention-over-attention 神经网络刷新机器阅读理解纪录
- 学界 | 华盛顿大学论文：使用机器学习分析科学文献中的视觉信息
- 学界 | Ian Goodfellow 论文更新：通过视频预测的用于物理交互的无监督学习（附论文）
- 学界 | Ian Goodfellow 最新论文：用于隐私训练数据的深度学习的半监督知识迁移
- 学界 | IBM 研究院和蒙特利尔大学合作论文：多尺度循环神经网络在对话生成中的应用
- 学界｜ICLR 2016 会议，不可错过 Facebook 提交的七篇论文
- 深度 | 计算机科学领导者：卡内基梅隆大学 ACL2016 论文汇总
- 学界 | Google Brain 论文：TensorFlow，一个大规模机器学习系统
- 学界 | 清华大学、Google Brain、OpenAI 合著论文：通过连续奖励策略梯度学习在线比对
- 学界 | 重磅论文：基准评测当前最先进的深度学习软件工具
- 学界 | Yoshua Bengio 最新论文：一种用于训练循环网络的新算法 Professor Forcing（附论文）
- 学界 | Michael Jordan 最新论文：高斯混合模型的似然方法中的局部极大值：结构结果和算法结果（附论文）
- 学界｜NIPS 2016 现场：谷歌发布 28 篇机器学习论文（附全论文）
- 深度 | Nature 论文：无监督表征学习，用电子健康病历增强临床决策
- 深度 | Nature 论文详解概率机器学习：从不确定性表征到自动建模（附论文）
- 学界 | NIPS 2016 公布 571 篇接收论文
- 学界 | OpenAI 与 NASA 合著论文：用于张拉整体机器人运动的深度强化学习（附论文）
- 学界 | OpenAI 最新论文：神经 GPU 的扩展和限制
- 重磅 | 苹果发布第一篇人工智能研究论文：提出模拟+无监督方法改善合成图像质量
- CVPR 2016｜商汤科技论文解析：人脸检测中级联卷积神经网络的联合训练
- 学界 | 斯坦福大学李飞飞最新论文：弱监督动作标记的连接时序模型
- 学界 | Vicarious 在 ICLR 2017 提交无监督学习论文，提出层级组合特征学习
- 学界 | Yann LeCun 最新论文：基于能量的生成对抗网络（附论文）
- 学界 | Yoshua Bengio 最新论文：一种神经知识语言模型
- 深度 | Yann LeCun 提交 ICLR 2017 论文汇总：从生成对抗网络到循环实体网络等
- 学界 | Yoshua Bengio 最新论文：用于序列预测的 actor-critic 算法
- 学界 | Yoshua Bengio 最新修改版论文：迈向生物学上可信的深度学习
- 学界 | Yoshua Bengio 论文：使用线性分类器探头理解中间层
- 学界 | Yoshua Bengio 最新论文：Mollifying Networks
- 学界 | 微软重磅论文提出 LightRNN：高效利用内存和计算的循环神经网络
- 深度 | 微软 NLP 团队齐聚 ACL 2016，自然语言技术逼近人类对话水平（附论文）
- 重磅 | 自然语言顶级会议 ACL 2016 开幕，谷歌 18 篇参选论文概览（附论文）
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论