- 莫烦机器学习教程
- 有趣的机器学习
- 机器学习 (Machine Learning)
- 神经网络 (Neural Network)
- 卷积神经网络 CNN (Convolutional Neural Network)
- 循环神经网络 RNN (Recurrent Neural Network)
- LSTM RNN 循环神经网络 (LSTM)
- 自编码 (Autoencoder)
- 检验神经网络 (Evaluation)
- 特征标准化 (Feature Normalization)
- 选择好特征 (Good Features)
- 激励函数 (Activation Function)
- 过拟合 (Overfitting)
- 加速神经网络训练 (Speed Up Training)
- 处理不均衡数据 (Imbalanced data)
- 批标准化 (Batch Normalization)
- L1 / L2 正规化 (Regularization)
- 强化学习 (Reinforcement Learning)
- 强化学习方法汇总 (Reinforcement Learning)
- Q Leaning
- Sarsa
- Sarsa(lambda)
- DQN
- Policy Gradients
- Actor Critic
- Deep Deterministic Policy Gradient (DDPG)
- Asynchronous Advantage Actor-Critic (A3C)
- 强化学习教程
- Why?
- 课程要求
- 小例子
- Q-learning 算法更新
- Q-learning 思维决策
- Sarsa 算法更新
- Sarsa 思维决策
- Sarsa-lambda
- DQN 算法更新 (Tensorflow)
- DQN 神经网络 (Tensorflow)
- DQN 思维决策 (Tensorflow)
- OpenAI gym 环境库 (Tensorflow)
- Double DQN (Tensorflow)
- Prioritized Experience Replay (DQN) (Tensorflow)
- Dueling DQN (Tensorflow)
- Policy Gradients 算法更新 (Tensorflow)
- Policy Gradients 思维决策 (Tensorflow)
- Actor Critic (Tensorflow)
- Deep Deterministic Policy Gradient (DDPG) (Tensorflow)
- Asynchronous Advantage Actor-Critic (A3C) (Tensorflow)
- TensorFlow 教程
- 为什么选 Tensorflow
- 安装
- 神经网络在干嘛
- 处理结构
- 例子 2
- Session 会话控制
- Variable 变量
- Placeholder 传入值
- 激励函数 Activation Function
- 例子 3 添加层 def add_layer()
- 例子 3 建造神经网络
- 例子 3 结果可视化
- 优化器 optimizer
- Tensorboard 可视化好帮手 1
- Tensorboard 可视化好帮手 2
- Classification 分类学习
- Dropout 解决 overfitting
- CNN 卷积神经网络 1
- CNN 卷积神经网络 2
- CNN 卷积神经网络 3
- Saver 保存读取
- RNN 循环神经网络
- RNN LSTM 循环神经网络 (分类例子)
- RNN LSTM (回归例子)
- RNN LSTM (回归例子可视化)
- 自编码 Autoencoder (非监督学习)
- scope 命名方法
- Batch Normalization 批标准化
- PyTorch 教程
- Why?
- 安装
- Torch 或 Numpy
- 变量 (Variable)
- 激励函数 (Activation)
- 关系拟合 (回归)
- 区分类型 (分类)
- 快速搭建法
- 保存提取
- 批训练
- Optimizer 优化器
- CNN 卷积神经网络
- RNN 循环神经网络 (分类)
- RNN 循环神经网络 (回归)
- AutoEncoder (自编码/非监督学习)
- DQN 强化学习
- GAN (Generative Adversarial Nets 生成对抗网络)
- 为什么 Torch 是动态的
- GPU 加速运算
- Dropout 缓解过拟合
- Batch Normalization 批标准化
- Theano 教程
- Why?
- 安装
- 神经网络在做什么
- 基本用法
- Function 用法
- Shared 变量
- Activation function 激励函数
- 定义 Layer 类
- Regression 回归例子
- 可视化结果 回归例子
- Classification 分类学习
- Regularization 正规化
- Save 保存 提取
- 总结和更多
- Keras 教程
- Why?
- 安装
- 兼容 backend
- Regressor 回归
- Classifier 分类
- CNN 卷积神经网络
- RNN Classifier 循环神经网络
- RNN Regressor 循环神经网络
- Autoencoder 自编码
- Save & reload 保存提取
- Scikit learn 教程
- Why?
- 安装
- 选择学习方法
- 通用学习模式
- sklearn 强大数据库
- sklearn 常用属性与功能
- 正规化 Normalization
- 交叉验证 1 Cross-validation
- 交叉验证 2 Cross-validation
- 交叉验证 3 Cross-validation
- 保存模型
Function 用法
作者: 灰猫 编辑: Morvan
- 学习资料:
theano 当中的 function
就和 python 中的 function 类似,不过因为要被用在多进程并行运算中,所以他的 function
有他自己的一套使用方式。
这是涉及的是 Theano 的 function 用法。在 theano 中由于涉及到 GPU 加速以及 CPU 的并行的运算,所以他的 function 会有不同。
这次介绍了 function 的三种用法,并且各举一个例子:
首先 , 导入所需要的 python 包:
import numpy as np
import theano.tensor as T
import theano
激励函数例子
使用 activation function(激励函数) 的例子。 activation function 的例子是使用 function 最简单的形式。 首先需要定义一个 tensor T
:
x = T.dmatrix('x')
然后声明了概率计算方式,这里需要注意这里的计算方式要用到 Theano 里面的计算方式。而不能使用 numpy 包里面的 exp()
。
s = 1/(1+T.exp(-x)) # logistic or soft step
最后。调用 theano 定义的计算函数 logistic
logistic = theano.function([x], s)
print(logistic([[0,1],[-2,-3]]))
"""
[[ 0.5 0.73105858]
[ 0.26894142 0.11920292]]
"""
多输入/输出的 function
假定我们的 theano 函数中的输入值是两个,输出也是两个。 指定输入的值是矩阵 a
, b
a,b = T.dmatrices('a','b')
计算输入 a,b 之间的差( diff
), 差的绝对值( abs_diff
),差的平方( diff_squared
)
diff=a-b
abs_diff=abs(diff)
diff_squared = diff**2
在这次使用 theano.function
的时候可以指定两个输,并且输出这两个数值的差( diff
),差的绝对值( abs_diff
), 差的平方( diff_squared
)。当我们在调用这个函数的时候会将这三个结果作为输出值。
f = theano.function([a,b], [diff,abs_diff,diff_squared])
最后调用函数 f
, 并且向函数传递初始化之后的参数。
x1,x2,x3= f(
np.ones((2,2)), # a
np.arange(4).reshape((2,2)) # b
)
print(x1, x2, x3)
"""
array([[ 1., 0.],
[-1., -2.]]),
array([[ 1., 0.],
[ 1., 2.]]),
array([[ 1., 0.],
[ 1., 4.]])
"""
function 的名字
首先,我们可以使用 T.dscalars()
里面同时定义三个纯量的容器。 以及输出值 z
x,y,w = T.dscalars('x','y','w')
z = (x+y)*w
接下来应该是定义 theano 的函数了, 在定义函数的并且指定输入值的时候,我们期望能够有默认值, 于是我们使用 theano 的默认值书写方式来指定
# name for a function
f = theano.function([x,
theano.In(y, value=1),
theano.In(w,value=2)],
z)
print(f(23)) # 使用默认
print(f(23,1,4)) # 不使用默认
"""
48.0
100.0
"""
同时,我们还可以在定义默认值的时候,可以指定参数名字。 这样做的目的是防止我们定义的参数过于多的情况下,忘记函数的顺序。
f = theano.function([x,
theano.In(y, value=1),
theano.In(w,value=2,name='weights')],
z)
print (f(23,1,weights=4)) ##调用方式
"""
100.0
"""
总结
这节中,我们介绍了 function 的三种方式: 首先,一个 theanod 的 function 的简单用法; 其次在使用 theano 的 function 中可以有多个 input 和 output; 最后是 theano 的 function 中可以有默认值并且可以给参数指定名称。
在 fucntion 的参数会在 CPU/GPU 中共享,下一期会提到 shared value 。敬请期待。
如果你觉得这篇文章或视频对你的学习很有帮助,请你也分享它,让它能再次帮助到更多的需要学习的人。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论