PyTorch中常用的激活函数的方法示例

yipeiwu_com6年前
PyTorch中常用的激活函数的方法示例
神经网络只是由两个或多个线性网络层叠加,并不能学到新的东西,简单地堆叠网络层,不经过非线性激活函数激活,学到的仍然是线性关系。 但是加入激活函数可以学到非线性的关系,就具有更强的能力去进...

python 并发编程 阻塞IO模型原理解析

yipeiwu_com6年前
python 并发编程 阻塞IO模型原理解析
阻塞IO(blocking IO) 在linux中,默认情况下所有的socket都是blocking,一个典型的读操作流程大概是这样: 当用户进程调用了recvfrom这个系统调用,k...

python multiprocessing模块用法及原理介绍

yipeiwu_com6年前
一 multiprocessing模块介绍 python中的多线程无法利用多核优势,如果想要充分地使用多核CPU的资源(os.cpu\_count\(\)查看),在python中大部分...

pytorch 加载(.pth)格式的模型实例

yipeiwu_com6年前
pytorch 加载(.pth)格式的模型实例
有一些非常流行的网络如 resnet、squeezenet、densenet等在pytorch里面都有,包括网络结构和训练好的模型。 pytorch自带模型网址:https://pyto...

PyTorch: 梯度下降及反向传播的实例详解

yipeiwu_com6年前
PyTorch: 梯度下降及反向传播的实例详解
线性模型 线性模型介绍 线性模型是很常见的机器学习模型,通常通过线性的公式来拟合训练数据集。训练集包括(x,y),x为特征,y为目标。如下图: 将真实值和预测值用于构建损失函数,训练的...

对pytorch中的梯度更新方法详解

yipeiwu_com6年前
背景 使用pytorch时,有一个yolov3的bug,我认为涉及到学习率的调整。收集到tencent yolov3和mxnet开源的yolov3,两个优化器中的学习率设置不一样,而且使...

关于pytorch中网络loss传播和参数更新的理解

yipeiwu_com6年前
关于pytorch中网络loss传播和参数更新的理解
相比于2018年,在ICLR2019提交论文中,提及不同框架的论文数量发生了极大变化,网友发现,提及tensorflow的论文数量从2018年的228篇略微提升到了266篇,keras从...

python 并发编程 多路复用IO模型详解

yipeiwu_com6年前
python 并发编程 多路复用IO模型详解
多路复用IO(IO multiplexing) 这种IO方式为事件驱动IO(event driven IO)。 我们都知道,select/epoll的好处就在于单个进程process就...

python3中替换python2中cmp函数的实现

yipeiwu_com6年前
python3中替换python2中cmp函数的实现
python 3.4.3 的版本中已经没有cmp函数,被operator模块代替,在交互模式下使用时,需要导入模块。 在没有导入模块情况下,会出现 提示找不到cmp函数了,那么在p...

python中用logging实现日志滚动和过期日志删除功能

yipeiwu_com6年前
logging库提供了两个可以用于日志滚动的class(可以参考https://docs.python.org/2/library/logging.handlers.html),一个是R...