撰写于:  浏览:473 次  分类:PyTorch 教程
1、PyTorch自动微分的入门例子首先,我们先看一下PyTorch官网的入门例子,代码如下所示:import torch x = torch.ones(5) # input tensor y = torch.zeros(3) # expected output w = torch.randn(5, 3, requires_grad=True[...]

撰写于:  浏览:537 次  分类:PyTorch GPU 并行训练
准备工作在PyTorch中,即使是有GPU的机器,它也不会自动使用GPU,而是需要在程序中显示指定。在设置GPU调用之前,我们首先需要确认当前设备的显卡是否支持cuda编程,否则所有基于cuda的操作都会报错。我们可以通过torch.cuda.is_available()来进行确认,并通过torch.cuda.get_device_name()查看[...]

撰写于:  浏览:518 次  分类:PyTorch GPU 并行训练
1 .cuda()方法简介在PyTorch中,即使是有GPU的机器,它也不会自动使用GPU,而是需要在程序中显示指定。当我们调用model.cuda(),PyTorch可以将模型加载到GPU上去,但是这种方法不被提倡,而建议使用model.to(device)的方式,这样可以显示指定需要使用的计算资源,特别是有多个GPU的情况下。如果两个数据相加,[...]

撰写于:  浏览:559 次  分类:PyTorch GPU 并行训练
在深度学习的实践中,由于数据集非常大,模型训练需要很长时间,为了解决这个问题,我们可以利用多个GPU并行计算来加速训练过程。torch.nn.DataParallel() 是PyTorch提供的一个非常方便的工具,它可以让我们在多个GPU上并行训练模型。1、DataParallel的原理首先在指定的每张显卡上拷贝一份模型,然后将输入的数据分散到各张[...]

撰写于:  浏览:784 次  分类:飞燕AI训练营
大家好,我是飞燕,我有多年的AI从业经验,从CV到NLP,最后到RL。目前我的重心是RL(强化学习),因为我感觉其他的领域发展已经很成熟了,令我感兴趣的地方不多了,而强化学习是一个利用数学知识做决策的领域,数学和决策是我很感兴趣的两大方向。1、我的数学图书对于数学知识的积累,我持续了很多年。我记得,我的第一次网络购物是在京东商城里买了一本《什么是数[...]

撰写于:  浏览:424 次  分类:PyTorch 教程
通常numpy.where()有两种用法:np.where(condition, x, y) 以及 np.where(condition),本文详细给大家介绍一下。1、np.where(condition, x, y)当where内有三个参数时,第一个参数表示条件,当条件成立时where方法返回x,当条件不成立时where返回y>>&g[...]

撰写于:  浏览:536 次  分类:PyTorch 教程
一般来说我们最常见到的用法是这样的:device = torch.device("cuda" if torch.cuda.is_available() else "cpu")等同于:if torch.cuda.is_available(): device = torch.device("cu[...]

撰写于:  浏览:537 次  分类:PyTorch 教程
在PyTorch中,torch.clamp()函数用于将张量中的元素限制在指定的最小值和最大值之间。这个函数对于防止梯度爆炸、梯度消失或处理异常值非常有用。下面我们将深入探讨这个函数的工作原理、参数、应用场景以及与其它相关函数的比较。1、clamp函数的工作原理torch.clamp()函数通过比较每个元素与最小值和最大值,将所有小于最小值的元素设[...]

撰写于:  浏览:544 次  分类:PyTorch 教程
1、网络权重初始化存在的问题早期的参数初始化方法普遍随机初始化。最常用的随机初始化方法是从均值为0、方差为1的高斯分布中随机采样得到权重。需要注意的是,随机初始化所使用的值的范围可能会对网络性能产生重大影响。如果权重以过大或过小的值初始化,可能会导致训练过程收敛缓慢甚至导致网络发散。2、Xavier Initialization诞生背景Xavier[...]

撰写于:  浏览:436 次  分类:飞燕AI训练营
1、公开课简介飞燕AI公开课面向人群是:AI专业的学生或者初学者,主要分为四大主题:(1)如何入门AI?(2)如何发表AI论文?(3)如何提升项目实战经验?(4)如何找实习?另外,还有一个额外话题,关于AI外包的话题。飞燕组建了【AI外包联盟】,欢迎感兴趣的人加入。对于一个AI学生来说,适当点的接点私活,既可以把知识应用落地,又能挣点外快,还是不错[...]

撰写于:  浏览:2205 次  分类:PyTorch 教程
提示:本文修订于2024年10月19日。1、《PyTorch面试精华》的特点简介《PyTorch面试精华》不仅仅是面试,更是对PyTorch以及AI深度学习技术的系统化、全面化的汇集和沉淀,适用人群即包括刚迈入校门的大一新生,也包括工作十年的职场老鸟;即可以让非AI专业的业余兴趣者增长见识,也可以为专业的AI面试官提供精品题库。自电子教程上线以来,[...]

撰写于:  浏览:2215 次  分类:飞燕AI训练营
更新时间:本文内容更新于2024年8月10日前言飞燕AI训练营面向两类人群:(1)AI相关专业,准备冲击2024年秋招,但是基础很差,想快速提升技术准备面试或者实习的学生群体。关于求职的经验分享请参考:https://www.bilibili.com/video/BV1bG411r7wq/https://www.bilibili.com/video[...]

撰写于:  浏览:1067 次  分类:网站公告
1、外包项目简介为了给社群成员一个学习实践的机会,本社群会有大量的外包项目,这些外包项目都属于小型任务,价格在几百到几千不等,既适合技术新人去练手,也适合技术老手挣外快。当然,几万元的单子也有,但是需要资深老手承担。这里的外包项目五花八门,从计算机视觉到自然语言处理再到图神经网络,从强化学习到大模型,当然,万变不离其宗,这些外包项目所使用的核心技术[...]

撰写于:  浏览:1434 次  分类:PyTorch 教程
1、torch.no_grad()函数的作用torch.no_grad()函数是禁用梯度计算的上下文管理器。当我们确信不会调用Tensor.backward()时,禁用梯度计算很有用,因为它将减少计算的内存消耗。在这种模式下,即使输入的向量的requires_grad=True,每次计算的结果也将为requires_grad=False。但是,有种[...]

撰写于:  浏览:356 次  分类:PyTorch 教程
1、LeakyReLU 激活函数的作用机制 2、LeakyReLU 激活函数的图像展示 3、PyTorch LeakyReLU 激活函数torch.nn.LeakyReLU(negative_slope=0.01, inplace=False)4、PyTorch LeakyReLU 激活函数的应用场景>>> m = n[...]

关注公众号,每天学一个AI知识

    友情链接