kit7828的个人空间动态-电子工程世界

kit7828

动态发布点评好友关于

2024-12-25
回复了主题帖： 2025年测评中心，DigiKey得捷赞助继续，欢迎跟帖推你期待的上线的测品啦~

特别期待STM32N6相关开关板的测评，嵌入式AI领域的评测！
2024-12-18
发表了主题帖： AI挑战营(进阶) 1：LuckFox Pico Max Pro(RV1106)TF卡烧录官方例程测试

感谢EEWorld以及幸狐开发板提供的评测活动，又一次幸运的得到了评测的机会。 LuckFox Pico Max是基于瑞芯微 RV1106 G3芯片，基于单核 ARM Cortex-A7 32 位内核，集成了 NEON 和 FPU，并内置 NPU 支持 INT4 / INT8 / INT16 混合运算，计算能力高达 1TOPs，板载了256M的FLASH芯片。一、评测准备收到板子有两周多时间了，学习了很多网友的应用评测，也凑齐了开发资源，终于开干。首先评测官方例程，用TF卡的方式进行，以下是用到的资源，主要是TF卡（32G）以及usb串口模块。二、开发环境及软件工具根据官方教程进行TF卡的烧录，首先下载相关的软件，并进行安装主要有：1、RK驱动助手 DriverAssitant 2、Buildroot镜像 3、TF卡擦除工具SD Card Formatter 4、烧录工具SocToolKit 5、MobaXterm 远程登录软件 6、VLC media player 7、usb串口模块的驱动三、TF格式化 SD Card Formatter的使用比较简单，不要选错TF卡所在盘符就行四、TF卡烧录 SocToolKit烧录软件要右键管理员身份运行，否则不会出现USB 磁盘。其他根据官方网站的方法进行就可以，只是要注意，镜像文件中不要选择update.img。烧录完成后的截图如下：五、串口调试由于用的是win11系统，新拆的ch340串口模块，驱动这块出现了很大问题，连续几次都打不来串口，后面查了资料，更换为低版本的驱动才成功，有类似问题的网友可以参考以下。首先卸载端口的时候，一定要勾上驱动程序，再者一定要选择老版本的驱动程序，我这边用的是2014年11月的驱动版本。更换驱动后串口就能正常打开了（建议用sscom等软件先测试下串口是否正常，可用跳线帽短接RXD和TXD引脚）根据官方网站提供的方式进行硬件连接打开 MobaXterm 远程登录软件，选择 Session->Serial，设置串口的波特率波特率为115200。连接后就能看到开发板的进度和提示信息了输入登录账号：root 登录密码：luckfox 就进入Buildroot界面键入ifconfig查看网卡信息六、PC中usb网卡设置根据官方网站中的配置 RNDIS 网口步骤，设置PCRNDIS 网卡的地址为172.32.0.100，然后互ping成功七、使用VLC media player 推流同样，根据官方网站的VLC推流，选择媒体—>打开网络串流，输入地址rtsp://172.32.0.93/live/0 就能看到摄像头推过来的视频了，只是延迟非常严重，不知道通过网线的推流会不会快一些？以下是录制的推流视频 [localvideo]843368a9eedfb6f370c226708c93e444[/localvideo] 八、遗留问题评测过程，烧录了Ubuntu22.04镜像，IP地址为172.32.0.70，但是无法推流，不知道该怎么实现？哪位大佬指点一下，不胜感激！
2024-12-13
发表了主题帖：《大语言模型开发：用开源模型开发本地系统》分享2：深度学习框架：PyTorch

深度学习是人工智能领域中的非常重要的一个领域，深度学习框架中比较知名的有TransorFlow、Pytorch、Keras等。今天的分享就介绍Pytorch以及用Pytorch编码的神经网络代码。 PyTorch简介在开始之前，让我们先来简单了解一下PyTorch。PyTorch是由Facebook的人工智能研究团队开发的一个开源机器学习库，它广泛用于计算机视觉和自然语言处理等应用。PyTorch以其动态计算图、易用性和灵活性而闻名，这使得它成为了许多研究者和开发者的首选工具。 PyTorch安装在开始使用PyTorch之前，我们需要先进行安装。 Pytorch网址是https://pytorch.org/，提供了PyTotch框架的不同安装方式安装PyTorch的过程非常简单，我们可以通过Python的包管理器pip来安装。在命令行中输入以下命令即可： pip install torch torchvision 这样，PyTorch及其视觉库vision就安装完成了。安装完成后，我们可以通过简单的代码来测试是否安装成功： import torch print(torch.__version__) 如果输出了版本号，那么恭喜您，PyTorch已经成功安装在您的机器上了。张量在PyTorch中，张量（Tensor）是最基本的数据结构，类似于NumPy中的数组。张量可以包含标量、向量、矩阵或高维数据。PyTorch的张量操作非常灵活，支持各种数学运算，例如加法、乘法等。 # 创建一个张量 tensor = torch.tensor([1, 2, 3]) print(tensor) # 张量运算 result = tensor + 2 print(result) 梯度计算在深度学习中，梯度计算是一个核心概念。PyTorch提供了自动梯度计算的功能，这大大简化了我们对模型进行训练的过程。当我们需要计算某个张量的梯度时，只需调用.backward()方法。 # 需要计算梯度的张量 x = torch.tensor([1.0], requires_grad=True) # 计算梯度 y = x ** 2 y.backward(torch.tensor([1.0])) # 输出梯度 print(x.grad) 反向传播反向传播是神经网络训练中的关键步骤，它通过计算损失函数关于模型参数的梯度来更新参数。在PyTorch中，我们通常不需要手动实现反向传播，因为框架会自动为我们处理。 # 定义一个简单的函数 def f(x): return x ** 2 # 计算梯度 x = torch.tensor([2.0], requires_grad=True) f(x).backward() print(x.grad) torch.nn模块构建神经网络 torch.nn模块是PyTorch中用于构建神经网络的核心模块。它提供了一系列的类和函数，可以帮助我们快速构建各种类型的神经网络层。 import torch.nn as nn # 定义一个简单的神经网络 class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.fc1 = nn.Linear(10, 5) self.fc2 = nn.Linear(5, 2) def forward(self, x): x = torch.relu(self.fc1(x)) x = self.fc2(x) return x # 实例化网络 net = Net() torch.optim优化器在训练神经网络时，优化器是调整模型参数以最小化损失函数的关键组件。torch.optim模块提供了多种优化算法，如SGD、Adam等。 import torch.optim as optim # 定义优化器 optimizer = optim.SGD(net.parameters(), lr=0.01) 训练、验证和测试过程训练神经网络通常包括三个阶段：训练、验证和测试。在训练阶段，我们使用训练数据来更新模型参数；在验证阶段，我们使用验证数据来评估模型的性能；在测试阶段，我们使用测试数据来最终评估模型的泛化能力。 # 训练过程示例 for epoch in range(num_epochs): for data, target in train_loader: optimizer.zero_grad() output = net(data) loss = criterion(output, target) loss.backward() optimizer.step() 用Pytorch实现神经网络通过上述的介绍，我们已经了解了PyTorch的基本组件和概念。现在，让我们来看一个简单的神经网络实现示例。 import torch import torch.nn as nn import torch.optim as optim #定义神经网络模型 class CloudServiceUsageModel(nn.Module): def __init__(self,input size, hidden size, num classes): super(CloudServiceUsageModel, self).__init__() self.fcl =nn.Linear(input_size,hidden_size) self.relu = nn.ReLU() self.fc2 =nn.Linear(hidden size,num classes) def forward(self,x): out = self.fc1(x)out= self.relu(out) out = self.fc2(out) return out #准备数据 input size = 10 hidden size =5 num classes=2 learning rate=0.001 num epochs=100 #随机生成一些示例数据 X= torch,randn(100,input size) Y=torch.randint(0,num classes,(100,)) #划分训练集和测试集 train_size=int(0.8 *len(X)) train_X,test_x=X[:train size],X[train size:] train_Y,test_Y=Y[:train size],Y[train size:] #初始化模型、损失函数和优化器 model =CloudServiceUsageModel(input size, hidden size, num classes) criterion =nn.CrossEntropyLoss() optimizer =optim.Adam(model.parameters(),lr=learning rate) #模型训练 for epoch in range(num epochs): #前向传播 outputs = model(train X) loss =criterion(outputs,train Y) #反向传播和优化 optimizer.zero grad() loss.backward() optimizer.step() #打印训练信息 if(epoch+1)%10 == 0: print(f'Epoch {epoch+l}/{num epochs), Loss: {loss.item()}') #模型评估 with torch.no grad(): outputs =model(test X) _, predicted = torch.max(outputs.data,1) accuracy =(predicted ==test Y).sum().item()/ len(test Y) print(f'Test Accuracy:{accuracy}') 运行输出为 Epoch 10/100, Loss:0.7254490852355957 Epoch 20/100, Loss:0.7173128724098206 Epoch 30/100，Loss:0.7097707986831665 Epoch 40/100，Loss:0.7027563452720642 Epoch 50/100, Loss:0.6960537433624268 Epoch 60/100，Loss:0.6897956728935242 Epoch 70/100，Loss:0.6836565732955933 Epoch 80/100，Loss:0.6769127249717712 Epoch 90/100, Loss:0.6696738004684448 Epoch 100/100,Loss:0.6618732213973999 Test Accuracy:0.3 源代码常用模块在实际开发中，我们还会用到PyTorch的许多其他模块，如nn.Parameter类，将需要被优化的张量（参数）标记为网络可训练的参数，方便进行参数更新和优化；typing模块提供了类型提示和类型注解的功能；logging模块用于记录和管理应用程序的日志信息，提供了灵活的配置选项，允许不同级别的日志过滤信息；torchvision模块用于图像处理，torch.utils.data用于数据加载和处理等。这些模块都极大地丰富了PyTorch的功能，使得我们能够更加便捷地进行深度学习项目的开发。总结今天的分享，希望大家能够对PyTorch有一个初步的了解，并激发起和大家进一步探索和学习的兴趣。深度学习是一个不断发展的领域，而PyTorch作为一个强大的工具，能够帮助我们更好地理解和实现深度学习模型。
2024-12-02
回复了主题帖：《大语言模型开发：用开源模型开发本地系统》分享1：从基础到实践：NLP与深度学习基础

Jacktang 发表于 2024-12-1 16:25 深度学习的基础是感知机，它是最简单的神经网络单元，这个是本次学习的关键认知。还是大佬学的深刻哈，感谢感谢
2024-12-01
发表了主题帖：《大语言模型开发：用开源模型开发本地系统》分享1：从基础到实践：NLP与深度学习基础

在人工智能的浪潮中，大语言模型作为一项前沿技术，正逐渐渗透到我们生活的方方面面。《大语言模型开发：用开源模型开发本地系统》这本书为我们揭开了大语言模型的神秘面纱，让我们得以一窥其背后的技术原理和开发实践。第一章：自然语言处理 1. 人工智能的技术构成自然语言处理（NLP）是人工智能领域的一个重要分支，它致力于使计算机能够理解、解释和生成人类语言。在这一章节中，我们首先了解了机器学习与深度学习的区别。机器学习侧重于从数据中学习模式，而深度学习则利用多层神经网络模拟人脑处理信息的方式。 2. 自然语言的发展阶段自然语言处理经历了从规则驱动到统计方法，再到深度学习方法的发展。这一过程反映了我们对语言理解的不断深化。 3. 深度学习方法深度学习方法在NLP中扮演着核心角色。我们探讨了Word2Vec词嵌入、循环神经网络（RNN）、长短时记忆网络（LSTM）和门控循环单元（GRU）模型。这些技术使得机器能够捕捉到语言的复杂性和上下文信息。 4. 序列到序列模型与注意力机制序列到序列模型（Seq2Seq）和注意力机制是NLP中的两个重要概念。Seq2Seq模型能够处理输入和输出序列长度不一的问题，而注意力机制则帮助模型集中于输入序列中的关键信息。 5. Transformer模型 Transformer模型以其自注意力机制而闻名，它在处理序列数据时表现出色，特别是在机器翻译和文本摘要等任务中。 6. 预训练模型与大语言模型预训练模型通过在大规模数据集上训练，使得模型能够捕捉到丰富的语言特征。大语言模型则是预训练模型的进一步发展，它们根据架构和训练方式进行分类。第二章：深度学习基础 1. 深度学习与感知机深度学习的基础是感知机，它是最简单的神经网络单元。我们学习了前馈网络、权重更新和反向传播算法，这些都是构建深度学习模型的基石。 2. 激活函数激活函数在神经网络中扮演着非线性变换的角色。我们了解了常用激活函数如ReLU、Sigmoid，以及新型激活函数如Leaky ReLU和ELU。 3. 优化函数（算法）优化算法是训练神经网络的关键。我们探讨了梯度下降法及其变体，包括动量优化算法、AdaGrad、RMSProp和Adam优化算法。 4. 权值初始化与归一化权值初始化和归一化技术对于模型的训练至关重要。我们学习了批归一化、层归一化和RMSNorm等技术。 5. 损失函数损失函数是衡量模型预测与实际值差异的指标。我们了解了均方误差、均方根误差和交叉熵损失等常见损失函数。 6. 模型评估与正则化模型评估涉及到偏差/方差、过拟合与欠拟合的概念。正则化技术如L1和L2正则化有助于防止过拟合。 7. SoftMax函数与简易神经网络搭建 SoftMax函数在多分类问题中用于输出概率分布。我们还学习了如何搭建一个简易的神经网络，并讨论了梯度消失和梯度爆炸问题。 8. 模型优化最后，我们探讨了模型优化的策略，包括优化手段和调参技巧，这些对于提升模型性能至关重要。结语通过这本书的前两章，我们不仅了解了自然语言处理和深度学习的理论基础，还掌握了一些实用的技术手段。这些知识为我们进一步探索大语言模型的开发提供了坚实的基础。希望这次的分享能够帮助大家更好地理解这些概念，并激发出更多的创新思维。
2024-11-21
回复了主题帖：入围名单公布：嵌入式工程师AI挑战营（进阶）的挑战者们，领取板卡啦

个人信息已确认，领取板卡，可继续完成任务。
回复了主题帖：共读入围：《大语言模型开发：用开源模型开发本地系统》

个人信息无误，确认可以完成评测计划。
2024-11-11
回复了主题帖：《动手学深度学习（PyTorch版）》书籍分享4：注意力机制与优化算法

通途科技发表于 2024-11-11 05:33 好好学习，天天向上，加油，同学们，加油，自己！！！共同学习，共同提高，加油！
2024-11-08
回复了主题帖：嵌入式工程师AI挑战营（进阶）：在RV1106部署InsightFace算法的多人实时人脸识别实战

insightface是一个开源的基于Pytorch和MXNet实现的2D/3D人脸分析工具，它实现了多个SOTA人脸识别、人脸检测、人脸对齐算法，并对训练和部署进行了优化。insightface用的是5个特征点检测，因此算法资源要求相对较少，容易在嵌入式系统上进行部署和实现。对于特定的人脸，需要在PC环境下训练后才能部署在嵌入式板子RV106上运行，可以使用RKNNLite工具包对InsightFace算法进行模型转换后，在RV1106上实现人脸识别。计划挑战和部署的应用为实时人物轨迹追踪。即对特定的人脸运动轨迹进行实时标注。目前来说，需要学习的路程比较长，但是这个领域的前景还是非常看好的，会努力克服学习上的困难，力争完成这个嵌入式人脸实时识别项目。
2024-11-06
回复了主题帖：《动手学深度学习（PyTorch版）》书籍分享4：注意力机制与优化算法

William-sz 发表于 2024-10-29 12:59 学习了，内容非常清晰，非常感谢楼主的分享。好文，有需要的可以看看。谢谢，大家共同学习，共同分享
回复了主题帖：《动手学深度学习（PyTorch版）》书籍分享4：注意力机制与优化算法

freebsder 发表于 2024-10-28 15:02 比较详细，谢谢分享感谢大佬的认可，非常感谢
回复了主题帖：《动手学深度学习（PyTorch版）》书籍分享4：注意力机制与优化算法

秦天qintian0303 发表于 2024-10-27 12:40 注意力聚焦于输入数据的关键部分，从而实现对信息的有效筛选和利用，实际上不就是滤波了吗是的，原理中一部分就是滤波，其他的就是生命存活时间或者对后续输入的影响
回复了主题帖：《动手学深度学习（PyTorch版）》书籍分享4：注意力机制与优化算法

哈哈，客气了。最近比较忙，上网址的时间比以前少多了
2024-10-25
发表了主题帖：《动手学深度学习（PyTorch版）》书籍分享4：注意力机制与优化算法

一、引言《动手学深度学习》作为深度学习领域的经典之作，为我提供了一个深入学习和理解这一前沿技术的平台。在阅读了第十章“注意力机制”和第十一章“优化算法”后，我对深度学习中的关键技术和挑战有了更为全面的认识。以下是我对这两部分内容的详细读后感。二、注意力机制：深度学习的强大工具基本原理注意力机制是一种强大的工具，它使模型能够在处理信息时，根据输入数据的不同部分的重要性进行动态调整。通过计算注意力权重，模型能够聚焦于输入数据的关键部分，从而实现对信息的有效筛选和利用。核心元素在注意力机制中，查询（Query）、键（Key）和值（Value）是三个核心元素。Query代表当前需要关注的信息，Key和Value则分别代表输入数据中各个部分的信息和对应的表示。通过计算Query与Key之间的相似度或相关性，模型可以得到每个输入位置的注意力权重，并对Value进行加权求和，从而生成最终的输出结果。三个核心元素之间的关系如下图所示：广泛应用注意力机制在深度学习中的应用非常广泛。在自然语言处理领域，它被广泛应用于机器翻译、文本摘要、问答系统等任务中。如下图所示：在计算机视觉领域，注意力机制也被用于图像识别、目标检测等任务中。通过引入注意力机制，模型能够更好地理解输入数据的结构和语义信息，从而生成更为准确和自然的输出结果。如下图所示：实现技巧在实现注意力机制时，我们可以采用一些技巧和方法来提高模型的表达能力和泛化能力。例如，在实现多头注意力时，我们可以将输入数据分割成多个头，并为每个头分别计算注意力权重和输出结果。然后将各个头的输出结果进行拼接或平均，从而得到最终的输出结果。这种方法可以提高模型的鲁棒性和性能。如下图所示：三、优化算法：深度学习模型的训练核心基本目标优化算法的目标是通过调整模型参数来最小化目标函数，从而得到最优的模型。在深度学习模型的训练过程中，优化算法起着至关重要的作用。主要算法（1）梯度下降方法：作为最基本的优化算法之一，梯度下降方法通过计算目标函数关于模型参数的梯度，并按照梯度的反方向更新参数，从而逐步逼近最优解。然而，梯度下降方法在实践中存在一些挑战，如局部最小值、鞍点等问题。如下图所示：（2）随机梯度下降（SGD）：SGD通过随机选择一个训练样本来计算梯度并更新参数，从而加速训练过程。然而，SGD的收敛速度可能较慢，且容易受到噪声的影响。如下所示：（3）动量法：为了改进SGD的性能，研究者们提出了动量法。动量法通过引入动量项来加速SGD的收敛速度，并减少噪声对训练过程的影响。如下所示：（4）AdaGrad算法：AdaGrad算法根据参数的梯度大小自适应地调整学习率，从而实现对不同参数的差异化更新。这种方法可以进一步提高模型的训练效率和性能。如下：（5）RMSProp算法和Adam算法：RMSProp算法和Adam算法则进一步改进了AdaGrad算法的性能，使其在实践中更加稳定和有效。这两种算法在深度学习模型的训练中得到了广泛的应用和认可。RMSProp算法如下所示： Adam算法如下所示：算法选择在实际应用中，我们需要根据具体任务和数据集的特点来选择合适的优化算法。不同的优化算法具有不同的优缺点和适用范围，因此我们需要进行充分的实验和验证来找到最优的算法组合。四、总结与展望通过阅读《动手学深度学习》的第十章和第十一章，我对深度学习中的注意力机制和优化算法有了更深入的认识和理解。这些知识不仅为我提供了更多的机会和挑战来提升自己的能力和水平，还为我未来的学习和工作奠定了坚实的基础。我相信在未来的学习和实践中，我会继续深入研究和探索这些前沿技术，为深度学习领域的发展做出更大的贡献。
2024-10-06
发表了主题帖：《动手学深度学习（PyTorch版）》书籍分享3：卷积神经网络与循环神经网络

《动手学深度学习（PyTorch版）》第二版第六章至第九章的内容无疑是最为引人入胜的。这些章节不仅系统地介绍了深度学习中的关键技术和算法，还通过丰富的代码示例和动手实践机会，让我深刻理解了这些算法的实现和应用。以下是我对这些章节内容的概述、阅读过程中的感受和收获、内容与我学习经历或职业发展的关联，以及对这本书的总体评价和建议。卷积神经网络与循环神经网络：深度学习的两大支柱在人工智能的浪潮中，深度学习作为一股不可忽视的力量，正在重塑各行各业。其中，卷积神经网络（Convolutional Neural Networks，简称CNN）和循环神经网络（Recurrent Neural Networks，简称RNN）作为深度学习的两大支柱，各自在图像处理和序列数据处理领域展现出了卓越的性能。本文将深入探讨CNN和RNN的作用、方法及其在各种应用场景中的表现，并通过具体的例子和插图来加以说明。一、卷积神经网络（CNN） 1. 作用卷积神经网络是一种专门设计用于处理具有网格结构的数据（如图像和视频）的深度学习模型。其核心作用在于自动从输入数据中提取出有用的特征，并基于这些特征进行分类、识别或回归。CNN通过卷积层和池化层提取图像的空间特征，将输入数据映射到一个高维特征空间中，再通过全连接层对特征进行分类或回归。 2. 方法 CNN的关键方法主要包括卷积操作、池化操作、全连接层以及反向传播算法等。卷积操作：卷积操作是CNN的核心步骤之一，它通过卷积核对输入数据进行局部计算，提取出有用的特征。卷积核通常是一个小的矩阵，它会在输入数据上滑动，并在每个位置上计算卷积结果。这个过程可以看作是对输入数据的局部特征进行提取和加权求和。卷积操作具有权值共享和局部连接的特点，能够大大减少模型参数，提高模型泛化能力。池化操作：池化操作是CNN中用于降采样的步骤，它通过选择局部区域中的最大值或平均值作为输出，从而减少特征图的尺寸。池化操作能够增强模型的鲁棒性和特征提取能力，因为它能够保留最重要的特征信息，同时减少计算量和内存消耗。全连接层：全连接层是CNN中用于分类或回归的步骤，它将提取的特征映射到一个高维特征空间中，并通过softmax函数进行分类或回归。全连接层通常位于CNN的末端，接收来自卷积层和池化层的特征图，并将其转换为固定长度的特征向量。反向传播算法：反向传播算法是CNN训练过程中的核心算法之一，它用于更新网络参数以最小化损失函数。在训练过程中，CNN首先通过前向传播计算输出值和损失值，然后通过反向传播计算梯度并更新网络参数。这个过程会不断迭代直到达到收敛条件或达到预设的迭代次数。 3. 应用 CNN在图像处理领域具有广泛的应用场景，包括但不限于图像分类、物体检测、人脸识别、视频分析以及医学图像分析等。图像分类：CNN能够自动学习图像中的特征，并基于这些特征对图像进行分类。例如，在CIFAR-10数据集中，CNN可以准确地将图像分类为10个不同的类别。物体检测：物体检测任务要求识别出图像中的物体类别，并要求定位物体的精确位置。CNN通过结合卷积层和区域候选网络（RPN）等结构，能够实现高精度的物体检测。人脸识别：CNN能够自动学习人脸的特征，并基于这些特征进行人脸识别和验证。例如，在安防系统中，CNN可以准确地识别出人脸的身份信息，并用于门禁控制、视频监控等场景。视频分析：CNN能够处理视频中的连续帧，并实现对视频中的物体、行为和事件的识别和分析。例如，在智能监控系统中，CNN可以准确地检测出异常事件（如火灾、交通事故等），并及时发出警报。医学图像分析：CNN能够自动学习医学图像中的特征，并基于这些特征进行疾病诊断和图像分割。例如，在乳腺癌诊断中，CNN可以准确地识别出乳腺图像中的肿块和钙化点，并辅助医生进行疾病诊断。二、循环神经网络（RNN） 1. 作用循环神经网络是一种专门设计用于处理序列数据的深度学习模型。其核心作用在于捕捉序列数据中的时间依赖关系，并基于这些关系进行分类、预测或生成。RNN通过引入循环单元，将自身的输出作为下一个时间步的输入，从而建立循环关系，使网络能够在处理序列数据时保留并利用之前的信息。 2. 方法 RNN的关键方法主要包括循环单元、长短期记忆网络（LSTM）和门控循环单元（GRU）等。循环单元：循环单元是RNN的基本组成部分，它通过将自身的输出作为下一个时间步的输入来建立循环关系。循环单元可以储存并使用先前计算得到的信息，从而在处理序列数据时保留并利用之前的信息。长短期记忆网络（LSTM）：LSTM是RNN的一种变体，它通过引入输入门、遗忘门和输出门来显式地控制信息的输入和输出，从而解决了传统RNN在处理长期依赖问题时存在的梯度消失或梯度爆炸的问题。LSTM能够有效地处理长期依赖关系，适用于语音识别、自然语言生成等任务。门控循环单元（GRU）：GRU是另一种RNN的变体，它简化了LSTM的结构，同时保持了其处理长期依赖关系的能力。GRU通过引入更新门和重置门来控制信息的流动，从而实现了与LSTM相似的性能。 3. 应用 RNN在序列数据处理领域具有广泛的应用场景，包括但不限于自然语言处理、语音识别、机器翻译以及序列标注等。自然语言处理：RNN可以作为语言模型来预测下一个单词或字符，从而可以用于文本生成、机器翻译等任务。通过学习大量文本数据，RNN可以生成与原始文本类似的新文本，并且能够保持一定的语法和语义连贯性。语音识别：RNN可以将输入的语音信号转化为文本形式，通过学习大量的语音数据集，可以有效地识别和转录语音内容。RNN在语音识别中发挥着重要作用，它能够将语音信号转化为文本，实现语音的自动记录和转写。机器翻译：RNN在机器翻译任务中表现出色。通过将源语言文本输入RNN，同时利用上下文信息，使其生成目标语言的翻译文本。RNN能够处理长句子之间的依赖关系，提高翻译的准确性和流畅性。序列标注：RNN在序列标注任务中也得到广泛应用，如命名实体识别、词性标注等。通过将输入的序列数据映射到相应的标签序列，RNN能够提取和捕捉序列数据中的特征信息，进而实现有效的序列标注。三、概括卷积神经网络和循环神经网络作为深度学习的两大支柱，各自在图像处理和序列数据处理领域展现出了卓越的性能。CNN通过卷积操作和池化操作提取图像的空间特征，适用于图像分类、物体检测等任务；而RNN通过循环单元捕捉序列数据中的时间依赖关系，适用于自然语言处理、语音识别等任务。在未来，随着深度学习技术的不断发展和应用领域的不断拓展，CNN和RNN有望在更多领域发挥重要作用。例如，在自动驾驶系统中，CNN可以准确地检测出车辆、行人等物体，为自动驾驶系统提供可靠的决策依据；而RNN则可以用于处理驾驶员的语音指令和文本信息，实现更加智能化的交互和控制。此外，CNN和RNN还可以结合其他深度学习算法（如生成对抗网络GAN）来拓展应用场景和性能表现。总之，卷积神经网络和循环神经网络作为深度学习的两大支柱，将在未来继续发挥重要作用，并为人类社会的发展和进步贡献更多力量。让我们共同期待和见证这一美好未来的到来！
2024-10-04
发表了主题帖：《大语言模型：原理与工程实践》- 通俗意义上的大模型的微调及对齐

在人工智能的世界里，开源大模型就像是一块块待雕琢的璞玉，等待着我们去发掘它们的潜力。本帖子将分享开源大模型的微调和对齐，探索如何让这些模型更加精准地服务于我们的需求。大模型微调：让模型更懂你 1. 有监督的微调：定制化训练想象一下，你手里有一台万能打印机，但是它默认只能打印黑白文档。现在，如果你想要打印彩色照片，就需要对它进行一些调整。有监督的微调就像是对打印机进行调整，让模型在特定的任务上表现得更加出色。 2. 数据构建：打好基础在微调的过程中，数据就像是建筑的砖块。我们需要收集和标注大量的数据，告诉模型什么样的输出是正确的。这就像是给打印机提供彩色墨盒，让它知道如何打印出丰富多彩的图片。 3. 微调方法：选择合适的工具有了数据，我们就需要选择合适的微调方法。就像工具箱里的锤子、螺丝刀和扳手，不同的工具适用于不同的任务。全面微调、部分微调、参数高效微调等方法，都是我们工具箱中的宝贝。 4. 推理策略：模型的实战演练微调后的模型需要在现实世界中进行推理，这就涉及到推理策略的选择。就像给汽车选择合适的燃油，量化推理技术可以让模型在资源有限的环境中，依然保持高效的推理能力。 5. 微调的挑战与探索：不断前行微调大模型的道路充满了挑战，比如过拟合、数据需求、任务适配性等问题。但正是这些挑战，激发了我们不断探索新的微调技术和策略，推动着技术的进步。大模型的强化对齐：与人类价值观同步 1. 强化学习基础：智能体的自我进化强化学习就像是在玩一场游戏，智能体通过不断尝试和犯错来学习如何取得胜利。这个过程就像是训练一只小狗，通过奖励和惩罚来教会它如何做正确的事。 2. DQN方法：深度学习与Q学习的完美结合 DQN是指深度Q网络，Deep Q-Network，就像是将一台超级计算机的计算能力与一个策略游戏高手的决策能力结合在一起，让智能体能够预测每一步的最佳行动。用深度神经网络对Q函数进行建模，通过训练深度神经网络得到更准确的对Q函数的估计。 3. 策略梯度方法：直接优化策略的魔法策略梯度方法就像是直接在战场上指挥作战，通过增强产生高奖励的动作的概率来指导智能体的行为。 4. 大语言模型中的强化建模：让语言更有力量在大语言模型中，强化学习被用来优化模型的行为，使其更好地符合人类的价值观和期望。这就像是用文字来触动人心，让语言不仅仅是交流的工具，更是改变世界的力量。 5. 奖励模型：评估模型的裁判奖励模型就像是体育比赛中的裁判，评估着模型生成的响应的质量，确保模型的表现符合我们的期望。 6. RLHF：人类反馈的力量 RLHF使用人类标注或者反馈的偏好数据训练奖励模型，继而使用奖励模型和强化学习算法对大模型进行进一步的训练，将大模型的输出和人类的价值偏好对齐。RLHF是一种结合了人类反馈的强化学习方法，它通过人类的评估来指导模型的学习过程，就像是请一位经验丰富的导师来指导我们，让我们更快地学习和成长。 7. RLHF的难点和问题：在挑战中寻找解决方案 RLHF面临的难点包括如何有效地整合人类反馈、如何处理奖励函数的稀疏性等。但正是这些挑战，促使我们在不断的探索中寻找新的解决方案。大模型的微调和对齐是一场技术与艺术的交响曲，它不仅仅是冷冰冰的代码和算法，更是我们对美好生活的追求和向往。随着技术的不断进步，我们有理由相信，未来开源大模型将在更多的领域发挥重要作用，成为推动世界进步的重要力量。
2024-09-18
回复了主题帖：《大语言模型：原理与工程实践》- 预训练数据构建及大模型预训练

yangjiaxu 发表于 2024-9-11 11:47 这种是不是需要更多的数据来支持大数据模型啊？是的，需要更多类型的数据和更大量的数据支持和调整大模型参数
回复了主题帖：《动手学深度学习（PyTorch版）》书籍分享2：深度学习基础之线性回归与感知机

hellokitty_bean 发表于 2024-9-17 14:27 kaggle_house_pred_train.csv kaggle_house_pred_test.csv 这两个数据特别重要。。。。。。。。。。 ... http://d2l-data.s3-accelerate.amazonaws.com/kaggle_house_pred_train.csv http://d2l-data.s3-accelerate.amazonaws.com/kaggle_house_pred_test.csv 可以直接下载
2024-09-17
发表了主题帖：《动手学深度学习（PyTorch版）》书籍分享2：深度学习基础之线性回归与感知机

在人工智能的璀璨星河中，深度学习以其独特的魅力和强大的能力，成为了最耀眼的明星。它的核心优势在于能够自动提取数据中的复杂模式和深层次关系。在深度学习的众多算法中，线性回归和感知机不仅是基础，更是构建复杂神经网络的基石。本文将分享线性回归和感知机的相关原理、实现及其在深度学习中的应用。 I. 引言深度学习，作为人工智能领域的前沿技术，正引领着一场科技革命。它通过模拟人脑神经网络的工作方式，让计算机能够像人类一样学习和理解世界。在这场革命中，线性回归和感知机作为深度学习的基础算法，扮演着至关重要的角色。它们不仅为深度学习提供了坚实的理论基础，更为实际应用中的模型设计和优化提供了宝贵的经验。接下来，我们将深入探讨线性回归和感知机的奥秘，揭开深度学习的神秘面纱。 II. 线性回归基础线性回归，这一统计学中的古老而经典的方法，在深度学习领域焕发出了新的生机。它以其简洁明了的形式，为我们提供了一个探索数据特征与目标值关系的有力工具。线性回归的基本元素：数据点、权重和偏置是构成线性回归模型的三大要素。通过精心调整这些参数，我们能够构建出一个既简单又高效的预测模型，精准地捕捉数据中的规律。矢量化加速：在处理大规模数据集时，计算效率显得尤为重要。矢量化加速技术通过将复杂的运算转化为矩阵运算，极大地提高了数据处理的速度，为深度学习的广泛应用奠定了坚实的基础。正态分布与平方损失：在评估模型性能时，我们通常采用平方损失函数来衡量预测值与实际值之间的差异。同时，正态分布假设为我们提供了一个优雅的误差分析框架，使得模型的性能评估更加科学和合理。从线性回归到深度网络：随着研究的深入，我们发现线性回归虽然强大，但在处理非线性问题时却显得力不从心。于是，人们引入了非线性激活函数，从而构建出深度神经网络。这一转变不仅极大地扩展了模型的表达能力，还为解决各种复杂问题提供了强有力的支持。 III. 线性回归的实现过程实现一个高效的线性回归模型并非易事，它需要经过一系列精心设计的步骤。首先，我们需要生成一个具有代表性的数据集；然后，读取并预处理数据；接着，初始化模型参数；之后，定义模型结构和损失函数；最后，选择优化算法并进行模型训练。这些步骤环环相扣，每一步都至关重要。只有当我们精心完成每一个步骤时，才能构建出一个既高效又稳定的线性回归模型。 IV. softmax回归与实现细节在深度学习的世界中，我们经常会遇到多类分类问题。为了解决这类问题，softmax回归应运而生。它通过对输出层应用softmax函数，将模型输出转换为概率分布。这样一来，我们不仅能够得到每个类别的概率得分，还能轻松地确定输入数据所属的类别。softmax回归以其优雅而高效的特点，成为了解决多类分类问题的得力助手。在实现softmax回归时，我们需要关注一些关键的细节。首先，模型参数的初始化对于模型的收敛速度和最终性能有着重要的影响；其次，选择合适的优化算法能够加快模型的训练速度并提高模型的性能；最后，实现预测功能也是不可或缺的一环。这些细节的处理直接关系到softmax回归模型的性能和准确性。因此，在实际应用中，我们需要认真对待每一个细节，确保模型能够发挥出最佳的性能。 V. 多层感知机深入探讨多层感知机（MLP）是深度学习的核心组件之一。它由多个层次的神经元组成，每个层次都能够提取出更加高级的特征表示。在实际应用中，MLP展现出了强大的表达能力和灵活性。隐藏层的作用与设计：隐藏层是MLP中最为关键的部分之一。它通过层层递进的方式，逐渐提取出更加抽象和高级的特征表示。这些特征表示不仅能够捕获数据中的深层次信息，还能够为后续的分类或回归任务提供有力的支持。因此，在设计MLP时，我们需要仔细考虑隐藏层的结构和数量，以确保模型能够充分学习到数据中的信息。激活函数的选择与影响：激活函数是MLP中的另一个重要组成部分。它决定了神经元的输出方式以及整个网络的表达能力。不同的激活函数具有不同的性质和特点，因此我们需要根据具体任务的需求来选择合适的激活函数。同时，我们还需要考虑激活函数对模型复杂度的影响以及如何避免过拟合等问题。模型、损失函数及训练过程的实现：在构建MLP时，我们需要定义清晰的模型结构、合适的损失函数以及高效的训练过程。这些元素的共同作用决定了MLP的效能和泛化能力。因此，在实际应用中，我们需要不断尝试和调整这些元素，以找到最佳的组合方案。 VI. 模型选择、欠拟合和过拟合问题在机器学习的世界里，选择合适的模型是一项永恒的挑战。我们需要在欠拟合和过拟合之间找到一个平衡点。欠拟合意味着模型过于简单，无法捕捉数据中的复杂模式；而过拟合则意味着模型过于复杂，容易陷入局部最优解。为了避免这些问题，我们需要深入理解训练误差与泛化误差的关系，并采取恰当的模型选择策略和技术。只有这样，我们才能构建出一个既高效又稳定的机器学习模型。 VII. 高级主题：权重衰减、暂退法（Dropout）、前向传播与反向传播为了提升模型的泛化能力和稳定性，我们可以采用一些高级技术。其中，权重衰减是一种常用的正则化方法，它通过在损失函数中添加一个惩罚项来限制模型的复杂度；而暂退法（Dropout）则是一种随机“丢弃”神经元的方法，它能够有效地减少过拟合现象并提高模型的泛化能力；前向传播和反向传播则是深度学习中最基本的算法之一，它们共同构成了梯度下降法的核心部分。通过掌握这些高级技术，我们能够更好地应对实际应用中的各种挑战并构建出更加优秀的机器学习模型。 VIII. 环境与分布偏移问题在实际应用中，环境和分布偏移可能会对模型的性能造成影响。环境和分布偏移指的是训练数据和测试数据在分布上的差异或变化这会导致模型在新的数据上表现不佳甚至失效。为了解决这个问题我们需要识别并纠正这些偏移问题。具体来说我们可以采用数据增强、领域自适应等技术来缩小训练数据和测试数据之间的差异；同时我们还可以使用集成学习等方法来提高模型的稳定性和鲁棒性。通过这些努力我们能够构建出一个健壮且可靠的机器学习模型来应对实际应用中的各种挑战。 IX. 实战案例：Kaggle房价预测比赛预测房价是深度学习入门的一个经典项目，它不仅能够帮助我们理解深度学习模型的构建和训练过程，还能够通过实际的数据集操作来加深对数据预处理、模型设计、超参数选择等关键步骤的理解。以下是对这一实战项目的归纳和简介，包括代码和步骤。数据集介绍房价预测比赛使用的数据集由Bart de Cock于2011年收集，涵盖了2006-2010年期间亚利桑那州埃姆斯市的房价。这个数据集比波士顿房价数据集要大得多，也有更多的特征，是一个相当通用的数据集。数据预处理数据预处理是机器学习项目中非常重要的一步。在这个项目中，我们需要对数据进行以下预处理：将所有缺失的值替换为相应特征的平均值。通过将特征重新缩放到零均值和单位方差来标准化数据。处理离散值，使用独热编码替换类别特征。模型设计在模型设计阶段，我们首先训练一个带有损失平方的线性模型作为基线模型。然后，我们可以尝试更复杂的模型，如多层感知机（MLP），来提高预测的准确性。超参数选择超参数选择对于模型的性能至关重要。我们可以使用K折交叉验证来选择模型并调整超参数，如学习率、权重衰减、批量大小等。提交预测在训练模型并调整超参数后，我们可以使用所有数据对模型进行训练，并将预测结果保存在CSV文件中，然后提交到Kaggle进行评分。代码实现以下是实现上述步骤的关键代码片段：数据下载和预处理（python） import pandas as pd from d2l import * # 下载并缓存数据 DATA_HUB['kaggle_house_train'] = (DATA_URL + 'kaggle_house_pred_train.csv', '585e9cc93e70b39160e7921475f9bcd7d31219ce') DATA_HUB['kaggle_house_test'] = (DATA_URL + 'kaggle_house_pred_test.csv', 'fa19780a7b011d9b009e8bff8e99922a8ee2eb90') # 使用pandas加载数据 train_data = pd.read_csv(download('kaggle_house_train')) test_data = pd.read_csv(download('kaggle_house_test')) # 数据预处理 numeric_features = all_features.dtypes[all_features.dtypes != 'object'].index all_features[numeric_features] = all_features[numeric_features].apply( lambda x: (x - x.mean()) / (x.std())) all_features[numeric_features] = all_features[numeric_features].fillna(0) all_features = pd.get_dummies(all_features, dummy_na=True) 定义模型（python） from mxnet import gluon, init, np, npx npx.set_np() # 定义模型 def get_net(): net = gluon.nn.Sequential() net.add(gluon.nn.Dense(1)) net.initialize() return net # 定义损失函数 loss = gluon.loss.L2Loss() 训练模型（python） def train(net, train_features, train_labels, test_features, test_labels, num_epochs, learning_rate, weight_decay, batch_size): train_ls, test_ls = [], [] train_iter = d2l.load_array((train_features, train_labels), batch_size) trainer = gluon.Trainer(net.collect_params(), 'adam', { 'learning_rate': learning_rate, 'wd': weight_decay}) for epoch in range(num_epochs): for X, y in train_iter: with autograd.record(): l = loss(net(X), y) l.backward() trainer.step(batch_size) train_ls.append(log_rmse(net, train_features, train_labels)) if test_labels is not None: test_ls.append(log_rmse(net, test_features, test_labels)) return train_ls, test_ls 提交预测（python） def train_and_pred(train_features, test_features, train_labels, test_data, num_epochs, lr, weight_decay, batch_size): net = get_net() train_ls, _ = train(net, train_features, train_labels, None, None, num_epochs, lr, weight_decay, batch_size) preds = net(test_features).asnumpy() test_data['SalePrice'] = pd.Series(preds.reshape(1, -1)[0]) submission = pd.concat([test_data['Id'], test_data['SalePrice']], axis=1) submission.to_csv('submission.csv', index=False) 通过这些步骤和代码，我们可以构建一个基本的房价预测模型，并在Kaggle上提交预测结果。这个项目不仅能够帮助我们理解深度学习的基本概念，还能够通过实际操作来提高我们的数据科学技能。
2024-09-11
回复了主题帖：【MicroPython 物联网】电子版

全英文版吗?会有点吃力哦，找个大模型翻译一下？