机器学习基本概念,Numpy,matplotlib和张量Tensor知识进一步学习

机器学习一些基本概念:

监督学习

监督学习是机器学习中最常见的形式之一,它涉及到使用带标签的数据集来训练模型。这意味着每条训练数据都包含输入特征对应的输出标签。目标是让模型学会从输入到输出的映射,这样当给出新的未见过的输入时,模型可以做出准确的预测。

例子
  • 分类问题(如垃圾邮件检测,识别邮件是否为垃圾邮件)
  • 回归问题(如房价预测,预测连续值)

非监督学习

非监督学习用于没有标签的数据集,即只包含输入特征而没有对应的输出标签。目标通常是发现数据中的结构或模式,例如分组(聚类)或找到数据的低维度表示(降维)。

例子
  • 聚类(如顾客细分,将顾客分组)
  • 降维(如PCA,用于数据可视化或预处理)

强化学习

强化学习是另一种学习形式,其中智能体(agent)在一个环境中学习如何采取行动以最大化某种累积奖励。智能体与环境交互,执行动作,然后基于反馈(奖励或惩罚)调整其策略。

例子
  • 游戏玩家(如AlphaGo,下围棋)
  • 自动驾驶汽车(学习如何在道路上导航)

其他学习类型

除了上述三种主要的学习类型,还有其他的学习方法,例如:

  • 半监督学习:结合少量有标签数据和大量无标签数据来改善学习模型的性能。
  • 迁移学习:利用从一个领域学到的知识去解决另一个相关领域的问题。
  • 在线学习:模型在实时接收数据的同时进行学习,持续更新模型以适应新数据。

应用场景

这些学习方法在多个领域有广泛应用,比如计算机视觉、自然语言处理、推荐系统、生物信息学、金融分析等等。

Numpy

介绍:

这是一个强大的库,提供了大量的数学函数以及多维数组和矩阵运算的支持。它是许多其他科学计算库的基础,如Scipy、Pandas和Matplotlib。在深度学习中,Numpy常用于数据预处理和后处理。

具体代码:

矩阵转置:

import numpy as np
matrix=np.array([[9,3,2],[2,4,5],[8,7,9]])
transposed_matrix=matrix.T
print("Original Matrix:")
print(matrix)
print("\nTransposed Matrix:")
print(transposed_matrix)

matplotlib

介绍:这是一个绘图库,可以生成各种静态、动态、交互式的可视化图表。在数据分析和机器学习中,Matplotlib被用来可视化数据和模型的表现,帮助理解和调试。

具体代码:

import matplotlib.pyplot as plt
import numpy as np

# 创建x值,这里使用numpy的linspace函数生成从0到10的50个均匀间隔的点
x = np.linspace(0, 10, 50)

# 根据x值计算对应的y值
y = 2 * x + 1

# 使用matplotlib绘制图形
plt.figure()  # 创建一个新的figure窗口
plt.plot(x, y, label='y = 2x + 1')  # 绘制x和y的线性关系
plt.title('Simple Linear Plot')  # 设置图形标题
plt.xlabel('x-axis')  # 设置x轴标签
plt.ylabel('y-axis')  # 设置y轴标签
plt.legend()  # 显示图例
plt.grid(True)  # 显示网格
plt.show()  # 展示图形

张量Tensor

当我们谈论机器学习和神经网络时,张量(Tensor)是一个非常重要的概念。理解张量对于理解神经网络如何处理和操作数据至关重要。让我来详细解释张量的相关知识。

张量的基本概念

  1. 张量是什么?

    • 在计算机科学和数学中,张量是多维数组的泛化。在PyTorch、TensorFlow等机器学习框架中,张量是这些框架中用于表示和操作数据的基本数据结构。它可以是一个标量(零维张量)、向量(一维张量)、矩阵(二维张量),甚至更高维的数据结构。
  2. 张量在神经网络中的作用

    • 数据存储和处理: 张量是神经网络处理数据的基本单位。神经网络的输入、输出、中间层的数据都以张量的形式存在。例如,一张彩色图像可以表示为一个三维张量,包括宽度、高度和RGB通道。
    • 加速计算: 张量的结构使得现代硬件(如GPU)能够高效地并行计算,从而加速神经网络的训练和推断过程。
    • 自动微分: 张量不仅仅是数据容器,还支持自动微分。这意味着在神经网络的反向传播过程中,张量可以追踪和记录梯度信息,帮助优化器更新模型参数。

张量的常见操作

  • 创建张量: 可以通过构造函数或特定的库函数(如PyTorch中的torch.tensor())来创建张量,初始化为特定的值或随机数。

  • 索引和切片: 可以像操作数组一样,在张量中获取特定位置的值或切片。

  • 数学运算: 张量支持各种数学运算,包括加法、乘法、矩阵乘法等。这些运算是神经网络的基础,用于权重更新和激活函数应用等。

  • 形状变换: 可以改变张量的形状,例如从一个三维张量变为二维,或者反之,这在神经网络的不同层之间传递数据时非常常见。

代码示例: 

1.创建张量
  • 使用torch.Tensor()从数据中创建张量。 
    import torch
    
    # 从列表创建张量
    tensor_data = [1, 2, 3, 4, 5]
    t = torch.Tensor(tensor_data)
    print(t)
    

  • 使用torch.arange()创建等差张量。
    # 创建等差张量
    t = torch.arange(1, 10, 2)
    print(t)
    

  • 使用torch.zeros()torch.ones()创建全零张量和全一张量。
    # 创建全零张量和全一张量
    zeros_tensor = torch.zeros(3, 3)
    ones_tensor = torch.ones(2, 2)
    print(zeros_tensor)
    print(ones_tensor)
    

2.张量的基本操作
  • 索引和切片:使用索引和切片访问和操作张量中的元素。
    t = torch.Tensor([1, 2, 3, 4, 5])
    
    # 索引操作
    print(t[0])  # 访问第一个元素
    print(t[2:4])  # 切片操作,获取第3到第4个元素
    
    # 修改元素值
    t[1] = 10
    print(t)
    

  • 张量运算:支持各种数学运算
    t1 = torch.Tensor([1, 2, 3])
    t2 = torch.Tensor([4, 5, 6])
    
    # 加法
    print(t1 + t2)
    
    # 矩阵乘法
    matrix1 = torch.Tensor([[1, 2], [3, 4]])
    matrix2 = torch.Tensor([[5, 6], [7, 8]])
    print(torch.matmul(matrix1, matrix2))
    
    # 创建一个示例矩阵
    A = torch.tensor([[1, 2, 3],
                      [4, 5, 6]])
    
    # 使用transpose方法进行转置操作
    A_transposed = A.transpose(0, 1)  # 0和1表示维度的索引,即行和列的索引
    
    print("原始矩阵 A:")
    print(A)
    
    print("\n转置后的矩阵 A_transposed:")
    print(A_transposed)
    

  • 形状操作:改变张量的形状
    t = torch.arange(1, 10)
    reshaped_t = t.view(3, 3)  # 改变形状为3x3
    print(reshaped_t)
    

4.高级操作: 

  • 自动求导:张量可以跟踪其计算历史,支持自动求导。
    import torch
    
    # 创建一个张量并设置requires_grad=True来启用自动求导
    x = torch.tensor([2.0], requires_grad=True)
    
    # 定义计算图
    y = x**2 + 5*x
    
    # 自动计算梯度
    y.backward()
    
    # 打印出x的梯度
    print(x.grad)
    

  • GPU加速:可以将张量移动到GPU上加速计算。
    if torch.cuda.is_available():
        device = torch.device("cuda")
        t = torch.Tensor([1, 2, 3]).to(device)
        print(t)
    

部分运行结果

在神经网络中的应用示例

考虑一个简单的卷积神经网络(CNN)用于识别图像中的数字(如X和O):

  • 输入数据表示: 图像数据通常以张量的形式输入神经网络。一张256x256像素的彩色图像可以表示为一个形状为 [3, 256, 256] 的张量,其中3表示RGB通道数。

  • 网络参数表示: 神经网络的权重和偏置也是以张量的形式存储和更新的。这些参数张量的维度和形状决定了神经网络的结构和复杂度。

  • 计算过程: 在前向传播过程中,输入张量经过一系列层级的变换和激活函数应用,生成输出张量。这些过程中的数学运算和数据传递都是通过张量完成的。

总结

张量在神经网络中扮演了不可或缺的角色,它们不仅是数据的容器,还是神经网络操作和优化的核心。

上一篇:Go语言详细教程


下一篇:Python 潮流周刊第 2 季完结了,分享几项总结