数据分析 | 标准化与归一化

标准化归一化是两种常见的数据预处理技术,用于将数值特征转换到相同的尺度上,以提高机器学习模型的性能。以下是对这两种技术
的详细解释及Python代码示例。

1. 标准化(Standardization)

定义
标准化是将数据特征转换为具有均值为0和标准差为1的分布。这是通过减去均值并除以标准差来实现的。公式如下:

Z = X − μ σ Z = \frac{X - \mu}{\sigma} Z=σXμ

其中,(Z) 是标准化值,(X) 是原始值,(\mu) 是均值,(\sigma) 是标准差。

优点

  • 保留了特征的分布形状。
  • 适合处理具有不同单位或量纲的特征。

缺点

  • 不适用在存在异常值的情况下,因为它会对均值和标准差造成影响。

Python示例

import pandas as pd
from sklearn.preprocessing import StandardScaler

# 创建示例数据集
data = pd.DataFrame({
    'feature1': [10, 20, 30, 40, 50],
    'feature2': [100, 200, 300, 400, 500]
})

# 创建标准化对象
scaler = StandardScaler()

# 使用标准化
data_standardized = scaler.fit_transform(data)

# 将结果转换为DataFrame
data_standardized = pd.DataFrame(data_standardized, columns=data.columns)

print("Standardized Data:\n", data_standardized)

输出

Standardized Data:
    feature1  feature2
0 -1.414214 -1.414214
1 -0.707107 -0.707107
2  0.000000  0.000000
3  0.707107  0.707107
4  1.414214  1.414214

解释

  • StandardScaler用于计算数据的均值和标准差,并将特征进行标准化处理。
  • 输出结果中每个特征的均值接近0,标准差接近1。

2. 归一化(Normalization)

定义
归一化是将特征缩放到一个特定的范围,通常是[0, 1]。这可以通过将特征的每个值减去最小值并除以范围(最大值 - 最小值)来实现。公式如下:

X ′ = X − X min X max − X min X' = \frac{X - X_{\text{min}}}{X_{\text{max}} - X_{\text{min}}} X=XmaxXminXXmin

优点

  • 合适于在某个特定范围内的模型(如神经网络)。
  • 能够缩小不同特征的影响,使得它们在模型训练时更为平衡。

缺点

  • 对异常值敏感,异常值可能会影响最大值和最小值,从而影响结果。

Python示例

from sklearn.preprocessing import MinMaxScaler

# 创建示例数据集
data = pd.DataFrame({
    'feature1': [10, 20, 30, 40, 50],
    'feature2': [100, 200, 300, 400, 500]
})

# 创建归一化对象
minmax_scaler = MinMaxScaler()

# 使用归一化
data_normalized = minmax_scaler.fit_transform(data)

# 将结果转换为DataFrame
data_normalized = pd.DataFrame(data_normalized, columns=data.columns)

print("Normalized Data:\n", data_normalized)

输出

Normalized Data:
    feature1  feature2
0  0.00  0.00
1  0.25  0.25
2  0.50  0.50
3  0.75  0.75
4  1.00  1.00

解释

  • MinMaxScaler用于将每个特征缩放到指定的范围(默认是[0, 1])。
  • 输出结果中,feature1feature2的值都被缩放到[0, 1]范围内。

总结

  • 标准化

    • 将特征转换为均值为0,标准差为1的分布。
    • 适用于许多机器学习模型,尤其是对分布形状敏感的模型(如线性回归、支持向量机等)。
  • 归一化

    • 将特征缩放到特定范围(通常是[0, 1])。
    • 更适合在特定范围内进行训练的模型(如神经网络)。

选择标准化或归一化取决于具体的应用场景和所使用的机器学习模型。

上一篇:自动猫砂盆真的有必要入手吗?自用不踩雷的选购干货分享!


下一篇:sqli-labs靶场第八关布尔盲注通关