样本数据预处理-标准化(归一化)

机器学习

由于纯属基本概念，本笔记拷贝自chatgpt总结(正确与否需自行辨别)，便于复习

一.数据标准化（归一化处理）的目的是什么

数据标准化（或归一化处理）是数据预处理中一个非常重要的步骤，特别是在机器学习和统计分析中。其目的主要包括以下几个方面：

1.1 统一量纲

• 不同特征可能具有不同的量纲（单位）和量级：
  • 比如一个数据集中的一个特征是年龄（可能在 0-100 之间），另一个特征是收入（可能在几千到几百万之间）。这种量级的差异会导致一些算法（如梯度下降算法）在优化过程中产生偏差。
• 标准化使得所有特征具有相同的量级：
  • 标准化将每个特征的值调整到一个共同的尺度，通常使其均值为 0，标准差为 1（或在特定范围内，如 0 到 1）。

1.2 提高模型训练的效率和性能

• 加速收敛：
  • 对于梯度下降法等基于迭代的优化算法，特征的不同量级会导致模型在训练过程中更新步伐不一致。标准化可以使得梯度下降法更快收敛。
• 避免数值不稳定性：
  • 大量级的特征值在计算过程中容易导致数值不稳定，进而影响模型的精度。标准化可以有效避免这些问题。

1.3 提高模型性能

• 提升算法的表现：
  • 一些机器学习算法（如 K 近邻、支持向量机等）对数据的量级敏感。标准化可以使这些算法更好地理解数据的分布和相对关系。
• 防止某些特征对模型产生过大影响：
  • 标准化确保每个特征对模型的贡献在同一量级，不会因为量级差异导致某些特征对模型产生过大影响。

1.4 增强可解释性

• 特征贡献的可解释性：
  • 通过标准化处理，不同特征之间的贡献可以更清晰地比较，使模型的解释性更强。

二.常用的标准化方法

1. z-score 标准化（零均值归一化）：
   • 其中 ( \mu ) 是特征的均值，( \sigma ) 是特征的标准差。标准化后的数据均值为 0，标准差为 1。
2. Min-Max 归一化：
   • 将数据缩放到 [0, 1] 区间。
3. 最大绝对值标准化：
   • 将数据缩放到 [-1, 1] 区间。

三.具体示例

以下是使用 StandardScaler 进行 z-score 标准化的示例：

import numpy as np
from sklearn.preprocessing import StandardScaler

# 生成示例数据
data = np.array([[1, 2, 3],
                 [4, 5, 6],
                 [7, 8, 9]])

# 创建 StandardScaler 对象
scaler = StandardScaler()

# 进行标准化处理
data_normalized = scaler.fit_transform(data)

print("原始数据：")
print(data)
print("标准化后的数据：")
print(data_normalized)

本站文章除注明转载/出处外，均为本站原创或翻译，转载前请务必署名,转载请标明出处
最后编辑时间为: 2024/08/04 00:50