Python案例如何用Scikit-learn做多标签分类

wen python案例 2026-07-16 1

Python案例详解如何用Scikit-learn做多标签分类

目录导读

什么是多标签分类？与多分类的区别
环境准备与核心库安装
数据准备：构建多标签数据集
模型选择与策略：OneVsRest与链式分类
完整实战案例：文本+图像标签预测
模型评估：不只是准确率
常见问题与优化技巧
FAQ：多标签分类高频问答

多标签分类在现实场景中占比极高——一张图片可能同时包含“猫”与“草地”，一篇新闻可能标注“科技”与“国际”，本文通过完整Python案例，手把手教你用Scikit-learn解决这类问题。

什么是多标签分类？与多分类的区别

多分类：每个样本只有一个标签（如数字0-9）。 多标签分类：每个样本可以有多个标签（如电影《泰坦尼克号》同时标记为“爱情”、“灾难”、“剧情”）。

问答Q1：多标签分类为什么不能直接用多分类模型？
A：多分类模型输出是互斥的softmax概率，而多标签需要每个标签独立输出0/1，Scikit-learn通过OneVsRest策略为每个标签训练独立二分类器,最终输出所有标签的预测结果。

环境准备与核心库安装

pip install scikit-learn numpy pandas matplotlib

核心库说明：

sklearn.multiclass.OneVsRestClassifier：多标签分类核心封装器
sklearn.metrics.accuracy_score：需要调整用法评估多标签
sklearn.preprocessing.MultiLabelBinarizer：将标签转化为二进制矩阵

数据准备：构建多标签数据集

我们用一个虚拟的 视频标签案例：每段视频可同时属于“搞笑”、“教程”、“音乐”中的多个门类。

from sklearn.preprocessing import MultiLabelBinarizer
# 原始标签：每个样本标签列表
y_raw = [
    ['搞笑', '音乐'],
    ['教程'],
    ['音乐', '教程', '搞笑'],
    ['音乐'],
]
mlb = MultiLabelBinarizer()
y = mlb.fit_transform(y_raw)
# y输出为：[[1 0 1], [0 1 0], [1 1 1], [0 0 1]]
# 列顺序：['搞笑','教程','音乐']

问答Q2：MultiLabelBinarizer与OneHotEncoder有何区别？
A：OneHotEncoder用于单标签多分类（每行只有一个1），MultiLabelBinarizer允许每行多个1,且自动对齐标签顺序。

模型选择与策略：OneVsRest与链式分类

1 OneVsRestClassifier（最常用）

为每个标签训练一个独立的二分类器（逻辑回归、SVM等）,预测时同时运行所有分类器。

from sklearn.multiclass import OneVsRestClassifier
from sklearn.linear_model import LogisticRegression
model = OneVsRestClassifier(LogisticRegression(max_iter=1000))

2 ClassifierChain（进阶）

将上一个标签的预测结果作为下一个标签的特征,捕捉标签间依赖关系。

from sklearn.multioutput import ClassifierChain
base = LogisticRegression()
chain = ClassifierChain(base)
chain.fit(X, y)

完整实战案例：文本+图像标签预测

构建一个模拟数据集——视频描述文本的特征向量。

import numpy as np
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.model_selection import train_test_split
# 模拟文字特征
texts = [
    "搞笑短剧 音乐伴奏",
    "编程教程 基础语法",
    "搞笑教学 吉他弹唱",
    "纯音乐 放松",
]
# 原始标签（已在上文定义y_raw）
# 文本向量化
vectorizer = TfidfVectorizer()
X = vectorizer.fit_transform(texts)
# 拆分训练测试
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.25, random_state=42
)
# 训练
model = OneVsRestClassifier(LogisticRegression())
model.fit(X_train, y_train)
# 预测新文本
new_text = ["搞笑音乐教程"]
X_new = vectorizer.transform(new_text)
pred = model.predict(X_new)
print("预测标签:", mlb.inverse_transform(pred))  
# 输出：[('搞笑', '教程', '音乐')]

模型评估：不只是准确率

多标签评估不能用普通准确率（只有完全匹配才正确）。

from sklearn.metrics import hamming_loss, f1_score, jaccard_score
y_pred = model.predict(X_test)
# 汉明损失：平均错误标签比例（越低越好）
print("Hamming Loss:", hamming_loss(y_test, y_pred))
# 宏平均F1：每个标签F1的平均值
print("Macro F1:", f1_score(y_test, y_pred, average='macro'))
# 杰卡德相似系数（标签集合交并比）
print("Jaccard:", jaccard_score(y_test, y_pred, average='samples'))

知识点：average='samples'对每个样本计算后再取平均,最符合多标签业务需求。

常见问题与优化技巧

问题1：标签极度不均衡

解决方案：对每个标签单独设置class_weight='balanced'

pipe = OneVsRestClassifier(LogisticRegression(class_weight='balanced'))

问题2：阈值调整

默认预测阈值0.5，但有些标签敏感度不同,可获取概率后手动调阈值。

probs = model.predict_proba(X_test)  # 返回每个标签的概率
pred_custom = (probs > 0.7).astype(int)   # 提高阈值降低假阳

问题3：大规模多标签

使用sklearn.multiclass.OneVsRestClassifier + SGDClassifier（线性模型）提高速度。
或采用sklearn.multioutput.MultiOutputClassifier配合决策树。

FAQ：多标签分类高频问答

Q3：多标签与多输出回归有何区别？
A：多输出回归预测连续值（如房价、气温）；多标签预测离散类别（0/1）。

Q4：Scikit-learn支持深度神经网络多标签吗？
A：原生不支持，但可以用sklearn.neural_network.MLPClassifier配合OneVsRest，或者直接使用TensorFlow/PyTorch（输出层用sigmoid + binary_crossentropy）。

Q5：如何处理数据集中标签缺失（未标注）？
A：用MultiLabelBinarizer时，仅将已知标签标记为1，未知标签统一置0，若标签部分缺失较多,可考虑半监督学习或标签幂律修正。

Q6：模型预测出空标签（一个都没预测出来）怎么办？
A：检查阈值是否过高；或者在预测逻辑中加入“强制至少一个标签”的后处理：对概率最大的标签设为1。

Q7：直接使用随机森林支持多标签吗？
A：sklearn.ensemble.RandomForestClassifier原生支持多标签输出（多输出），调用model.predict可直接返回二维数组。

多标签分类在文档分类、推荐系统、医疗诊断中无处不在，本文通过 数据准备 → 模型选择 → 评估 → 优化 的完整路径，展示了Scikit-learn的优雅解决方案,核心要点：