Machine learning-based detection model for discriminatory information in advertising

Kong Zixiao; Fang Menghao; Zhang Xiaoqia; Wang Yajie; Tang Xiangyun; Xu Yang

doi:10.20172/j.issn.2097-3136.260407

Journal of Cybersecurity >

2026 , Vol. 4 >Issue 2: 90 - 99

DOI: https://doi.org/10.20172/j.issn.2097-3136.260407

Academic Research

Machine learning-based detection model for discriminatory information in advertising

Kong Zixiao ¹ ,
Fang Menghao ^,¹^,* ,
Zhang Xiaoqia ² ,
Wang Yajie ³ ,
Tang Xiangyun ⁴ ,
Xu Yang ⁵

Expand

1. School of Cyber Science and Engineering, University of International Relations, Beijing 100091, China
2. School of Architectural & Artistic Design, Henan Polytechnic University, Jiaozuo 454000, China
3. School of Cyber Science and Technology, Beijing Institute of Technology, Beijing 100080, China
4. School of Information Engineering, Minzu University of China, Beijing 100081, China
5. Institute of Disaster and Emergency Medicine, Tianjin University, Tianjin 300072, China

Online published: 2026-05-29

Copyright

Fold

Abstract

With the deep integration of generative artificial intelligence into advertising content creation and delivery, it not only improves efficiency and personalization but also introduces new and complex risks of discriminatory content. To address the difficulty in identifying potential discriminatory content in advertising images, this paper proposes a novel deep convolutional neural network architecture, termed ResNet-SPP-ResNet. The model integrates dual residual networks (ResNet) with a spatial pyramid pooling (SPP) mechanism to form a symmetric network structure, thereby enhancing multi-scale feature representation. To support model training and evaluation, we constructed a new advertising image dataset, AD-IMAGE-2024, which consists of real-world advertisement samples collected over the past five years, with annotated discriminatory labels and standardized preprocessing. Comparative experiments conducted on this dataset demonstrate that the proposed model achieves superior performance in binary classification tasks, with an accuracy of 0.8374, precision of 0.8222, recall of 0.8295, and an F1-score of 0.8258, outperforming mainstream models such as Transformer, Vision Transformer, and DenseNet. This study not only introduces an effective innovation in network architecture design but also provides a “safety auditor” and “quality inspector” for generative AI outputs, helping to mitigate the generation and dissemination of discriminatory content at the source, and providing important support for the safe and reliable application of generative AI in the field of advertising.

Key words： machine learning; advertising; generative artificial intelligence security; image detection; deep learning

Cite this article

Kong Zixiao , Fang Menghao , Zhang Xiaoqia , Wang Yajie , Tang Xiangyun , Xu Yang . Machine learning-based detection model for discriminatory information in advertising[J]. Journal of Cybersecurity, 2026 , 4(2) : 90 -99 . DOI: 10.20172/j.issn.2097-3136.260407

0 引言

广告图像在现代数字营销中扮演着至关重要的角色，但广告内容可能会带有如种族、性别、年龄等方面的歧视性信息。随着生成式AI技术深度渗透至广告内容创作与投放环节^[1]，其在提升效率与个性化水平的同时，也引入了新型且复杂的歧视性内容风险，对广告的公平性、品牌安全及用户体验构成了严峻挑战。广告作为消费主义文化的典型表现，影响着人们生活的方方面面。广告中的歧视性信息不仅可能引发法律纠纷和伦理争议，还可能对社会道德规范和公共秩序造成负面影响^[2]。因此，识别并消除广告图像中的歧视性内容已成为亟须解决的重要问题^[3]。基于机器学习的技术提供了一种有效的方法来自动检测和标记这些潜在的歧视信息，一方面可使企业在广告推广过程中及时规避不当信息，维护品牌良好形象、保障品牌长期发展；另一方面有利于构建更加公平、包容的广告环境，传递更加积极正向的社会价值观^[4]。其核心价值在于充当生成式人工智能输出内容的“安全校对员”与“质量检查员”，致力于从源头降低歧视内容的产生与扩散，是确保生成式人工智能在广告学领域安全、可靠应用的重要保障。

在广告图像的歧视信息检测中，常见的方法包括图像分类、物体检测和深度学习模型的应用。本文利用机器学习来提取图像特征，并通过分类算法对这些特征进行分析。通过训练集和测试集的反复训练，模型能够学会识别图像中存在的各种偏见信号。

本文提出了基于广告学的歧视信息检测模型，称为ResNet-SPP-ResNet。该模型结合深度学习与模式识别方法，旨在识别和检测图像中的歧视性信息，进而维护网络内容安全。ResNet-SPP-ResNet模型两侧由残差网络（ResNet）^[5]组成，中间由空间金字塔池化（SPP）^[6]层组成。

ResNet-SPP-ResNet结构中，前后ResNet模块与SPP层的结合，使得网络不仅能通过ResNet在局部区域提取特征，还能通过SPP在全局范围内实现多尺度特征融合。这种特征融合有助于捕捉更全面的图像信息。将SPP层嵌入ResNet网络中间层，可使网络在处理多尺度信息时无需改变输入尺寸，也无需增加额外计算复杂度。因此，ResNet-SPP-ResNet在处理复杂视觉任务时，其性能与准确率优于单纯的SPP网络。实验结果表明，模型在AD-IMAGE-2024数据集上表现优异：准确率（accuracy）为0.8374，精确率（precision）为0.8222，召回率（recall）为0.8295，F1值（F1-Score）为0.8258，验证了方案在广告图像歧视信息检测中的有效性与优势。

本文的主要贡献如下。

1）首次明确提出广告学领域歧视信息检测的概念。尽管该概念本质上涵盖文本与图像信息的检测，但目前针对广告中潜在歧视性信息的甄别尚未受到广泛关注。

2）构建了开放获取的广告学歧视图像信息数据集AD-IMAGE-2024^[7]。该数据集旨在为研究人员提供全面、真实且具有挑战性的资源，用于深入研究和分析广告中的图像歧视现象。

3）通过实验证明了方案的有效性。首先，将ResNet-SPP-ResNet与Transformer^[8]、Vision Transformer^[9]、EfficientNet^[10]、DenseNet^[11]等前沿检测模型进行比较，验证本文方案的有效性。其次，将ResNet-SPP-ResNet与其组成模块（ResNet、SPP、SPP-ResNet）进行比较，结果表明，ResNet-SPP-ResNet在分类任务中的性能优于任一单一结构。

1 相关工作

生成式人工智能安全不仅涉及各类显性攻击行为^[12-13]，还包括隐性威胁等非直接性伤害。在数字营销和广告业中，图像是传达品牌信息和吸引消费者的重要工具。然而，广告图像中的歧视性内容，如种族、性别、年龄等方面的偏见，可能导致社会不公、法律风险和品牌形象受损。此类歧视性内容的存在不仅违背道德规范，还可能影响广告效果与受众感知^[14]。

近年来，内容安全与隐私合规逐渐成为人工智能应用中的重要研究方向。朱启瑞等^[15]基于“最小必要原则”，提出了跨用户隐私分享的自动化合规检测方法，为广告内容审核中的数据合规提供了有益参考。同时，张芃芃等^[16]针对深度伪造检测中模型预测置信度不足的问题，引入Deep Ensembles等方法以提升模型校准性，进而增强检测结果的可靠性。这些研究表明，在广告歧视信息检测任务中，除提高识别精度外，还需兼顾隐私保护与模型可信性。

尽管行业内对广告内容的审查日益严格，但广告图像中潜在歧视性信息的自动检测仍是一项具有挑战性的任务。传统人工审查方法往往成本高昂、效率低，难以应对大规模广告图像数据。随着广告投放向自动化、规模化发展，这一问题愈发突出。Choi等^[17]对用于优化定向在线广告的各类机器学习技术进行了调研与分类，验证了机器学习技术应用于广告投放与检测的可行性。Shaqoor等^[18]提出了冗余广告信息过滤方案。

基于机器学习的技术为广告图像歧视信息检测提供了新的解决方案。机器学习算法，特别是深度学习模型，能够通过分析大量数据自动识别图像中的潜在偏见和不当信息。通过对具有多样性和代表性的图像数据集进行训练，这些算法能够学会识别并分类不同类型的歧视信息，进而有效帮助广告主及平台在广告发布前完成筛查与优化。Huang等^[19]提出了一种深度神经网络（DNN）与卷积神经网络（CNN）融合的框架，用于检测含欺诈信息的广告。Wannakan等^[20]提出了一种区分非法与合法视频广告的检测方案，用于检测广告中的非法信息。Phaisangittisagul等^[21]提出了一种促销广告分类模型，用于识别与特定业务或服务相关的促销内容，以满足客户的精准需求。Frissen等^[22]采用机器学习技术识别并分类带有偏见及歧视性的语言，直接解决了招聘吸引阶段的偏见问题。Li等^[23]指出人工智能生成的歧视性与误导性内容（discriminatory and misleading content，DMC），在网络空间中引发了种族歧视、性别歧视、虚假信息传播等诸多负面影响。

深度学习技术在图像检测领域发挥着重要作用，其中，ResNet作为一种关键的深度学习架构，广泛应用于多个领域。其强大的特征提取能力使其在农学、医学、广告学等多个领域取得了显著成果。在农学领域，ResNet被用于作物病害检测与农业图像分析，助力农民实时监控作物健康状况。在医学领域，ResNet在医学影像分析中表现优异，助力疾病早期诊断及个性化治疗方案的制定。此外，在广告学领域，ResNet可用于图像识别与广告内容分析，优化广告投放策略，提升市场营销的精准度与效果。通过这些应用，ResNet不仅推动了技术进步，也带来了实际应用中的显著收益。Zhao等^[24]采用ResNet对视频图像数据库进行检测。Sarwinda等^[25]提出了一种基于ResNet架构的结直肠癌检测图像分类深度学习方法。Zheng等^[26]提出了一种基于ResNet的新型深度学习网络，用于从癌症扫描图像中识别转移性癌细胞。Gao等^[27]采用ResNet图像检测技术，检测小麦中的不健全籽粒。因此，本文选用ResNet作为模型的主要组成部分，用于检测广告图像中的歧视性信息。

然而，实现广告学领域歧视性信息检测仍面临多重挑战，包括数据不平衡、特征复杂性及算法鲁棒性不足等问题。因此，研究基于机器学习的广告图像歧视性信息检测技术，具有重要的理论价值与实际意义。

2 方法

本文提出了一种增强型ResNet-SPP-ResNet模型，该模型两侧由ResNet网络组成，中间由SPP组成。在ResNet-SPP-ResNet网络中，前后的ResNet模块能够有效提取和提炼图像特征，并且在SPP层进行多尺度的特征聚合，从而提升了对不同尺度信息的处理能力。之后本文使用近5年网络中含有歧视的广告图片集^[7]作为训练集，训练ResNet-SPP-ResNet网络。

本文从互联网中提取含有歧视信息的广告图片，经过数据预处理过程后，将这些数据导入前ResNet模块训练ResNet-SPP-ResNet网络。

如图1所示，整体框架由3个模块组成。首先初始卷积层提取图像的底层特征；接着特征图通过前ResNet模块，其中包括多个残差块。每个残差块包含卷积层、批量归一化、ReLU激活函数，并通过跳跃连接将输入和输出相结合；然后前ResNet模块的输出特征图传递给SPP层。SPP层对特征图在不同尺度上进行池化，并将池化后的特征拼接起来形成一个固定长度的特征向量；再将SPP层的输出特征传递给后ResNet模块。后ResNet模块的结构类似于前ResNet模块，包括多个残差块，用于进一步处理和精炼特征；最后将来自后ResNet模块的特征向量传递到全连接层，用于将特征映射至含歧视信息/不含有歧视信息的二分类结果。

显示原图|下载原图ZIP|生成PPT

图 1 总体流程

Fig.1 Overall process

2.1 SPPNet

SPPNet是一种深度学习网络架构，旨在解决传统卷积神经网络处理不同尺寸输入图像时的限制。传统卷积神经网络通常要求输入图像具有固定尺寸，因此需对图像进行裁剪或缩放，这可能导致信息丢失或特征不完整。SPPNet通过引入SPP层，可在不改变输入图像尺寸的前提下，提取多尺度特征，进而生成固定长度的特征向量。

2.2 ResNet

ResNet是一种深度卷积神经网络架构，旨在解决极深网络训练过程中的梯度消失与梯度爆炸问题。该架构由MIT的He等^[5]提出，ResNet引入残差连接即跳跃连接，使网络可学习输入与输出之间的残差函数，而非直接学习完整映射。该设计通过在每个残差块中添加直接跳跃连接，使梯度在网络训练过程中能够更好地传播，进而支持构建更深层次的网络结构。

ResNet的核心是残差块，每个残差块包含两个及以上卷积层，通过直接跳跃连接将输入直接叠加至块的输出。该结构不仅提升了训练的稳定性与效率，还显著提升了网络性能，可支持构建数百层乃至更深的网络。

2.3 ResNet-SPP-ResNet

ResNet-SPP-ResNet是一种专门设计用于检测广告内容中歧视性信息的系统。该模型融合ResNet与SPP技术，旨在通过深度学习算法识别并分析广告中的潜在歧视现象。

ResNet-SPP-ResNet结构利用ResNet的深度残差块有效提取图像特征，处理复杂视觉信息。SPP层则在多尺度上进行池化操作，捕捉并综合广告内容中的不同尺度特征与背景信息。通过该方式，检测模型可在不依赖图像尺寸预处理的前提下，分析广告内容，识别潜在歧视性元素。

2.3.1 ResNet模块

ResNet中的残差块通过引入残差学习，简化深层网络的训练过程。标准残差块的计算公式为：

(1)

$ y=\mathcal F(x,\{{W}_{i}\})+x $

其中，

$ {x} $

是输入特征图。

$ \mathcal{F}({x},\{{W}_{i}\}) $

是通过若干卷积层和其他操作（如批量归一化和激活函数），对输入特征图进行处理后的输出。

$ y $

是残差块的最终输出特征图。

2.3.2 SPP层

SPP层通过在不同尺度上执行池化操作，生成固定长度的特征向量。常用的池化操作包括最大池化与平均池化。假设输入特征图尺寸为H×W，在不同池化尺度下，SPP层的池化操作可表示为：

(2)

$ {{\boldsymbol{v}}}_{{\boldsymbol{i}}}={{{{\mathrm{Pool}}}}}_{{\boldsymbol{i}}}({{x}}) $

其中，

$ {x} $

是输入特征图。

$ {\text{Pool}}_{i} $

表示在第i种尺度上进行的池化操作，如

$ 1\times 1 $

$ 2\times 2 $

$ 4\times 4 $

等。

$ {{{{{\boldsymbol{v}}}}}}_{i} $

是在第i种尺度下池化得到的特征向量。

SPP 层最终输出是将不同尺度下池化得到的特征向量拼接：

(3)

$ {\boldsymbol{V}}_{\text{SPP}}=[{{v}}_{1},{{v}}_{2},\cdots ,{{v}}_{{n}}] $

其中，

$ {\boldsymbol{V}}_{{{\mathrm{SPP}}}} $

是拼接后的固定长度特征向量。

$ n $

是池化尺度的数量。

2.3.3 后ResNet模块

与前ResNet模块类似，后ResNet模块也包含若干残差块，其功能是对SPP层的输出特征进行进一步处理与增强。其计算公式与前ResNet模块一致，可表示为：

(4)

$ {{y}}^{\prime}=\mathcal{F}({{v}}_{\text{SPP}},\{{W}_{{i}}^{\prime}\})+{{{\boldsymbol{v}}}}_{\text{SPP}} $

其中，

$ {{\boldsymbol{v}_{{\mathrm{SPP}}}}} $

是来自SPP层的特征向量。

$ \mathcal{F}(\cdot ,\{W_{i}^{\prime}\}) $

是通过后 ResNet 模块的卷积层等处理的函数。

$ {{\boldsymbol{y}}}^{\prime} $

是模块的最终输出特征图。

最终，固定长度的特征向量经过全连接层和输出层进行分类预测。全连接层的计算公式为：

(5)

$ {{y}}_{\text{FC}}=\text{Sigmoid}\left(\text{ReLU}\left({{W}}_{\text{FC}}\cdot {{{\boldsymbol{V}}}}_{\text{SPP}}+{{b}}_{\text{FC}}\right)\right) $

如果

$ {{y}}_{\text{FC}} $

的值大于0.5，证明该图像不包含歧视信息，反之，若

$ {{y}}_{\text{FC}} $

的值小于0.5，则证明该图像包含歧视信息。

3 实验

本文选取谷歌图像网络数据库图片集作为实验模型的训练集与测试集。随后，本文对数据进行预处理，包括归一化（如将像素值缩放到0~1之间）、数据增强（如旋转、翻转）、去噪（如采用高斯滤波）、裁剪与缩放（调整图像尺寸）及颜色调整（如均值减法）。

所有实验均在同一计算平台上完成，以保证实验结果的公平性与可重复性。实验计算机配置为：Windows 10操作系统、Intel Core i9-12900K CPU、NVIDIA RTX 4070 GPU（12 GB显存）及32 GB内存。模型基于Python 3.10与PyTorch 2.2.0深度学习框架实现。

训练过程中采用Adam优化器，初始学习率设为1×10⁻⁴，且在验证集性能不再提升时进行自适应衰减。批量大小设为2，训练轮数为100。损失函数采用交叉熵损失。为防止过拟合，模型中引入Dropout（p=0.5）与L2正则化。

在对比实验中，所有基线模型（包括Transformer、Vision Transformer、EfficientNet、DenseNet）均在相同训练集与参数条件下训练，以保证实验结果的可比性与公平性。

3.1 数据集

AD-IMAGE-2024^[7]是2024年发布的开放获取型广告学歧视图像信息数据集。该数据集共包含7767张图像，其中，不包含歧视信息的图像3771张、包含歧视信息的图像3996张，数据集大小为1.5GB，可为研究人员提供丰富的图像与特征数据。此外，数据集中的图像均经过标记与注释，包含是否含有歧视信息等关键信息，这有助于研究人员开展准确的图像分析与偏见检测。数据集中，图像编号1-1至1-3771为不包含歧视信息的图像，编号2-1至2-3996为包含歧视信息的图像。

3.2 数据预处理

图像数据预处理是计算机视觉和深度学习中的关键步骤，旨在提升模型性能与训练效率，为模型使用奠定基础。

预处理步骤包括异常值剔除、数据归一化、图像尺寸统一及颜色调整，确保数据质量与模型输入适配。本文采用一组规则剔除异常值，并通过Z-Score方法对数据进行归一化处理。

将图像像素值缩放到标准范围，通常为[0,1]或[−1,1]，本文选用[−1,1]，以保障训练过程中的数值稳定性，计算公式为：

(6)

$ \text{Normalized Pixel=}\frac{\text{Pixel Value}}{255}-1 $

通过减去均值、除以标准差对图像进行标准化处理，使每个通道的像素值具备零均值和单位方差，计算公式为：

(7)

$ \text{Standardized Pixel=}\frac{\text{Pixel Value-Mean}}{\text{Standard Deviation}} $

将图像调整至统一尺寸，以适配网络输入要求；若原始图像尺寸为W×H，缩放后尺寸为W′×H′，缩放公式为：

(8)

$ \mathrm{Resized}\ \mathrm{Image}=\mathrm{Resize}(\mathrm{OriginalImage},({{W}}^{\prime},{{H}}^{\prime})) $

从图像中裁剪出一个固定尺寸的区域，通常用于数据增强或调整图像的中心区域。从W×H的图像中，裁剪出x×y的区域。计算公式如下：

(9)

$ {{\mathrm{Cropped Image}}=} {{\mathrm{Crop(Original Image,}}(x,y),(w,h))} $

最后，对图像进行旋转与翻转处理，以提升模型鲁棒性并丰富数据多样性；旋转角度设为θ，部分图像采用垂直翻转，部分采用水平翻转，计算公式分别为：

(10)

$ {{\mathrm{Rotated\ Image=Rotate}}}\left({{\mathrm{Original Image,}}\theta}\right) $

(11)

$ \text{Flipped Image= Flip(riginal Image,horizontal=True)} $

3.3 评估指标

本文选用图像检测领域常用的评估指标衡量模型性能，包括准确率、精确率、召回率及F1值。准确率是模型正确预测的样本数与总样本数的比值；精确率、召回率分别衡量模型在阳性、阴性类别检测中的准确性（非错误率）。F1值综合了模型的精确度和召回率，是评价模型综合性能的重要指标。通过这些评估指标，本文可以全面评估模型在图像检测方面的有效性，并为模型改进和优化提供重要参考。

3.4 基于广告学的歧视信息检测模型的性能评估

为客观评估本文方法的有效性，本文开展消融实验，验证SPP、ResNet两个组件在ResNet-SPP-ResNet模型中的重要作用。此外，本文还在AD-IMAGE-2024数据集上开展对比实验，将ResNet-SPP-ResNet模型与当前前沿检测模型进行性能比较。实验结果表明，本文提出的模型具有显著优势，具体结果如图2所示。

显示原图|下载原图ZIP|生成PPT

图 2 模型对比实验性能分析

Fig.2 Performance analysis of model comparison experiments

3.4.1 消融实验

表1展示了消融实验的二元分类结果。结果表明，本文提出的方案在准确率、精确率、召回率及F1值上表现最优，分别达到0.8374、0.8222、0.8295和0.8258。相比之下，ResNet及SPP-ResNet的表现也较为出色，而单独使用SPP的模型指标最差，准确率为0.6247，F1值为0.6048。这表明，本文提出的ResNet-SPP-ResNet模型性能优于其任一组成组件。

表 1 消融实验的二元分类结果

Table 1 Binary classification results of the ablation test

算法	准确率	精确率	召回率	F1值
SPP-ResNet	0.8153	0.8058	0.8262	0.8159
SPP	0.6247	0.6110	0.5986	0.6048
ResNet	0.8047	0.8042	0.8020	0.8031
本文	0.8374	0.8222	0.8295	0.8258

3.4.2 对比实验

表2展示了对比实验的二元分类结果，ResNet-SPP-ResNet模型表现突出，准确率达83.74%，在所有对比算法中最高，整体分类准确性最优；其精确率为82.22%，虽略低于Vision Transformer，但仍能保证高水平的正例预测质量；该模型的召回率为82.95%，与精确率基本持平，展现出优异的正例捕捉能力；综合F1值为82.58%，虽略低于Vision Transformer，但该模型实现了精确率与召回率的平衡，在分类性能均衡性上具有显著优势。因此，ResNet-SPP-ResNet模型在准确率、精确率和召回率上均表现优异，提供了最佳的整体分类性能。

表 2 对比实验的二元分类结果

Table 2 Binary classification results of the comparison test

算法	准确率	精确率	召回率	F1值
Transformer	0.7407	0.7288	0.7406	0.7347
Vision Transformer	0.8263	0.8190	0.8316	0.8252
EfficientNet	0.6224	0.5801	0.6913	0.6308
DenseNet	0.7532	0.7953	0.6544	0.7180
本文	0.8374	0.8222	0.8295	0.8258

如图2所示，本文将ResNet-SPP-ResNet模型与Transformer、Vision Transformer、EfficientNet及DenseNet4种模型进行了详细对比分析。实验结果表明，ResNet-SPP-ResNet模型在各项评价指标上均优于上述对比模型。具体而言，ResNet-SPP-ResNet在准确率、查准率、召回率和F1值等关键性能指标上均表现突出，显示出其在处理广告图像中的歧视信息检测任务时的显著优势。Transformer虽在物联网等领域表现较好^[28]，但在广告图像识别任务中性能稍逊。与Transformer及Vision Transformer相比，ResNet-SPP-ResNet的分类精度更高，能够更准确地识别并区分广告图像中的歧视信息。相较于EfficientNet、DenseNet，ResNet-SPP-ResNet在正例识别能力与复杂图像特征处理能力上均更具优势。这表明ResNet-SPP-ResNet模型通过其独特的结构和改进的特性，在检测广告图像中的潜在歧视内容方面具有明显的优势，从而为相关领域的研究和实际应用提供了更为有效的解决方案。

3.4.3 基于FACET数据集的对比试验

为验证模型泛化能力，本文新增基于公开歧视/偏见相关FACET数据集^[29]（imgs_2.tar.gz）的实验，并与ResNet、Vision Transformer、DenseNet等主流模型进行系统对比，结果如表3所示。实验结果表明，本文提出的ResNet-SPP-ResNet模型在不同肤色等级上均表现出稳定且具有竞争力的性能。数据处理过程中，对于个别图像出现多等级肤色投票一致的情况，本文将其分别视为不同等级样本进行处理。基于此处理方式，原始10567张图像的数据集，划分肤色等级后总量为12 390张。在1~9级肤色分类任务中，ResNet-SPP-ResNet模型的平均准确率均优于或接近其他对比模型，进一步验证了其在不同数据分布下的有效性与稳健性。

表 3 FACET数据集基于肤色等级的性别分类结果

Table 3 Result of gender classification based on skin tone levels in the FACET dataset

算法	肤色等级	准确率
ResNet	1	0.6620
	2	0.8084
	3	0.7064
	4	0.8072
	5	0.6952
	6	0.7972
	7	0.8226
	8	0.7656
	9	0.8889
Vision Transformer	1	0.6479
	2	0.7700
	3	0.7295
	4	0.7735
	5	0.7175
	6	0.7722
	7	0.8387
	8	0.7812
	9	0.9333
DenseNet	1	0.5775
	2	0.7822
	3	0.7028
	4	0.7691
	5	0.7333
	6	0.7722
	7	0.8226
	8	0.7812
	9	0.8889
ResNet-SPP- ResNet	1	0.7042
	2	0.8153
	3	0.7331
	4	0.8161
	5	0.7492
	6	0.7722
	7	0.8387
	8	0.8125
	9	0.9556

4 结束语

本文提出了基于ResNet与SPP的ResNet-SPP-ResNet网络，旨在检测广告图像中的歧视性内容。通过在广告图像数据集AD-IMAGE-2024上开展实验，验证了该模型在准确率、精确率、召回率及F1值等关键指标上的优越性能，其中，准确率为0.8374、精确率为0.8222、召回率为0.8295、F1值为0.8258。相较于单独使用ResNet、SPP或二者简单组合的方法，ResNet-SPP-ResNet在多尺度特征表达与判别能力方面均表现出显著提升。

与主流模型相比，ResNet-SPP-ResNet在综合性能上仍具有竞争优势，尤其在复杂视觉语义信息处理方面表现突出，在广告图像歧视信息检测任务中展现出更高的鲁棒性与检测精度。该模型在提升检测性能的同时，也为促进广告内容的公平性与包容性提供了有效的技术支撑。

随着机器学习方法在广告数据分析中的深入应用，用户隐私保护问题日益突出。近年来，已有研究探索将区块链技术、隐私保护推理及差分隐私机制引入深度学习模型，以实现数据可用性与隐私安全的平衡。例如，基于区块链的分布式学习框架、安全多方神经网络推理方法及基于本地差分隐私的推荐模型等，均为敏感数据场景下的模型应用提供了新的解决思路。因此，未来研究中，有必要将隐私保护机制（如联邦学习、安全多方计算、差分隐私等）与广告歧视检测模型相结合，在保障用户数据安全的前提下，提升模型性能与可部署性。

从实际应用角度而言，本文提出的ResNet-SPP-ResNet模型具备良好的工程部署潜力。在真实广告审核系统中，该模型可嵌入内容审核流程，应用于广告发布前的自动筛选环节，对图像内容进行实时或准实时检测，进而及时识别潜在歧视性信息。具体地，模型可部署于云端或边缘计算平台，与广告投放系统、内容管理系统及推荐系统相结合，实现对广告素材的批量审核与动态监测。同时，通过与人工审核机制协同，可构建“机器初筛 + 人工复核”的双重审核体系，在提升审核效率的同时保证结果的可靠性与可解释性。未来还可进一步优化模型的推理效率与轻量化设计，以满足高并发场景下的实时检测需求，并结合在线学习机制实现模型的持续更新，从而更好地适应不断变化的广告内容生态。

总体而言，ResNet-SPP-ResNet模型为广告图像中的歧视信息检测提供了一种有效方法，并为相关研究与实际应用奠定了基础。未来工作可进一步提升模型的泛化能力，扩展多模态数据集，并探索结合隐私保护机制与人机协同审核的智能系统，以构建更加安全、可靠和可持续发展的数字广告生态。

References

Publishing order | Descend order by publishing year | Descend order by cited within

1	Shah N, Engineer S, Bhagat N, et al. Research trends on the usage of machine learning and artificial intelligence in advertising[J]. Augmented Human Research, 2020, 5, 19. DOI

2	Datta A, Datta A, Makagon J, et al. Discrimination in online advertising: a multidisciplinary inquiry[C]//Conference on Fairness, Accountability and Transparency. PMLR, 2018: 20-34.

3	Dalenberg D J. Preventing discrimination in the automated targeting of job advertisements[J]. Computer Law & Security Review, 2018, 34 (3): 615- 627. DOI

4	Friedmann E, Solodoha E, Loureiro S M C, et al. Disidentification: the long-term effects of offensive-discriminatory advertising[J]. Psychology & Marketing, 2025, 42 (11): 2767- 2788.

5	He K M, Zhang X Y, Ren S Q, et al. Deep residual learning for image recognition[C]//Proceedings of the 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Piscataway: IEEE Press, 2016: 770-778.

6	He K M, Zhang X Y, Ren S Q, et al. Spatial pyramid pooling in deep convolutional networks for visual recognition[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2015, 37 (9): 1904- 1916. DOI

7	Github[EB/OL].[2025-12-10]https://github.com/poshangcun13/AD-IMAGE-2024.git.

8	Vaswani A, Shazeer N, Parmar N, et al. Attention is all you need[PP/OL]. V7. arXiv (2023-08-02)[2024-08-25]. https://doi.org/10.48550/arXiv.1706.03762.

9	Dosovitskiy A, Beyer L, Kolesnikov A, et al. An image is worth 16×16 words: transformers for image recognition at scale[PP/OL]. V2. arXiv (2021-06-03)[2024-08-25]. https://doi.org/10.48550/arXiv.2010.11929.

10	Tan M X, Le Q V. EfficientNet: rethinking model scaling for convolutional neural networks[PP/OL]. V5. arXiv (2020-09-11)[2024-08-25]. https://doi.org/10.48550/arXiv.1905.11946.

11	Huang G, Liu Z, Van D M, et al. Densely connected convolutional networks[C]//Proceedings of the 2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Piscataway: IEEE Press, 2017: 2261-2269.

12	金增旺, 江令洋, 丁俊怡, 等. 工业控制系统安全研究综述[J]. 信息网络安全, 2025, 25 (3): 341- 363. DOI Jin Z W, Jiang L Y, Ding J Y, et al. A review of research on industrial control system security[J]. Netinfo Security, 2025, 25 (3): 341- 363. DOI

13	陈红松, 刘新蕊, 陶子美, 等. 基于深度学习的时序数据异常检测研究综述[J]. 信息网络安全, 2025, 25 (3): 364- 391. Chen H S, Liu X R, Tao Z M, et al. A survey of anomaly detection model for time series data based on deep learning[J]. Netinfo Security, 2025, 25 (3): 364- 391.

14	Tariq M, Khan M A. Offensive advertising: a religion based Indian study[J]. Journal of Islamic Marketing, 2017, 8 (4): 656- 668. DOI

15	朱启瑞, 陈荣华, 杨哲慜, 等. 移动社交应用跨用户隐私分享行为的最小必要合规检测方法[J]. 网络空间安全科学学报, 2024, 2 (3): 3- 12. Zhu Q R, Chen R H, Yang Z M, et al. Inspection method of data minimization compliance for cross-user privacy sharing behavior in mobile social applications[J]. Journal of Cybersecurity, 2024, 2 (3): 3- 12.

16	张芃芃, 宋宗泽, 彭勃, 等. 面向人脸深度伪造检测模型的校准性评测[J]. 网络空间安全科学学报, 2023, 1 (3): 97- 106. Zhang P P, Song Z Z, Peng B, et al. Calibration evaluation of models oriented to deepfake detection[J]. Journal of Cybersecurity, 2023, 1 (3): 97- 106.

17	Choi J A, Lim K. Identifying machine learning techniques for classification of target advertising[J]. ICT Express, 2020, 6 (3): 175- 180. DOI

18	Shaqoor N A, Kuppusamy K S. Machine learning based heterogeneous web advertisements detection using a diverse feature set[J]. Future Generation Computer Systems, 2018, 89, 68- 77. DOI

19	Huang T H, Yu C M, Kao H Y. Data-driven and deep learning methodology for deceptive advertising and phone scams detection[C]//Proceedings of the 2017 Conference on Technologies and Applications of Artificial Intelligence (TAAI). Piscataway: IEEE Press, 2017: 166-171.

20	Wannakan N, Lertnattee V. Using machine learning for detection of illegal food advertising text[D]. Thailand: Silpakorn University, 2020.

Phaisangittisagul E, Koobkrabee Y, Wirojborisuth K, et al. Target advertising classification using combination of deep learning and text model[C]//Proceedings of the 2019 10th International Conference of Information and Communication Technology for Embedded Systems (IC-ICTES). Piscataway: IEEE Press, 2019: 1-4.

22	Frissen R, Adebayo K J, Nanda R. A machine learning approach to recognize bias and discrimination in job advertisements[J]. AI & Society, 2023, 38 (2): 1025- 1038. DOI

23	Li Z, Zhang W Y, Zhang H T, et al. Global digital compact: a mechanism for the governance of online discriminatory and misleading content generation[J]. International Journal of Human–Computer Interaction, 2025, 41 (2): 1381- 1396. DOI

24	Zhao J D, Lei W, Li Z J, et al. Detection of crowdedness in bus compartments based on ResNet algorithm and video images[J]. Multimedia Tools and Applications, 2022, 81 (4): 4753- 4780. DOI

25	Sarwinda D, Paradisa R H, Bustamam A, et al. Deep learning in image classification using residual network （ResNet） variants for detection of colorectal cancer[J]. Procedia Computer Science, 2021, 179, 423- 431. DOI

26	Zheng Z, Zhang H, Li X J, et al. ResNet-based model for cancer detection[C]//Proceedings of the 2021 IEEE International Conference on Consumer Electronics and Computer Engineering (ICCECE). Piscataway: IEEE Press, 2021: 325-328.

27	Gao H, Zhen T, Li Z H. Detection of wheat unsound kernels based on improved ResNet[J]. IEEE Access, 2022, 10, 20092- 20101. DOI

28	邢长友, 王梓澎, 张国敏, 等. 基于预训练Transformers的物联网设备识别方法[J]. 信息网络安全, 2024, 24 (8): 1277- 1290. DOI Xing C Y, Wang Z P, Zhang G M, et al. IoT device identification method based on pre-trained transformers[J]. Netinfo Security, 2024, 24 (8): 1277- 1290. DOI

29	Gustafson L, Rolland C, Ravi N, et al. FACET: fairness in computer vision evaluation benchmark[C]//Proceedings of the 2023 IEEE/CVF International Conference on Computer Vision (ICCV). Piscataway: IEEE Press, 2023: 20313-20325.

Options

Outlines

模态框（Modal）标题