选题：智能垃圾分类系统——模型搭建

08060902李竹语

基于EfficientNet和大模型的智能垃圾分类系统——模型搭建

08060902李竹语

本周，我做了文献查阅工作，具体如下：
1、【题名】基于深度学习的垃圾分类检测方法
【作者】王小燕，谢文昊，杨艺芳，胡瑞
【单位】西安石油大学理学院，长庆油田第八采油厂
【刊名】现代电子技术. 2021,44(21)
【摘要】针对现有垃圾分类不清、人工检测难度大、环境差、容易出错等情况,研究了基于深度学习的垃圾分类检测方法。分别提出了基于YOLOv3、RetinaNet和Faster RCNN的垃圾分类识别方法,制作了所用的数据集（训练集和测试集）。搭建了基于三种方法的垃圾分类识别的实验平台,并设计了实验,使用制作好的垃圾训练集进行多次不同参数下的训练,在不同分类的垃圾测试集上进行多次测试。对训练过程和测试结果进行综合分析和比较,得到Faster RCNN算法有更高的可靠性和准确性,检测速度满足系统要求,RetinaNet算法效果较好,YOLOv3算法效果最弱。因此采用基于Faster RCNN的垃圾分类识别算法,很好地满足了垃圾异物识别模型的开发,实现了垃圾分类检测。

2、论文名称：基于深度卷积神经网络的生活垃圾分类方法研究
作者：张文博                        学科专业：计算机科学与技术
导师：朱参世; 惠晓滨;                学位授予单位：西京学院
学位级别：硕士                      学位年度：2022
摘    要：本文的主要研究内容包括:（1）构建垃圾分类数据集,数据集来源:由华为公司举办的垃圾分类大赛上提供的公开数据集;通过爬虫技术爬取图像,剔除不符合要求的垃圾图像;选取一些常见的垃圾图片进行手动标记的目标检测数据集。本文将垃圾图像分为厨余、有害、可回收和其他垃圾四大类。（2）针对垃圾分类问题,研究了Res Net和Efficient Net两种图像分类模型,对模型参数进行微调并重建全连接层,采用迁移学习方法对两种模型进行实验分析,通过实验验证,发现主要存在图像特征提取不足和不能多物体分类问题,对垃圾图像分类在准确率和速度上存在一定影响。（3）针对上述模型问题,提出了一种基于注意力机制的垃圾分类模型,通过引入注意力机制对模型进行改进,并选定Res Net50+CBAM作为目标检测模型的主干网络,经过实验验证了垃圾分类模型在分类准确率和速度上有所提升,达到了设计预期目标。通过实验将上述模型结果进行对比,实验结果表明:基于注意力机制的垃圾分类模型,在分类结果上更加符合自动化发展需求,在保证准确率的同时可以满足实时性的要求。

3、论文名称：基于深度学习的垃圾图像分类方法研究
作者：李康                           学科专业：计算机科学与技术
导师：加云岗; 张二虎; 王志晓;         学位授予单位：西安工程大学
学科级别：硕士                       学位年度：2022
摘    要：文中首先回顾了当前图像分类和垃圾分类的研究进展,以及常见的图像分类模型。其次,引入迁移学习改进了残差网络（ResidualNetwork）模型,将注意力机制模块ECANet（Efficient Channel AttentionNetwork）与残差网络ResNet101模型相融合,提出一种新的网络模型ResNet-ECA,用于提高垃圾图像特征的细节提取能力。然后,利用两个现有的垃圾图像数据集进行了模型验证。实验结果表明,所提出的ResNet-ECA模型可以提升垃圾图像分类的准确性,并有效加快垃圾分类任务,识别正确率在90%以上。最后,利用Gradio框架开发了一个垃圾图像分类的原型系统。本文的研究成果将能够为基于机器视觉的垃圾图像分类方法的研究与实践,以及Gradio框架在垃圾分类任务上的应用提供有价值的参考和借鉴。

4、Title: An Automatic Garbage Classification System Based on Deep Learning
Author(s): ZHUANG KANG, JIE YANG, GUILAN LI, AND ZEYI ZHANG
Affiliations: School of Electrical Engineering and Automation, Jiangxi University of Science and Technology, Ganzhou 341000, China
Source: ACCESS.2020,3010496
Abstract: Garbage classification has always been an important issue in environmental protection, resource recycling and social livelihood. In order to improve the efficiency of front-end garbage collection, an automatic garbage classification system is proposed based on deep learning. Firstly, the overall system of the garbage bin is designed, including the hardware structure and the mobile app. Secondly, the proposed garbage classification algorithm is based on ResNet-34 algorithm, and its network structure is further optimized by three aspects, including the multi feature fusion of input images, the feature reuse of the residual unit, and the design of a new activation function. Finally, the superiority of the proposed classification algorithm is verified with the constructed garbage data. The classification accuracy of the proposed algorithm is enhanced by 1.01%. The experimental results show that the classification accuracy is as high as 99%, the classification cycle of the system is as quick as 0.95s.

5、Title: Using YOLOv5 for Garbage Classification
Author(s): Ziliang Wua, Duo Zhanga, Yanhua Shaoa, Xiaoqiang Zhanga,Xingping Zhanga,  Yupei Fenga, Peng Cui
Affiliations: School of Information Engineering, Southwest University of Science and Technology, Mianyang, China. Engineering Research Center, Southwest University of Science and Technology, Mianyang, China.
Source: 2021 4th International Conference on Pattern Recognition and Artificial Intelligence (PRAI)
Abstract: At present, people's daily garbage is increasing day by day. How to intelligently classify garbage can save manpower and improve work efficiency. In this paper, a garbage classification model based on YOLOv5 object detection network named GC-YOLOv5 is designed. First, according to the common daily garbage category, five typical kinds of garbage were selected, data cleaned, labeled, and constructed a garbage dataset. Second, the GC-YOLOv5 was built and trained on our datasets. Third, in view of the convenience of multi-terminal access in the cloud and the reduction of computing pressure on edge devices, we deploy the garbage classification model in the cloud. The experimental results show that GC-YOLOv5 can accurately identify the garbage's types and find out the location of garbage.

文献1通过对比，得到 Faster RCNN 算法有更高的可靠性和准确性，检测速度满足系统要求，RetinaNet 算法效果较好，YOLOv3 算法效果最弱的结论。但该查新项目是一个与这些模型不同的网络模型。文献2构建垃圾分类数据集,对ResNet以及EfficientNet进行研究，找出不足，并且选出ResNet + CBAM的网络方法，使其在准确度及速度上有所提升。但该查新项目以EfficientNet为主要研究改进对象。文献3提出一种新的网络模型ResNet - ECA，提高了准确度。并且利用Gradio框架开发一个垃圾分类原型系统。文献15设计了垃圾桶的整体系统，包括硬件结构和移动应用程序。其次，所提出的垃圾分类算法基于ResNet-34算法，并从输入图像的多特征融合、残差单元的特征重用和新的激活函数的设计三个方面进一步优化了其网络结构。文献16主要研究基于GC-YOLOv5模型并在云中部署的垃圾分类。

08060902李竹语

本周，我进行了数据集的收集、处理与清洗。将数据集分为四个大类别，对应社会推行的四种分类垃圾。其中每一类细分了各种常见垃圾，共100种，共有41819张图片，100个类别，用于训练模型。训练集有33518张，测试集有4130张，验证集有4171张照片。在数据预处理阶段，我们需要将图像进行统一处理，使其标准归一化，再对图像进行数据增强。

08060902李竹语

本周，我对efficientNet网络结构进行了了解。EfficientNet网络共有8种模型结构，其中EfficientNet-B5的网络结构如表4所示，总计18层。网络内部如图1所示采用倒置瓶颈模块MBConv块堆叠。MBConv块由1×1的卷积、批归一化层(batch normalization, BN)、Swish激活函数及Depthwise Conv卷积等构成。
EfficientNet设计了一个标准化的卷积网络扩展方法，既可以实现较高的准确率，又可以充分的节省算力资源。对输入图像的大小、网络的深度和宽度这三个维度进行综合调整。图a是一个基线网络，也就是我们所说的baseline，图b，c，d三个网络分别对该基线网络的宽度、深度、和输入分辨率进行了扩展，而最右边的e图，就是EfficientNet的主要思想，综合宽度、深度和分辨率对网络进行符合扩展。

08060902李竹语

08060902李竹语 发表于 2024-11-1 22:30
本周，我进行了数据集的收集、处理与清洗。将数据集分为四个大类别，对应社会推行的四种分类垃圾。其中每一 ...

图片传错了，补图

08060902李竹语

补11.15内容：
本周，我对EfficientNet网络是否有改进空间做了文献查阅与尝试。 我查阅了两篇文献，一篇是基于改进 EfficientNet 模型的作物害虫识别，该研究提出了一种基于改进 EfficientNet模型的作物害虫智能识别模型。该模型通过引入坐标注意力（Coordinate Attention, CA）机制而改进 EfficientNet 主体结构，引入数据增强的组合训练策略及 Adam 优化算法来提高模型的泛化能力，并采用迁移学习策略来训练改进的 EfficientNet模型，从而提出了一个高性能轻量化的作物害虫识别模型 CA-EfficientNet。
第二篇是基于CBAM-EfficientNet的垃圾图像分类算法研究。CBAM注意力机制是一种简单而高效的注意力模块。其将给定的中间特征图沿空间和通道２个独立的维度依次判断特征注意力图，并且与原始特征图相乘进行自适应优化。该文在预训练网络中的每一次下采样前加入CBAM注意力机制，以此来提升网络对于某些重要特征图和重要空间的注意力，从而提高模型准确率。
基于此，对我们本次的任务有了思路和启发，还需要靠实验进一步探寻。

08060902李竹语

本周，我进行了模型的初步训练。
1.模型使用交叉熵损失函数为损失函数，此损失函数适用于多分类问题，并且在此模型上取得了较好的效果。
2.模型使用优化器为Adam，是一种可以替代传统随机梯度下降过程一阶优化算法，它能基于训练数据迭代地更新神经网络权重，其使用动量和自适应学习率来加快收敛速度，Adam在实际使用中取得了不错的效果，其实现原理如下：
g_t=∇_θ j(θ_(t-1))
首先计算梯度的指数移动平均数，m_0 初始化为0。β_1 系数为指数衰减率，控制权重分配（动量与当前梯度）
m_t=β_1 m_(t-1)+(1-β_1)g_t
其次，计算梯度平方的指数移动平均数，v_0初始化为0。β_2 系数为指数衰减率，控制之前的梯度平方的影响情况。
v_t=β_2 v_(t-1)+(1-β_2)g_t^2
第三，由于m_0初始化为0，会导致m_t偏向于0，尤其在训练初期阶段。所以，此处需要对梯度均值mt进行偏差纠正，降低偏差对训练初期的影响。 m ̂_t=m_t/(1-β_1^t)
第四，与m_0 类似，因为v_0初始化为0导致v_t训练初始阶段偏向0，对其进行纠正
v ̂_t=v_t/(1-β_1^t)
第五，更新参数
θ_t=θ_(t-1)-α*m ̂_t/(√(v ̂_t )+ε)
3.模型使用categorical_accuracy作为评价标准，检查真实标签中最大值对应的index 与预测值中最大值对应的index是否相等。对于多分类单标签模型有比较好的效果。

08060902李竹语

本周，我们分别训练了ResNet、GoogleNet、EfficientNet-B0、EfficientNet- B5 这4个模型，其训练参数如下：

Network	Batch Size	Base-lr	Epochs	Input shape
ResNet	16	0.001	15	(batch_size,224,224,3)
GoogleNet	16	0.001	15	(batch_size,224,224,3)
EfficientNet-B5	16	0.001	14	（batch_size,456,456,3）
EfficientNet-B0	16	0.01	18	(batch_size,224,224,3)

训练后我们统计了其准确率：

网络模型	训练准确率	验证准确率
ResNet	0.7422	0.7021
GoogleNet	0.8211	0.7891
EfficientNet-B5	0.9941	0.9426
EfficientNet-B0	0.9878	0.9202

分析这些数据，我们可以总结以下结论：

（1）ResNet和GoogleNet的训练时间较短，但是Efficientnet-B5和他们的差距并不大。

（2）Efficientnet-B5的准确率明显更高。

相比较于EfficientNet-B0，EfficientNet-B5收敛速度更快，精度更高，更加稳定。其准确率变化曲线对比如图所示