生物医学工程与医疗设备杂志
开放获取

抽象的

改进的 ReLU 激活函数在图像分类中的效果

Charles Chinedu Nworu*、Emmanuel John Ekpenyong、John Chisimkwuo、Godwin Okwara、Christian Nduka Onyeukwu、Onyekachi Joy Agwu

激活函数的选择在深度学习中非常重要。这是因为激活函数能够捕获数据中的非线性模式。最流行的激活函数是修正线性单元（ReLU），但它存在梯度消失问题。因此，我们检查了 ReLU 激活函数的修改，以确定其有效性（准确性）和效率（时间复杂度）。通过使用包含肺炎和正常样本的 X 射线图像进行实证实验，验证了有效性和效率。我们的实验表明，修改后的 ReLU、ReLU6 在低泛化误差方面表现更好（97.05% 的训练准确率和 78.21% 的测试准确率）。敏感性分析还表明，ELU 能够以 52.14% 的概率正确预测一半以上的阳性病例。就效率而言，与其他激活函数相比，GELU 显示出最短的训练时间。这将允许该领域的从业者根据有效性和效率选择激活函数。