多层感知机还在进步,关于深度学习中MLP的5篇最新的论文推荐

多层感知机还在进步,关于深度学习中MLP的5篇最新的论文推荐

1、MLP-Hash: Protecting Face Templates via Hashing of Randomized Multi-Layer Perceptron

https://arxiv.org/pdf/2204.11...

Hatef Otroshi Shahreza, Vedrana Krivokuća Hahn, Sébastien Marcel

用于身份验证的人脸识别系统的应用正在迅速增长。尽管最先进的(SOTA)人脸识别系统具有很高的识别性能,但为他们会为每个用户提取特征并存储在系统数据库中。这些特征包含了隐私敏感信息,泄露这些数据将危及用户的隐私。这篇论文提出了一种新的关于特征隐私保护方法,称为 MLP-hash,它通过将提取的特征传递给特定的随机加权多层感知器 (MLP) 并对 MLP 输出进行二值化来生成受保护的结果。论文评估了提出的生物特征模板保护方法的不可链接性、不可逆性和识别性能,以满足 ISO/IEC 30136 标准要求。在 MOBIO 和 LFW 数据集上对 SOTA 人脸识别系统的实验表明,论文的方法与 BioHashing 和 IoM Hashing(IoM-GRP 和 IoM-URP)保护算法具有相同性能。论文还提供了本文中所有实验的开源实现,以便其他研究人员可以验证我们的发现并在我们的工作的基础上进行复现和更深入的研究。

2、Modeling of the nonlinear flame response of a Bunsen-type flame via multi-layer perceptron

https://arxiv.org/pdf/2204.05...

Nilam Tathawadekar, Nguyen Anh Khoa Doan, Camilo F. Silva, Nils Thuerey

论文展示了神经网络仅进行一次非定常 的CFD 模拟能够可靠地学习nonlinear flame。该系统获得的上游流速和放热率波动的时间序列并使用多层感知机训练非线性模型。同时训练几个具有不同超参数的模型,并使用 dropout 策略作为正则化器以避免过度拟合。随后使用性能最佳的模型来计算 flame describing function(FDF)。除了准确地预测 FDF 之外,经过训练的神经网络模型还可以捕捉火焰响应中存在的高次谐波。当与声学求解器结合使用时,所获得的神经网络模型比经典的 FDF 模型更适合预测。研究表明,预测的声学振荡的 RMS 值以及相关的主频率与 CFD 参考数据非常一致。

3、A Stock Trading System for a Medium Volatile Asset using Multi Layer Perceptron

https://arxiv.org/pdf/2201.12...

Ivan Letteri、Giuseppe Della Penna、Giovanni De Gasperis、Abeer Dyoub

股票市场预测是一个利润丰厚的领域。金融市场本质上是复杂、非线性和混乱的,这意味着准确预测作为其中一部分的资产的价格变得非常复杂。论文提出了一个以前馈深度神经网络 (DNN) 为主要核心的用于预测 Abercrombie & Fitch Co. (ANF) 在纽约证券交易所 (NYSE) 的股票市场的股票交易系统。通过精心设计的系统并计算最有效的技术指标,将其应用于 DNN 计算的预测。结果显示在 Sharpe、Sortino 和 Calmar 比率分别为 2.194、3.340 和 12.403 的情况下,盈利交易的预期比率等值增加了 2.112%。作为验证,在系统中采用了回溯模拟模块,该模块将交易映射到由 ANF 资产最近 30 天公开市场组成的实际测试数据。总体而言,结果也很有希望,在 100 美元的非常适中的预算下,仅在一个月内就能实现 3.2% 的总利润系数。因为系统通过选择最有效和最高效的交易减少了交易数量,节省了佣金和成本

4、Using Fitness Dependent Optimizer for Training Multi-layer Perceptron

https://arxiv.org/pdf/2201.00...

Dosti Kh、Abbas、Tarik A. Rashid、Karmand H. Abdallaand Nebojsa Bacanin、Abeer Alsadoon

这项研究提出了一种新的训练算法 ,该算法依赖于最近提出的 FDO,并且的稳定性已经通过一些标准测量得到验证和性能证明。该算法的研究将 FDO 与 MLP(代号 FDO-MLP)相结合,通过优化权重和偏差预测学生的成绩。该项研究不仅可以提高学生的学习成绩,还可以从学生的教育背景方面改善学习系统。通过与反向传播算法(BP)和FDO-CMLP、Grey Wolf Optimizer(GWO)和GWO-MLP相结合等一些进化模型的比较,证实了该方法的实验结果。定性和定量结果证明,在收敛速度和局部最优避免方面,使用 FDO 作为训练器的方法可以优于在数据集上使用不同训练器的其他方法。论文提出的 FDO-MLP 方法的分类准确率为 0.97。

5、Graph Attention Multi-Layer Perceptron

https://arxiv.org/pdf/2108.10...

Wentao Zhang, Ziqi Yin, Zeang Sheng, Wen Ouyang, Xiaosen Li, Yangyu Tao, Zhi Yang, Bin Cui

图神经网络 (GNN) 最近在许多基于图的应用程序中实现了最先进的性能。尽管表达能力很高,但它们通常需要在多个训练时期执行非常费时的递归邻域扩展,并且需要处理可扩展性问题。因为它们仅限于固定跳数邻域并且对不同节点的实际感受野需求不敏感,所以并不灵活。论文通过引入可扩展且灵活的图注意多层感知器 (GAAMLP) 来规避这些限制。 GAMLP 将非线性变换和特征传播分离,通过预计算的方式执行传播过程,显着提高了可扩展性和效率。 GAMLP 中的每个节点都具有三个的感受野注意力,在利用不同大小的接收域上的传播特征方面具有灵活性和适应性。在对三个大型开放图基准(例如,ogbn-papers100M、ogbn-products 和 ogbn-mag)进行了广泛的评估,证明 GAMLP 不仅实现了最先进的性能,而且还提供了高可扩展性和效率

https://avoid.overfit.cn/post/5834f91efe9e4b09b6ec21659dba0ee5

作者:Momodeep

你可能感兴趣的