文件大小：0.72M
摘要：传统量化模型虽能降低模型复杂度、降低推理开销，但其量化扰动也会带来一定的性能损失。量化感知训练旨在提高神经网络对量化扰动的鲁棒性。为了使联邦学习中的边缘设备在计算资源受限的情况下进行实时推理，本文将量化感知训练引入边缘联邦学习场景，并提出了量化感知边缘联邦学习框架。在该框架中，量化后的全局模型部署在终端，并且不会产生过大性能损失，从而解决了边缘设备对用户推理需求实时快速响应与自身算力不足的矛盾。此外，本文发现在联邦学习中引入量化感知训练会带来一定的安全风险，攻击者可以利用量化感知训练恶意模型。进一步地，本文也提出了两种联邦量化攻击。实验结果表明本文所提方法在CIFAR10数据集上，使用ResNet18训练的全局模型在被量化至4-bit时仍保持62%的准确率，相较于传统的边缘联邦学习方法提升30%。另外，联邦量化攻击在8-bit量化下的攻击成功率相比现有工作提升10%。
文章目录
引 言
1 相关工作
1.1 量化感知训练
1.2 联邦学习中的量化
1.3 后门攻击
2 算法框架
2.1 量化鲁棒性神经网络
2.2 量化感知边缘联邦学习
2.3 威胁模型
2.3.1 攻击种类
2.3.2 攻击者的能力
2.3.3 防御者的能力
3 联邦量化攻击
3.1 量化感知武器化
3.2 边缘联邦学习下的量化攻击
3.3 防御规避与对抗训练
4 实验评估
4.1 实验设置
4.2 实验结果
4.2.1 量化感知联邦学习
4.2.2 联邦量化攻击
4.2.3 后门防
