基于秘密分享的大语言模型密态推理

　　摘要：大语言模型推理服务可能导致用户输入提示信息泄露给服务器端或专有模型权重泄露给用户。安全多方计算、同态加密等密码学技术为解决上述问题提供了可行方案，但由于计算和通信开销过大，在处理大语言模型推理任务时难以实际应用。基于此，提出了基于轻量级秘密分享的大语言模型密态推理方案，在不泄露用户输入和模型权重的前提下，高效精准地实现大语言模型推理。实验表明，相较现有先进工作，所提方案密态推理效率提升1.2～10倍，通信开销减少20%～90%。