基于多智能体柔性演员-评论家学习的服务功能链部署算法

针对网络功能虚拟化(NFV)架构下业务请求动态变化引起的服务功能链(SFC)部署优化问题，该文提出一种基于多智能体柔性演员-评论家(MASAC)学习的SFC部署优化算法。首先，建立资源负载惩罚、SFC部署成本和时延成本最小化的模型，同时受限于SFC端到端时延和网络资源预留阈值约束。其次，将随机优化问题转化为马尔可夫决策过程(MDP)，实现SFC动态部署和资源的均衡调度，还进一步提出基于业务分工的多决策者编排方案。最后，在分布式多智能体系统中采用柔性演员-评论家(SAC)算法以增强探索能力，并引入了中央注意力机制和优势函数，能够动态和有选择性地关注获取更大部署回报的信息。仿真结果表明，所提算法可以实现负载惩罚、时延和部署成本的优化，并随业务请求量的增加能更好地扩展。