在线社交网络文本内容对抗技术

在线社交网络内容对抗技术是人工智能领域与网络空间安全领域的一个新兴研究方向.它是指人们基于特定任务,在社交网络受众广泛、内容数量庞大、内容质量参差、内容真伪难辨的环境下,利用新兴的大数据驱动的人工智能方法,自动完成在线社交网络中针对特定主题与群体的对抗内容发现、生成与投送,进而实现社交平台异常信息的检测与反制,以达到维护网络空间安全的目的.虽然在线社交网络对抗技术属于一个新概念,鲜有相关工作,但是已有的机器学习方法可以被应用到该领域,通过特征提取、文本模式解析、文本内容编码与重建、目标优化等技术对社交文本大数据进行解析与内容表示,解决网络空间中的文本内容安全问题,实现对社交网络文本环境的净化.此外,在社交网络文本内容对抗的过程中,对抗双方的策略可作为反馈信息,使对抗模型不断进行更新和优化,最终达到完善模型的目的.基于以上攻防对抗思想,本文着重从文本内容生成与检测两方面对在线社交网络对抗进行阐述.首先,本文介绍了有关在线社交网络文本对抗技术的相关基础知识.其次,针对社交网络文本内容检测方法,本文从基于零次分类器的模型、基于机器特征的模型、基于预训练语言模型的方法、基于人机协作的模型、基于能量基础的模型5个角度进行详细介绍.为了方便读者针对不同的应用场景选择合适的模型,本文对不同检测模型的适用场景以及模型优劣进行了对比总结.针对社交网络文本生成方法,本文对基于对抗生成网络的文本生成模型、可控文本生成模型、长文本生成、文本质量评价4方面进行了综述.此外,为了方便读者对模型的有效性进行验证,本文对相关数据进行了系统性总结.最后,本文总结了在线社交网络对抗技术未来的重要研究方向与挑战.