蚂蚁科技申请基于安全切面的角色扮演攻击防御方法及装置专利,实现对角色扮演攻击的防御

金融界2024年10月18日消息,国家知识产权局信息显示,蚂蚁科技集团股份有限公司申请一项名为“基于安全切面的角色扮演攻击防御方法及装置”的专利,公开号 CN 118779877 A,申请日期为2024年9月。

专利摘要显示,本说明书实施例公开了一种基于安全切面的角色扮演攻击防御方法及装置,该方法通过预先对大模型进行微调,使得大模型能够在识别出户的提问请求中存在角色扮演内容时自动触发服务端的安全切面程序,利用该安全切面程序来检测角色扮演内容是否为恶意角色扮演攻击,并基于检测结果执行相应的防御策略,从而实现对角色扮演攻击的防御。该方法基于切面技术实现,不需要修改服务的基础架构,具有更好的便捷性。该方法不依赖基于先验知识的检测规则,可以抵御各种针对请求的攻击绕过。