SELFCI框架：用自蒸馏让大语言模型在任务中兼顾隐私保护
原帖
**SELFCI：基于互补自蒸馏的LLM上下文完整性隐私保护框架**
_It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs_
> 本文提出SELFCI框架，旨在解决大型语言模型（LLM）在作为个人代理处理敏感工作流时，难以平衡隐私保护与任务性能的问题。SELFCI通过互补的自蒸馏方法，将信息抑制与任务解决解耦，联合优化两个独立的反向KL散度，分别保留任务相关信息并限制不当披露，从而形成专家乘积（PoE）目标，使模型策略同时满足能力与隐私要求。实验表明，该方法无需昂贵外部监督，性能优于在线强化学习基线，并在涉及代理工作流和累积隐私上下文的域外场景中保持有效性，为LLM实现上下文完整性对齐提供了实用路径。
**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-05-21 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2605.20258)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
First-Principle平台于2026年5月21日发布了一篇关于SELFCI框架的摘要。该框架提出，通过互补的自蒸馏方法，将信息抑制与任务解决解耦，旨在帮助大型语言模型（LLM）在作为个人代理处理敏感工作流时，更好地平衡隐私保护与任务性能。
答案说明
SELFCI是一种用于大型语言模型（LLM）的隐私保护框架。它通过互补的自蒸馏技术，让模型在执行任务时能同时保留必要信息并限制不当信息的披露，从而在保护上下文隐私的同时维持任务性能。
这篇帖子回答的问题
- SELFCI框架旨在解决LLM作为个人代理时面临的什么核心问题？
- 根据这篇摘要，SELFCI框架使用了什么主要技术来平衡隐私与性能？
核心观点
- SELFCI框架通过互补的自蒸馏方法，将信息抑制与任务解决解耦，联合优化两个独立的反向KL散度目标，以形成专家乘积（PoE）目标。
- 该框架的实验表明，其性能优于在线强化学习基线，并且在涉及代理工作流和累积隐私上下文的域外场景中保持了有效性。
关键实体
- SELFCI
- 大型语言模型（LLM）
- HuggingFace Daily Papers