认知安全

认知安全作为AI安全核心领域的风险与挑战

本文探讨了随着AI能力增强，人类认知安全面临的风险，包括AI说服力过强、导致人机交互脱离现实、以及用于勒索或生成欺骗性虚假信息。文章列举了当前案例，如AI说服力与人相当、用户因聊天机器人出现精神病症状、深度伪造诈骗导致巨额损失等，并分析了内外部原因。