智能体使用时如何规避风险?
| [日期:2026-09-16] | 作者:信息技术 次浏览 | [字体:大 中 小] |
智能体要规避安全风险,核心是"权限收紧、数据设防、人工兜底"三件事。
一、收紧权限。 只给完成任务必需的权限:能只读就不写,能本地就不联网,能限定目录就不开放全磁盘。发邮件、删文件、调接口等外部动作默认关闭,用时再开。
二、数据脱敏。 输入侧先过滤,学生姓名、成绩、内部文件不进提示词;输出侧设防,防止记忆里的机密被回传外泄。
三、防提示词注入。 把网页、用户上传文件等不可信内容和核心指令隔离,不让它借"系统要求"之名篡改行为。
四、人类在环。 发送、删除、公开等动作先经人确认;关键步骤留日志,可回溯、可审计。
五、限定边界。 明确"不知就说不知",禁止编造,高风险领域强制二次核对。
上一条:如何应对AI幻觉?
下一条:没有啦!