关于 StruQ 的快讯列表
| 时间 | 详情 |
|---|---|
|
2025-04-11 18:13 |
使用结构化查询和偏好优化防御提示注入
根据伯克利人工智能研究中心的博客文章，他们最新的研究介绍了通过使用结构化查询（StruQ）和偏好优化（SecAlign）来防御提示注入攻击的创新技术。这些方法由陈思哲和朱利安·皮特领导，旨在通过结构化查询防止未经授权的数据操作，并通过优化偏好来符合安全协议，从而增强AI模型的安全性。 |