• 简体   /   繁体
面向人工智能系统的“万能钥匙”攻击及其防范方法-中国信息化2024年08期

面向人工智能系统的“万能钥匙”攻击及其防范方法

作者:刘正坤 陈华 赵静 霍钰 崔宇 字体:      

在生成式人工智能中,直接提示注入攻击是构造恶意的用户输入,试图绕过人工智能模型的预期行为。成功的直接提示注入攻击有可能颠覆模型通过人工智能供应商的训练构建的大部分人工智能(RAI)防护措施。微软威胁情报中(试读)...

中国信息化

2024年第08期