13项风险评估只通过4项！Meta公司大语言模型被曝存在严重问题
类别：电脑数码
发布时间：2024-04-19 10:25
【太平洋科技资讯】近日，AI安全公司DeepKeep发布了一份针对Meta公司Llama 2大语言模型的风险评估报告。在13个风险评估类别中，Llama 2仅通过了4项测试，表明该模型存在严重问题。
在测试中，DeepKeep发现Llama 2的幻觉问题最为严重，幻觉率高达48%。这意味着模型有明显的编造回答或提供错误信息的倾向，向用户传递的错误信息越多。这可能会对用户造成误导，甚至可能引发安全问题。
除了幻觉问题，Llama 2大语言模型还存在注入和操纵等问题。根据测试结果，攻击者可以通过“提示注入”的方式操纵Llama的输出，这意味着攻击者可以“戏弄”Llama，将用户引导到恶意网站。在80%的场景下，这种操纵行为是可行的。
DeepKeep表示，这些问题的存在表明Llama 2大语言模型在安全性方面存在重大隐患，需要采取措施来改进和加强其安全性。对于企业和个人用户来说，使用这种模型时需要谨慎，并采取适当的安全措施来保护自己的数据和隐私。
DeepKeep的评估报告再次强调了人工智能安全的重要性。随着人工智能技术的不断发展，我们需要不断关注和解决相关安全问题，以确保人工智能技术的健康发展。
本文转载于：https://www.sohu.com/a/772725493_223764 如有侵犯，请联系dddazheyh@163.com删除
热门优惠券
更多-
- 潘祥记食品旗舰店满19减10
- 有效期至: 2024-05-02
- 立即领取
-
- 荣事达冰封侠专卖店满29减10
- 有效期至: 2024-05-05
- 立即领取
-
- BALDAUREN户外装备旗舰店满25减14
- 有效期至: 2024-05-03
- 立即领取
-
- 金运数码京东自营旗舰店满101减50
- 有效期至: 2024-05-31
- 立即领取
-
- 卡特加特旗舰店满26减10
- 有效期至: 2024-05-15
- 立即领取
-
- 惠庭官方旗舰店满100减41
- 有效期至: 2024-05-01
- 立即领取
-
- 亮本力手机配件专营店满34减25
- 有效期至: 2024-05-06
- 立即领取
-
- 托玛仕宠物生活旗舰店满19减10
- 有效期至: 2024-05-06
- 立即领取
-
- ROTHSCROOSTER旗舰店满52减18
- 有效期至: 2024-05-01
- 立即领取
-
- 茗济堂大药房旗舰店满139减42
- 有效期至: 2024-05-02
- 立即领取