Hugging Face Blog·· 2024-05-24AI 评分38
Meta 发布 CyberSecEval 2：面向大语言模型网络安全风险与能力的综合评测框架
CyberSecEval 2 - A Comprehensive Evaluation Framework for Cybersecurity Risks and Capabilities of Large Language Models
AI 导读
Meta 发布 CyberSecEval 2，从代码不安全实践、提示词注入、网络攻击协助、代码解释器滥用和自动化攻击能力五个维度评测 LLM 的网络安全风险。相比 2023 年 12 月的首版，LLM 协助网络攻击的平均合规率从 52% 降至 28%。提示词注入仍是未解难题，代码解释器滥用风险突出，评测代码已全部开源。
来源：Hugging Face Blog · huggingface.co