jailbreak_llms
大语言模型这是一个收集 ChatGPT jailbreak prompt 的数据集,汇总自 Reddit、Discord 等渠道,用于研究大模型的越狱行为与安全对齐。做 prompt 安全评测的开发者可以直接拿它当测试集,批量验证模型对恶意指令的防御效果。
查看 GitHub 原始描述(英文)
[CCS'24] A dataset consists of 15,140 ChatGPT prompts from Reddit, Discord, websites, and open-source datasets (including 1,405 jailbreak prompts).
按钮会在新标签页打开,本站不代理、不镜像仓库内容。