Giskard:LLM和ML模型的开源测试框架
talkingdev • 2023-11-07
914066 views
Giskard是一个Python库,可以自动检测从表格模型到LLM的AI模型的漏洞,包括:性能偏见、数据泄露、虚假相关性、幻觉、毒性、安全问题等等。让您的模型快速、安全地投入生产。在GitHub上安装Giskard或在Colab中尝试。
核心要点
- Giskard是一个Python库,可以自动检测从表格模型到LLM的AI模型的漏洞
- Giskard可以识别性能偏见、数据泄露、虚假相关性、幻觉、毒性和安全问题等问题
- 您可以在GitHub上安装Giskard或在Colab中尝试