返回 2026-10-04 榜单

p-e-w/heretic

Heretic 是一个 Python 命令行工具,通过定向消融与自动参数搜索处理支持的语言模型,目标是减少拒答并尽量保持模型原有输出特征。

查看 GitHub 仓库

Heretic 是一个 Python 命令行工具,通过定向消融与自动参数搜索处理支持的语言模型,目标是减少拒答并尽量保持模型原有输出特征。

项目做什么

项目面向希望调整已训练 Transformer 语言模型拒答行为的用户。README 描述的流程是从模型中提取有害与无害提示的残差方向,再对特定层的注意力输出投影和 MLP 下投影进行定向消融,并利用 Optuna 搜索参数;它不是重新进行昂贵的模型后训练。

与同类方案相比

按 README 所述,工具可自动选择消融参数,并以拒答数量和相对于原模型的 KL 散度作为优化指标;用户可通过命令行启动,也可配置参数、量化模型,并选择保存、上传、对话测试或评测结果。README 中展示的单个 Gemma 模型结果属于项目自报数据,不能据此推断所有模型或环境都能取得相同效果。

设计与创新

README 将可变形消融权重核、浮点残差方向索引及方向向量插值、不同模型组件分别设定消融参数列为主要设计特点,并称其结合自动优化拓展了搜索空间。这些是项目文档对自身方法的说明;缺少独立的全面复现与同条件对照资料,因而其相对其他工具的创新幅度和普遍收益尚无法验证。

适用场景

适用场景包括研究人员或模型使用者在本地对受支持的 Transformer 模型进行拒答行为实验、比较处理前后的自动评测指标,以及保存或分享生成的模型。README 提及多数稠密模型、部分多模态、MoE 和混合架构;纯状态空间模型及某些研究架构尚未开箱支持,实际可用性还取决于模型结构、硬件和软件版本。

谁会受益

对能运行 Python 命令行程序、希望试验模型行为调整的用户,自动化参数搜索和内置评测可减少手工选择消融参数的工作。README 给出了 Python 3.10+、PyTorch 2.2+ 的基本要求及示例命令,并指出部分模型需要较新 PyTorch;这些信息有助于初步判断安装和使用条件,但并不保证特定环境一定兼容。

使用前需要注意

工具改变模型拒答行为并不意味着输出一定可靠或适合所有用途;自动拒答数和 KL 散度不能完整代表模型能力,README 也承认指标需要人工评估。性能、显存需求和耗时会受模型与硬件影响,文中耗时及对比数据仅对应所述配置或测试;支持范围存在边界,独立验证覆盖有限,不能据此确认对所有模型的效果或安全性。

查看 GitHub 仓库

本文基于抓取时的项目 README 和仓库简介整理;功能、限制与文档可能随项目更新而变化。

输入关键词开始搜索
账号 · 测试中

账号登录