阅读代码时,可用下表查找英文注释、函数名和结果列中的常见术语。
train 指训练数据,val 指开发验证数据。两者承担不同任务。If 引出条件。例如 If the denominator is zero, return zero. 表示分母为零时返回 0。Keep 表示保持不变,Change 表示修改,Compare 表示比较。做单因素实验时,留意哪些设置需要保持不变。| 技术名称 | 本包固定含义 | 不要混淆 |
|---|---|---|
| training data | 用于梯度更新和拟合标准化参数的 540 行数据 | 最终测试数据 |
| validation data | 用于早停和开发比较的 180 行数据 | 独立最终评估 |
| development split | 训练/验证两种开发划分之一 | 重新随机划分 |
| feature | 一列输入变量 | 被证明有效的心理构念 |
| label | 合成结果 left_6m,取值 0 或 1 |
真实员工事实 |
| probability | 模型对标签为 1 输出的数值 | 必然校准的真实概率 |
| decision threshold | 将概率转为 0/1 的边界 | 训练参数 |
| constant baseline | 每条记录返回训练正例比例的策略 | 训练过的神经网络 |
| logistic regression | 无隐层的线性 logit 模型 | 一般线性回归 |
| neural network | 本包的 7→h→1 模型 | 网页双隐层演示 |
| hidden width | 单个隐层中的单元数 | 隐层数量 |
| NumPy | Python 数值数组与矩阵计算库 | 神经网络框架 |
| pandas | Python 表格读取、整理与 CSV 输出库 | 模型或数据来源 |
| logit | sigmoid 变换前的线性分数,即概率优势的对数 | 概率本身 |
| sigmoid | 将 logit 映射到 0–1 的函数 | 分类阈值 |
| tanh | 本包隐层的激活函数 | 输出概率 |
| parameter | 权重或偏置 | 所有实验设置的统称 |
| bias | 模型中的偏置参数 | 社会偏见或统计偏差 |
| gradient | 训练目标对参数的导数 | 相邻曲线点的差 |
| learning rate | 每次参数更新乘用的步长系数 | 模型容量 |
| epoch | 一次完整批次更新的编号;0 表示初始状态 | 一条数据记录 |
| binary cross-entropy / log loss | 概率误差的平均损失 | 已包含 L2 的训练目标 |
| L2 coefficient | 权重平方惩罚的系数 | 对偏置也惩罚 |
| early stopping | 按验证损失与耐心轮次停止训练 | 独立最终评估 |
| retained parameters | 满足最小改进规则后保存并返回的参数 | 必然为曲线绝对最小值 |
| patience limit | 允许连续没有足够改进的轮次 | 总训练轮次 |
| scaling parameters | 训练均值与训练总体标准差 | 用全数据估计的统计量 |
| ROC AUC | 正例概率高于负例的成对比较比例;相同分数计半分 | 某个阈值的准确率 |
| precision / recall | 精确率 / 召回率 | 概念可以互换的“效果” |
| false positive (FP) | 真实标签 0、预测标签 1 的记录数 | 假阴性 |
| false negative (FN) | 真实标签 1、预测标签 0 的记录数 | 假阳性 |
| normalized cost | 每条验证记录的假设错误成本 | 现实财务损失 |
| feature ablation | 去掉一个特征变化信息后重新拟合的比较 | 因果干预效果 |
| finite difference | 用小幅正负扰动近似梯度的数值检查 | 统计显著性检验 |
| CSV | 逗号分隔的记录文件格式 | 最终研究结论 |