安裝中文字典英文字典辭典工具!
安裝中文字典英文字典辭典工具!
|
- 损失函数｜交叉熵损失函数 - 知乎
1 3 Cross Entropy Loss Function（交叉熵损失函数） 1 3 1 表达式 (1) 二分类 在二分的情况下，模型最后需要预测的结果只有两种情况，对于每个类别我们的预测得到的概率为 和 ，此时表达式为（ 的底数是 ）： 其中： - —— 表示样本 的label，正类为 ，负类为
- 深度学习的loss一般收敛到多少？ - 知乎
看题主的意思，应该是想问，如果用训练过程当中的loss值作为衡量深度学习模型性能的指标的话，当这个指标下降到多少时才能说明模型达到了一个较好的性能，也就是将loss作为一个evaluation metrics。 但是就像知乎er们经常说的黑话一样，先问是不是，再问是什么。所以这个问题有一个前提，就是
- 十分钟读懂旋转编码（RoPE）
旋转位置编码（Rotary Position Embedding，RoPE）是论文 Roformer: Enhanced Transformer With Rotray Position Embedding 提出的一种能够将相对位置信息依赖集成到 self-attention 中并提升 transformer 架构性能的位置编码方式。而目前很火的 LLaMA、GLM 模型也是采用该位置编码方式。 和相对位置编码相比，RoPE 具有更好的 外推性
- 深度学习的loss一般收敛到多少？ - 知乎
深度学习的loss一般收敛到多少？ 计算机视觉的图像L2损失函数，一般收敛到多少时，效果就不错了呢？ 显示全部 关注者 111
- 神经网络训练结束后，模型保存的参数是损失最小那个epoch的吗还是最后一个epoch的？ - 知乎
例如我训练100轮第90轮的loss=0 6552之后的几轮损失逐渐变大到19 7265。 训练结束后我的模型的权重是损失最低的那一轮的还是最后一轮的？
- 深度学习的多个loss如何平衡？ - 知乎
多个loss引入 pareto优化理论，基本都可以涨点的。 例子： Multi-Task Learning as Multi-Objective Optimization 可以写一个通用的class用来优化一个多loss的损失函数，套进任何方法里都基本会涨点。反正我们在自己的研究中直接用是可以涨的。
- 深度学习模型训练的时候，一般把epoch设置多大？ - 知乎
在机器学习中，epoch 数量是指整个训练集通过模型的次数。一个Epoch意味着训练数据集中的每个样本都有机会更新内部模型参数。 Epoch由一个或多个Batch组成。 选择合适的 epoch 数量是一个关键的问题，因为它会影响到模型的性能和训练时间。 通常，epoch 数量越多，模型在训练数据上的性能越好
- 深度学习模型训练的时候LOSS很大，超过万，有下降但是结束时还是很大（几千），是什么原因导致的？ - 知乎
深度学习模型训练的时候LOSS很大，超过万，有下降但是结束时还是很大（几千），是什么原因导致的？ deeplabv3+模型 camvid数据集
|
|
|