代价函数一般指损失函数。损失函数（loss function）或代价函数（cost function）在机器学习/深度学习中非常重要，因为训练模型的过程就是优化代价函数的过程。
补充：代价函数与梯度的关系：代价函数对每个参数的偏导数就是梯度下降中提到的梯度。
大多数深度学习算法都涉及某种函数形式的优化。优化指的是改变 x 以最小化或最大化某个函数 f(x) 的任务。通常以最小化 f(x) 指代大多数最优化问题，而最大化可经由最小化算法最小化 −f(x) 来实现。
人们把要最小化或最大化的函数称为目标函数(objective function)或准则(criterion)。当对其进行最小化时，也把它称为代价函数(cost function)、损失函数(loss function)或误差函数(error function)。
