dfp算法例题 牛顿法，拟牛顿法，共轭梯度法各自的优缺点是什么？
牛顿法，拟牛顿法，共轭梯度法各自的优缺点是什么？牛顿法需要函数的一阶和二阶导数信息，即它涉及Hesse矩阵，包括矩阵求逆运算。虽然收敛速度快，但运算量大。拟牛顿法是利用某种方法构造一个类似于Hesse
牛顿法，拟牛顿法，共轭梯度法各自的优缺点是什么？
牛顿法需要函数的一阶和二阶导数信息，即它涉及Hesse矩阵，包括矩阵求逆运算。虽然收敛速度快，但运算量大。
拟牛顿法是利用某种方法构造一个类似于Hesse矩阵的正定矩阵，这种构造方法比牛顿法计算量小；共轭梯度法的基本思想是将共轭性质与最速下降法相结合，利用最速下降法构造一组共轭方向已知点的梯度，并沿着这组方向搜索元素，找到目标函数的最小点。根据共轭方向的基本性质，该方法计算量小，收敛速度快。