数值优化（算法分类及其分析基础）
不同的优化算法采用不同的方法对目标函数进行优化，以寻找最优预测模型。其中最重要的两个特性就是收敛速率和复杂度。优化算法最初都是确定性的，不过近年来随着机器学习中数据规模的不断增大，优化问题复杂度不断增高，原来越多的优化算法发展出了随机版本和并行化版本。依据算法在优化过程中所利用的是一阶导数信息还是二阶导数信息，还可把优化算法分为一阶方法和二阶方法。
推荐阅读
- Tomcat安全优化 #yyds干货盘点#
- 一些有趣的B+树优化实验
- 数据结构与算法的基本概念
- 一种基于生成对抗网络的无人机图像去雾算法
- 图文 Win8系统碎片整理优化图文详细教程
- Nginx的负载均衡(调度算法)及容错处理
- 大数据之路 ——算法建模中的数据清洗
- 图文详解（索引极简教程极致 SQL 查询性能优化原理）
- ClickHouse 极简教程-图文详解原理系列ClickHouse 主键索引的存储结构与查询性能优化...
- 图文详解（索引极简教程SQL 查询性能优化原理）