go语言云空间 golang 云计算( 二 )


1. OLTP
3.0 与 2.1 版本相比 Sysbench 的 Point Select,Update Index,Update Non-Index 均提升约 1.5 倍 , TPC-C 性能提升约 4.5 倍 。主要的优化点如下:
1. TiDB 持续优化 SQL 执行器 , 包括:优化 NOT EXISTS 子查询转化为 Anti Semi Join , 优化多表 Join 时 Join 顺序选择等 。
2. 优化 Index Join 逻辑,扩大 Index Join 算子的适用场景并提升代价估算的准确性 。
3. TiKV 批量接收和发送消息功能,提升写入密集的场景的 TPS 约 7%,读密集的场景提升约 30% 。
4. TiKV 优化内存管理,减少 Iterator Key Bound Option 的内存分配和拷贝,多个 Column Families 共享 block cache 提升 cache 命中率等手段大幅提升性能 。
5. 引入 Titan 存储引擎插件,提升 Value 值超过 1KB 时性能,缓解 RocksDB 写放大问题,减少磁盘 IO 的占用 。
6. TiKV 新增多线程 Raftstore 和 Apply 功能 , 提升单节点内可扩展性,进而提升单节点内并发处理能力和资源利用率 , 降低延时,大幅提升集群写入能力 。
TiDB Lightning 性能与 2019 年年初相比提升 3 倍,从 100GB/h 提升到 300GB/h,即 28MB/s 提升到 85MB/s,优化点,如下:
1. 提升 SQL 转化成 KV Pairs 的性能,减少不必要的开销 。
2. 提升单表导入性能,单表支持批量导入 。
3. 提升 TiKV-Importer 导入数据性能,支持将数据和索引分别导入 。
4. TiKV-Importer 支持上传 SST 文件限速功能 。
RBAC(Role-Based Access Control,基于角色的权限访问控制) 是商业系统中最常见的权限管理技术之一 , 通过 RBAC 思想可以构建最简单“用户-角色-权限”的访问权限控制模型 。RBAC 中用户与角色关联,权限与角色关联 , 角色与权限之间一般是多对多的关系 , 用户通过成为什么样的角色获取该角色所拥有的权限,达到简化权限管理的目的,通过此版本的迭代 RBAC 功能开发完成 。
IP 白名单功能(企业版特性) :TiDB 提供基于 IP 白名单实现网络安全访问控制,用户可根据实际情况配置相关的访问策略 。
Audit log 功能(企业版特性) :Audit log 记录用户对数据库所执行的操作,通过记录 Audit log 用户可以对数据库进行故障分析,行为分析,安全审计等 , 帮助用户获取数据执行情况 。
加密存储(企业版特性) :TiDB 利用 RocksDB 自身加密功能,实现加密存储的功能,保证所有写入到磁盘的数据都经过加密,降低数据泄露的风险 。
完善权限语句的权限检查,新增 ANALYZE,USE,SET GLOBAL,SHOW PROCESSLIST 语句权限检查 。
1. 新增 SQL 方式查询慢查询 , 丰富 TiDB 慢查询日志内容,如:Coprocessor 任务数,平均/最长/90% 执行/等待时间 , 执行/等待时间最长的 TiKV 地址,简化慢查询定位工作,提高排查慢查询问题效率,提升产品易用性 。
2. 新增系统配置项合法性检查 , 优化系统监控项等 , 提升产品易用性 。
3. 新增对 TableReader、IndexReader 和 IndexLookupReader 算子内存使用情况统计信息,提高 Query 内存使用统计的准确性 , 提升处理内存消耗较大语句的效率 。
4. 制定日志规范,重构日志系统,统一日志格式,方便用户理解日志内容,有助于通过工具对日志进行定量分析 。
5. 新增 EXPLAIN ANALYZE 功能 , 提升SQL 调优的易用性 。
6. 新增 SQL 语句 Trace 功能,方便排查问题 。
7. 新增通过 unix_socket 方式连接数据库 。
8. 新增快速恢复被删除表功能,当误删除数据时可通过此功能快速恢复数据 。
TiDB 3.0 新增 TiFlash 组件,解决复杂分析及 HTAP 场景 。TiFlash 是列式存储系统,与行存储系统实时同步,具备低延时 , 高性能,事务一致性读等特性 。通过 Raft 协议从 TiKV 中实时同步行存数据并转化成列存储格式持久化到一组独立的节点,解决行列混合存储以及资源隔离性问题 。TiFlash 可用作行存储系统(TiKV)实时镜像 , 实时镜像可独立于行存储系统,将行存储及列存储从物理隔离开,提供完善的资源隔离方案,HTAP 场景最优推荐方案;亦可用作行存储表的索引,配合行存储对外提供智能的 OLAP 服务,提升约 10 倍复杂的混合查询的性能 。

推荐阅读