如何优化Linux操作系统用于MySQL环境?

目录

  • 如何优化Linux操作系统用于MySQL环境?
  • MySQL 8.0 InnoDB哪些新特性你最期待,为什么?
  • MySQL hang的原因有哪些?
  • 专访王晓伟老师,MySQL数据导入数据仓库(Hadoop)有哪几种方式?

一、如何优化Linux操作系统用于MySQL环境?

(一)初级玩法

1、 在BIOS及内核层面关闭NUMA

2、在BIOS层面将CPU、内存均设置最大性能模式

3、在BIOS层面关闭CPU节能模式

4、修改IO Scheduler为deadline 或 noop

5、使用xfs文件系统,挂载选项noatime、nodiratime、nobarrier

6、在内核层面设置vm.swappiness<=5,vm.dirty_ratio<=10, vm.dirty_background_rati<=5

7、在内核层面修改用户可最大打开文件数和线程数为65535

8、禁用SWAP分区

(二)高端玩法

1、使用最新稳定Linux发行版

2、升级各个硬件设备到最新稳定firmware版本

3、使用SSD时,开启TRIM功能,并且可以的话文件系统block size和SSD对齐

4、当磁盘I/O存在瓶颈时,除了常规因素外,还需要关注中断不均衡的可能性

二、MySQL 8.0 InnoDB哪些新特性你最期待,为什么?

1、数据字典全部采用InnoDB引擎存储,支持DDL原子性、crash safe,metadata管理更完善

2、快速在线加新列(腾讯互娱DBA团队贡献)

3、并行redo log,并提升redo log的I/O性能

4、新增倒序索引

5、增强CBO特性

6、消除了buffer pool mutex(Percona的贡献)

7、自增ID持久化

8、行锁增加SKIP LOCKED和NOWAIT特性选项

9、新增事务CATS特性,大大提升事务性能(Michigan大学贡献)

10、memcached plugin增强

11、增强JSON性能、功能

12、新增智能选项 innodb_dedicated_server

三、MySQL hang的原因有哪些?

1、MySQL使用资源过高导致服务器太累扛不住。例如CPU、内存、 I/O等开销。

2、磁盘无可用空间。

3、MySQL频繁的创建和销毁连接。

4、MySQL使用的最大文件打开数和连接数,超过了操作系统的限制。

5、MySQL的锁不能有效的释放。例如持有行锁或者表锁,造成了MDL等待。

6、MySQL的bug导致的。

导致MySQL hang住的原因有很多,不局限于上述因素,还需要机智的你来挖掘。

四、专访王晓伟老师,MySQL数据导入数据仓库(Hadoop)有哪几种方式?

1、传统方式,采用mysqldump等工具将数据文件上传至HDFS

2、使用Sqoop Kettle等ETL工具,将数据表对应导入Hive的数据表

3、使用kafka+flume方案,将mysql binlog通过流式采集的方式导入Hadoop

4、设计实现Hive的快照表、增量表、全量表,实现MySQL到Hive数据的增量导入,并支持分库分表等特性。


公众号:知数堂,更多MySQL干货知识,关注公众号获取。

原文链接:https://zhishutang.com/B0b
推荐阅读:https://zhishutang.com/xdI

你可能感兴趣的