首页 » mysql » 正文

Inception安装部署实现SQL自动审核与上线

1  Incption概述

1.1  Inception简介

Inception是集审核、执行、回滚于一体的一个自动化运维系统,它可以对提交的所有语句的语法分析,如果语法有问题,都会将相应的错误信息返回给审核者。 还提供SQL语句的执行功能,可执行的语句类型包括常用的DML及DDL语句及truncate table等操作。Inception在执行 DML时还提供生成回滚语句的功能,对应的操作记录及回滚语句会被存储在备份机器上面,备份机器通过配置Inception参数来指定。

源码地址:https://github.com/mysql-inception/inception

文档地址:http://mysql-inception.github.io/inception-document/

2  Incption安装

2.1  下载源码包

https://github.com/mysql-inception/inception

download zip

2.2  安装编译时的依赖

yum install gcc gcc-c++ cmake bison openssl-devel ncurses-devel –y

2.3  开始安装

unzip inception-master.zip

cd inception-master

./inception_build.sh debug [Xcode]

2.4  编辑配置文件

vim /etc/inc.cnf

[inception]

general_log=1

general_log_file=inc.log

port=6669

socket=/tmp/inc.socket

character-set-client-handshake=0

character-set-server=utf8

inception_remote_system_password=thunder

inception_remote_system_user=thunder

inception_remote_backup_port=3306

inception_remote_backup_host=127.0.0.1

inception_support_charset=utf8

inception_enable_nullable=0

inception_check_primary_key=1

inception_check_column_comment=1

inception_check_table_comment=1

inception_osc_min_table_size=1

inception_osc_bin_dir=/usr/bin

inception_osc_chunk_time=0.1

inception_ddl_support=1

inception_enable_blob_type=1

inception_check_column_default_value=1

 

#相关配置说明请参见官方文档,在概述中已给出地址

2.5  启动Inception服务,类似mysql启动方式

/opt/thunder/inception-master/debug/mysql/bin/Inception –defaults-file=/etc/inc.cnf &

登陆测试,可通过sock或者端口,上面配置文件中配置的端口为6669

mysql –h127.0.0.1 –P6669 –uroot

mysql> inception get variables;

输出相关变量则安装成功

2.6  用脚本测试相关审核语句

#!/usr/bin/python
import MySQLdb
sql=’/*–user=thunder;–password=thunder;–host=127.0.0.1;–enable-remote-backup=0;–execute;–port=3306;*/\
inception_magic_start;\
use test;\
CREATE TABLE `alifeba_user` (\
`ID` int(11) unsigned NOT NULL auto_increment comment “aaa”,\
`username` varchar(50) NOT NULL Default “” comment “aaa”,\
`realName` varchar(50) NOT NULL Default “” comment “aaa”,\
`age` int(11) NOT NULL Default 0 comment “aaa”,\
PRIMARY KEY (`ID`)\
)ENGINE=INNODB DEFAULT CHARSET=utf8 COMMENT=”AAAA”;\
inception_magic_commit;’
try:
conn=MySQLdb.connect(host=’127.0.0.1′,user=”,passwd=”,db=”,port=6669)
cursor=conn.cursor()
cursor.execute(sql)
results = cursor.fetchall()
column_name_max_size=max(len(i[0]) for i in cursor.description)
row_num=0
for result in results:
row_num=row_num+1
print ‘*’.ljust(27,’*’),row_num,’.row’, ‘*’.ljust(27,’*’)
row = map(lambda x, y: (x,y), (i[0] for i in cursor.description), result)
for each_column in row:
if each_column[0] != ‘errormessage’:
print each_column[0].rjust(column_name_max_size),”:”,each_column[1]
else:
print each_column[0].rjust(column_name_max_size),’:’,each_column[1].replace(‘\n’,’\n’.ljust(column_name_max_size+4))
cursor.close()
conn.close()
except MySQLdb.Error,e:
print “Mysql Error %d: %s” % (e.args[0], e.args[1])

执行测试脚本

python inc.py
*************************** 1 .row ***************************
ID : 1
stage : RERUN
errlevel : 0
stagestatus : Execute Successfully
errormessage : None
SQL : use test
Affected_rows : 0
sequence : ‘1487924011_2298_0’
backup_dbname : None
execute_time : 0.000
sqlsha1 :
*************************** 2 .row ***************************
ID : 2
stage : EXECUTED
errlevel : 0
stagestatus : Execute Successfully
errormessage : None
SQL : CREATE TABLE `alifeba_user` (     `ID` int(11) unsigned NOT NULL auto_increment comment “aaa”,     `username` varchar(50) NOT NULL Default “” comment “aaa”,     `realName` varchar(50) NOT NULL Default “” comment “aaa”,     `age` int(11) NOT NULL Default 0 comment “aaa”,     PRIMARY KEY (`ID`))ENGINE=INNODB DEFAULT CHARSET=utf8 COMMENT=”AAAA”
Affected_rows : 0
sequence : ‘1487924011_2298_1’
backup_dbname : 127_0_0_1_3306_test
execute_time : 0.010
sqlsha1 :

成功

3  inception_web安装

3.1  inception_web简介

inception_web是web封装的界面,可以通过web界面来实现相关功能,用python写的,目前比较简单,后面的需求需要自己开发

源码地址:https://github.com/dbalihui/inception_web

打开地址后,可以看到:

数据库运维平台

已实现功能:

表结构语法审核

环境配置

python2.7 + flask

先安装依赖模块

pip install flask_wtf

pip install flask-script

pip install flask-debugtoolbar

pip install MySQL-python

使用方法

先将app目录中的inception.py文件里的账号密码改成自己的

记得use sql_check这里要改成自己的数据库名字

在inception_web目录下运行./run.py runserver –host 0.0.0.0

使用浏览器访问你的IP http://192.168.xx.xxx:5000/

运行报错的话是因为没有安装flask组件,请使用pipinstall xx安装相关组件

我的系统是python版本为2.6.6所以我们需要先升级python

3.2  升级python到2.7

# wget https://www.python.org/ftp/python/2.7.10/Python-2.7.10.tgz –no-check-certificate

# tar -xvf Python-2.7.10.tar

# cd Python-2.7.10

# ./configure

# make –j 8 && make install

# /usr/local/bin/python -V

# mv /usr/bin/python /usr/bin/python2.6.6

# ln -s /usr/local/bin/python /usr/bin/python

# python -V //验证版本

# vim /usr/bin/yum   //修改#!/usr/bin/python 为#!/usr/bin/python2.6.6,因为yum安装依赖的是2.6版本的python

3.3  安装incpetion_web依赖模块

# yum -y install python-pip   //yum安装的是2.6版本的pip

# wget https://bootstrap.pypa.io/ez_setup.py  –no-check-certificate  //下载一个ez_setup 安装pip2.7版本的

# python2.7 ez_setup.py

# easy_install-2.7 pip

# pip2.7 install flask_wtf

# pip2.7 install flask-script

# pip2.7 install flask-debugtoolbar

# pip2.7 install MySQL-python //如果安装报错yuminstall mysql-devel –y

3.4  修改配置文件

# unzip inception_web-master.zip

# cd inception_web-master/app

# vim inception.py

#coding=utf-8

 

import MySQLdb

 

def table_structure(mysql_structure):

sql1=’ /*–user=thunder;–password=thunder;–host=127.0.0.1;–execute=1;–port=3307;*/\

inception_magic_start;\

use test;’ //此处为默认选择数据库,如果在web不加use会默认对该库操作,对于生产库请慎重选择,建议最好创建一下与业务无关的库,在执行SQL的时候加上usedbname;

sql2=’inception_magic_commit;’

sql = sql1 +mysql_structure + sql2

try:

conn=MySQLdb.connect(host=’127.0.0.1′,user=’root’,passwd=”,db=”,port=6669,use_unicode=True,charset=”utf8″)

cur=conn.cursor()

ret=cur.execute(sql)

result=cur.fetchall()

num_fields =len(cur.description)

field_names = [i[0]for i in cur.description]

print field_names

for row in result:

print row[0],”|”,row[1],”|”,row[2],”|”,row[3],”|”,row[4],”|”,row[5],”|”,row[6],”|”,row[7],”|”,row[8],”|”,row[9],”|”,row[10]

cur.close()

conn.close()

except MySQLdb.Error,e:

print “MysqlError %d: %s” % (e.args[0], e.args[1])

returnresult[1][4].split(“\n”)

3.5  启动inception_web

# cd inception_web-master

# ./run.py runserver –host 0.0.0.0

在浏览器中访问服务器http://IP:5000就可以访问页面了

4  相关说明

4.1  在页面中进行SQL操作时,如果提示为None,则代表语句执行成功,如果语句有问题,请按相关提示修改SQL,并再次执行

4.2  配置了备份库后,语句执行后,会在备份数据库创建一个库名为IP_PORT_DBNAME的库,里面有相关操作时对表的备份以及记录,其中$_$Inception_backup_information$_$表为对该库进行操作的所有记录,可以通过该表来查看对该库名上的数据库做了哪些修改。

mysql> select * from $_$Inception_backup_information$_$\G

*************************** 1. row ***************************

opid_time:1460022412_6348032_1

start_binlog_file: mysql-bin.000019

start_binlog_pos: 85611296

end_binlog_file:mysql-bin.000019

end_binlog_pos: 85611498

sql_statement: deletefrom test.test where id=1

host:192.168.199.58

dbname: test

tablename: test

port: 3307

time:2016-04-07 17:46:52

type: DELETE

6 rows in set (0.00 sec)

4.3  如果开启了统计功能,在备份库的inception库中会创建一张名为statistic的表,里面记录了所有执行过的语句类型

mysql> desc statistic;

+————–+————+——+—–+——————-+—————-+

| Field        | Type       | Null | Key | Default           | Extra          |

+————–+————+——+—–+——————-+—————-+

| id           | bigint(20)| NO   | PRI | NULL              | auto_increment |

| optime       |timestamp  | NO   |    | CURRENT_TIMESTAMP |               |

| usedb        |int(11)    | NO   |    | 0                 |                |

| deleting     |int(11)    | NO   |    | 0                 |                |

| inserting    |int(11)    | NO   |    | 0                 |                |

| updating     |int(11)    | NO   |    | 0                 |                |

| selecting    |int(11)    | NO   |    | 0                 |                |

| altertable   |int(11)    | NO   |    | 0                 |                |

| renaming     |int(11)    | NO   |    | 0                 |                |

| createindex  |int(11)    | NO   |    | 0                 |                |

| dropindex    |int(11)    | NO   |    | 0                 |                |

| addcolumn    |int(11)    | NO   |    | 0                 |                |

| dropcolumn   |int(11)    | NO   |    | 0                 |                |

| changecolumn | int(11)   | NO   |     | 0                 |                |

| alteroption  |int(11)    | NO   |    | 0                 |                |

| alterconvert | int(11)   | NO   |     | 0                 |                |

| createtable  |int(11)    | NO   |    | 0                 |                |

| droptable    |int(11)    | NO   |    | 0                 |                |

| createdb     |int(11)    | NO   |    | 0                 |                |

| truncating   |int(11)    | NO   |    | 0                 |                |

+————–+————+——+—–+——————-+—————-+

20 rows in set (0.01 sec)

通过select可以查询出相关操作的条数,方便统计