初窺InnoDB的Memcached插件

作者：火丁 2013-08-21 15:47:05

前些年，HandlerSocket的橫空出世讓人們眼前一亮，當(dāng)時我還寫了一篇文章介紹了其用法梗概，時至今日，由于種種原因，HandlerSocket并沒有真正流行起來，不過慶幸的是MySQL官方受其啟發(fā)，研發(fā)了基于InnoDB 的Memcached插件……

前些年，HandlerSocket的橫空出世讓人們眼前一亮，當(dāng)時我還寫了一篇文章介紹了其用法梗概，時至今日，由于種種原因，HandlerSocket并沒有真正流行起來，不過慶幸的是MySQL官方受其啟發(fā)，研發(fā)了基于InnoDB 的Memcached插件，總算是在MySQL中延續(xù)了NoSQL的香火，以前單獨(dú)架設(shè)Memcached服務(wù)器不僅浪費(fèi)了內(nèi)存，而且還必須自己維護(hù)數(shù)據(jù) 的不一致問題，有了Memcached插件，這些問題都不存在了，而且借助MySQL本身的復(fù)制功能，我們可以說是變相的實(shí)現(xiàn)了Memcached的復(fù) 制，這更是意外之喜。

安裝

為了讓文章更具完整性，我們選擇從源代碼安裝MySQL，需要注意的是早期的版本有內(nèi)存泄漏，所以推薦安裝最新的穩(wěn)定版，截至本文發(fā)稿時為止，最新的穩(wěn)定版是5.6.13，我們就以此為例來說明，過程很簡單，只要激活了WITH_INNODB_MEMCACHED即可：

shell> groupadd mysql 
shell> useradd -r -g mysql mysql 
shell> tar zxvf mysql-5.6.13.tar.gz 
shell> cd mysql-5.6.13 
shell> cmake . -DWITH_INNODB_MEMCACHED=ON 
shell> make 
shell> make install 
shell> cd /usr/local/mysql 
shell> chown -R mysql . 
shell> chgrp -R mysql . 
shell> scripts/mysql_install_db --user=mysql 
shell> chown -R root . 
shell> chown -R mysql data 
shell> bin/mysqld_safe --user=mysql & 
shell> cp support-files/mysql.server /etc/init.d/mysql.server

MySQL安裝完畢后，在插件目錄我們能看到innodb_engine.so和libmemcached.so：

mysql> SELECT @@plugin_dir; 
+------------------------------+ 
| @@plugin_dir                 | 
+------------------------------+ 
| /usr/local/mysql/lib/plugin/ | 
+------------------------------+

此外還需要導(dǎo)入Memcached插件所需要的表結(jié)構(gòu)：

mysql> SOURCE /usr/local/mysql/share/innodb_memcached_config.sql

一切就緒后就可以激活Memcached插件了（當(dāng)然如果需要的話也可以禁止）：

mysql> INSTALL PLUGIN daemon_memcached soname "libmemcached.so"; 
mysql> UNINSTALL PLUGIN daemon_memcached;

說明：如果要重啟插件的話，可以先uninstall，再install。

Memcached插件相關(guān)的配置信息如下，具體介紹可以參考官方文檔：

mysql> SHOW VARIABLES LIKE '%memcached%'; 
+----------------------------------+------------------+ 
| Variable_name                    | Value            | 
+----------------------------------+------------------+ 
| daemon_memcached_enable_binlog   | OFF              | 
| daemon_memcached_engine_lib_name | innodb_engine.so | 
| daemon_memcached_engine_lib_path |                  | 
| daemon_memcached_option          |                  | 
| daemon_memcached_r_batch_size    | 1                | 
| daemon_memcached_w_batch_size    | 1                | 
+----------------------------------+------------------+

注意：daemon_memcached_r_batch_size和daemon_memcached_w_batch_size，這兩個選項(xiàng)對性能影響較大，簡單點(diǎn)說就是控制事務(wù)提交的頻率，MySQL的缺省值均為1，也就是說每次都提交，這主要是從安全性考慮的，大家可以依照自己的情況來調(diào)整。

差不多了，此時Memcached端口應(yīng)該準(zhǔn)備就緒了，你可以試試看：

shell> echo "stats" | nc localhost 11211

換句話說，MySQL已經(jīng)兼容Memcached協(xié)議，可以直接使用Memcached命令。

#p#

配置

在安裝步驟里，我們導(dǎo)入了一個名為innodb_memcached_config.sql的腳本，它創(chuàng)建了一庫（innodb_memcache）三表（cache_policies, config_options, containers）：

mysql> USE innodb_memcache 
mysql> SHOW TABLES; 
+---------------------------+ 
| Tables_in_innodb_memcache | 
+---------------------------+ 
| cache_policies            | 
| config_options            | 
| containers                | 
+---------------------------+

cache_policies定義了緩存策略，包含如下選擇：

innodb_only：只使用InnoDB作為數(shù)據(jù)存儲。
cache-only：只使用傳統(tǒng)的Memcached引擎作為后端存儲。
caching：二者皆使用，如果在Memcached里找不到，就查詢InnoDB。

config_options定義了分隔符號：

separator：Memcached只識別單值，使用此分隔符（|）來連接多個字段的值。
table_map_delimiter：通過此分隔符（.）來確認(rèn)表和鍵，如：@@table.key。

如果我們想通過Memcached協(xié)議來訪問一個表，需要先在containers中配置它：

mysql> SELECT * FROM containers\G 
*************************** 1. row *************************** 
                  name: aaa 
             db_schema: test 
              db_table: demo_test 
           key_columns: c1 
         value_columns: c2 
                 flags: c3 
            cas_column: c4 
    expire_time_column: c5 
unique_idx_name_on_key: PRIMARY

如上已經(jīng)有了test數(shù)據(jù)庫的demo_test表，通過c1查詢c2的值，表結(jié)構(gòu)如下所示：

mysql> DESC test.demo_test; 
+-------+---------------------+------+-----+---------+-------+ 
| Field | Type                | Null | Key | Default | Extra | 
+-------+---------------------+------+-----+---------+-------+ 
| c1    | varchar(32)         | NO   | PRI |         |       | 
| c2    | varchar(1024)       | YES  |     | NULL    |       | 
| c3    | int(11)             | YES  |     | NULL    |       | 
| c4    | bigint(20) unsigned | YES  |     | NULL    |       | 
| c5    | int(11)             | YES  |     | NULL    |       | 
+-------+---------------------+------+-----+---------+-------+

缺省情況下有一行數(shù)據(jù)：

mysql> SELECT * FROM test.demo_test; 
+----+--------------+------+------+------+ 
| c1 | c2           | c3   | c4   | c5   | 
+----+--------------+------+------+------+ 
| AA | HELLO, HELLO |    8 |    0 |    0 | 
+----+--------------+------+------+------+

讓我們用Memcached協(xié)議來訪問看看：

shell> echo "get @@aaa.AA" | nc localhost 11211 
VALUE @@aaa.AA 8 12 
HELLO, HELLO 
END

我們還可以先設(shè)定缺省訪問的表，然后后續(xù)的查詢就只寫鍵名就可以了：

shell> (echo "get @@aaa"; echo "get AA") | nc localhost 11211 
VALUE @@aaa 0 14 
test/demo_test 
END 
VALUE AA 8 12 
HELLO, HELLO 
END

雖然我的例子都是通過命令行執(zhí)行的，但是大家很容易就更改寫成PHP之類的方法。

限制

Memcached插件用起來非常簡單，不過并不是一切都很完美，比如說：當(dāng)我們配置表的時候，containers表的字段，除了 key_columns和value_columns以外，其它的字段，如：flags，cas_column，expire_time_column等也必須設(shè)定，可是很多時候，我們在原表中找不到貼切的字段，此時就只能對應(yīng)新建三個字段，味道很惡心。

此外，containers表還有如下限制：

key_columns字段的類型必須是CHAR或VARCHAR，且最大長度是250個字符。
value_columns字段的類型必須是CHAR或VARCHAR或BLOB，長度不限。
cas_column字段的類型必須是BIGINT。
expiration_time_column字段的類型必須是INT。
flags字段的類型必須是INT。

說明：隨著MySQL版本的更新，這些限制可能會發(fā)生變化，請大家以實(shí)際情況為準(zhǔn)。

#p#

實(shí)戰(zhàn)

讓我們以一個用戶登錄的例子來檢驗(yàn)一下學(xué)習(xí)成果：

首先在測試數(shù)據(jù)庫創(chuàng)建一個用戶表：

USE `test` 
 
CREATE TABLE `users` ( 
    `id` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT, 
    `username` VARCHAR(15) NOT NULL, 
    `password` VARCHAR(32) NOT NULL, 
    `email` VARCHAR(50) NOT NULL, 
    `flags` INT(10) UNSIGNED DEFAULT '0', 
    `cas_column` BIGINT(20) UNSIGNED DEFAULT '0', 
    `expire_time_column` INT(10) UNSIGNED DEFAULT '0', 
    PRIMARY KEY (`id`), 
    UNIQUE KEY `username` (`username`) 
) ENGINE=InnoDB;

然后添加幾行測試數(shù)據(jù)：

INSERT INTO `users` (`username`, `password`, `email`) 
VALUES 
('foo', 'ffffffffffffffffffffffffffffffff', 'foo@domain.com'), 
('bar', 'bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb', 'bar@domain.com');

接著在containers里配置這個表：

INSERT INTO innodb_memcache.containers ( 
    name, db_schema, db_table, key_columns, value_columns, 
    flags, cas_column, expire_time_column, unique_idx_name_on_key 
) VALUES ( 
    'default', 'test', 'users', 'username', 'password|email', 
    'flags', 'cas_column', 'expire_time_column', 'username' 
);

這里我們定義了多個字段（password和email）作為value_columns，并且使用豎線作為分隔符，實(shí)際上使用空格，逗號之類分隔符也可以，在innodb_config.c文件的源代碼中能查到如下關(guān)于分隔符的定義，文檔里并沒有涵蓋這些信息：

static const char* sep = " ;,|\n";

最后使用Memcached協(xié)議來訪問一下，這里我們換個花樣，執(zhí)行一個MGET操作：

shell> echo "get foo bar" | nc localhost 11211 
VALUE foo 0 47 
ffffffffffffffffffffffffffffffff|foo@domain.com 
VALUE bar 0 47 
bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb|bar@domain.com 
END

既然我定義value_columns的時候設(shè)置了多個字段，那么返回?cái)?shù)據(jù)的時候自然也返回多個字段的數(shù)據(jù)，并且它們依照 innodb_memcache.config_options表中的separator字段來分隔，缺省情況下是一個豎線，如果你的字段內(nèi)容里包含了豎線，那么就會和缺省值發(fā)生沖突，此時你可以更新separator的定義，比如改成三個豎線等等，需要提醒的是，修改后別忘了重啟Memcached插件。

說明：因?yàn)閭冊谂渲玫臅r候把表命名為default，所以在請求的時候不用傳遞表名。如果不存在default，那么會把名字按照字母順序正序排列，排在第一位的就是缺省。

…

本文在使用Memcached插件的時候，所有例子均使用的是讀操作，實(shí)際上寫操作也是支持的，不過在實(shí)際使用時，我更傾向于寫操作都通過SQL來執(zhí)行，而Memcached插件僅處理KV形式的讀操作，實(shí)際壓力測試的結(jié)果顯示，Memcached插件比SQL的方式，性能提升了百分之一百左右，雖然仍不及獨(dú)立的Memcached，但考慮到其它的優(yōu)勢，這個結(jié)果已經(jīng)很讓人欣喜了，下一站，InnoDB的Memcached插件！大家做好準(zhǔn)備吧。

原文鏈接：http://huoding.com/2013/08/20/279

責(zé)任編輯：林師授來源：火丁筆記