如何在MySQL中存儲emoji?
問題還原
使用 erlang 存儲一些特殊字符串到 MySQL 的時候,卻沒法讀出來。經檢查,這些字符串的二進制格式如下:
- <<240,159,152,134,240,159,152,144>>
查看二進制的 unicode 是什么?
- 14> unicode:characters_to_list(<<240,159,152,134,240,159,152,144>>).
- [128518,128528]
- 15> erlang:integer_to_list(128518,16).%%查看十六進制
- "1F606"
- 16> erlang:integer_to_list(128528,16).
- "1F610"
明顯,1F606 和 1F610 超過了常見 unicode 字符串 0000-FFFF 的表達范圍。
這里引用資料:http://cenalulu.github.io/linux/character-encoding/
1F606 和 1F610 代表什么?
根據 unicode 官網上的說明,這是一種 emoji(表情符號),具體的展示形式與廠商有關。
MySQL 上存儲失敗的原因
目前來說,多數 MySQL 都是以 utf8 存儲,注意 MySQL 的 utf8 和我們所說的傳統 utf8 有點區別。MySQL 的 utf8 編碼規定了最多只能有 3 個字節,而 emoji 的 unicode 已經超過了 3 個字節,因此 MySQL 的 utf8 無法識別與存儲 emoji。
為此可以查閱 MySQL 中關于 unicode 支持的資料,從中可以得知 MySQL 在 5.5 后開始支持 utf8mb4,這種編碼支持 1 ~ 4 個字節,這種編碼可以表示 emoji。
另外 utf8mb4 向下兼容 utf8。
關于 unicode 與 utf8 的詳細介紹,請查看:http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html
解決方案
將 MySQL 中對應的字段改成 utf8mb4 編碼:
- ALTER TABLE t1
- DEFAULT CHARACTER SET utf8mb4,
- MODIFY col1 CHAR(10)
- CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL,
- MODIFY col2 CHAR(10)
- CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NOT NULL;
參考:http://dev.mysql.com/doc/refman/5.5/en/charset-unicode-upgrading.html
將連接庫的連接編碼改為 utf8mb4,以 erlang 的連接庫 emysql 為例:
- emysql:add_pool(pool,[{size,1},{user,"user"},{password,"password"},{host,"host"},{port,3306},{encoding,utf8mb4}]).
- %%或者
- emysql:add_pool(pool,1,"user","password","host",3306,undefined, utf8mb4).
為了建表方便,可以修改 my.cnf:
- # 服務器字符集
- [mysql]
- default-character-set=utf8mb4
- [mysqld]
- character-set-server=utf8mb4