Memcached 原理及最佳实践

Memcached 是一个开源的、支持高性能高并发的分布式内存缓存系统，由 C 语言编写，共 2000多行代码。

传统 mysql 保存数据，web 服务器从中读取数据并显示，但是数据量大并且访问集中的情况下，数据库会有瓶颈，导致网站延迟大，用户体验差。

memcached 能够将数据库的查询结果缓存到内存中，减少数据库被访问的次数，提高性能，通常来说会被频繁读取的数据都可以存到 memcached 中，因为内存的读写速度比磁盘快，但是 memcached 也并不是没有缺点的，内存大家都知道叫随机存储器，一旦关机或掉电数据就会全部丢失。

memcached 使用 key-value 对的形式存储数据，它在内存中缓存的数据就像一张巨大 hash 表。memcached 的 value 只支持 string 类型。

如何使用 memcached 减轻服务器压力？

读取数据流程

1.web 程序首先检查客户端请求的数据是否存在 memcached 中，如果存在直接返回，不会去请求数据库。

2.如果请求的数据不在 memcached 中，则会去请求数据库，然后读取数据返回客户端，同时在把新数据缓存一份到 memcached 中。

更新数据流程

1.当程序更新或删除数据库时，会首先处理后端数据库中的数据

2.在处理数据库中数据的同时，通知memcached，告诉它对应的旧数据失效，这样保证了2端数据的一致。

1. 如果是高并发读写场合，除了要通知 memcached 过期的缓存失效，还要有相关通知机制来预热数据

图为 memcached 在企业 web 服务中的位置

特点和工作原理

memcached 的协议简单，目前仅支持二进制和文本模式，你可以通过 Telnet 或 nc 等命令直接 操作 memcached。

二进制和文本模式的区别：

• 二进制：解码速度快，支持设置密码
• 文本模式：简单、稳定，不支持设置密码

支持 epoll/kqueue 异步 I/O 模型，使用 livevent 作为事件的处理通知机制

memcached 使用全内存缓存，效率高，其全部数据都存放于 memcached 事先分配好的内存中，无持久化存储设计。

当内存中的缓存数据容量达到服务启动时设定的内存值时候，就会自动使用 LRU 算法删除过期的缓存数据，也可以存放数据时对存储的数据设置过期时间，到期就被清除，其本身不健康数据过期，而是在访问的时候查看 key 的时间戳判断是否过期。

memcached 支持分布式集群，但是它没有 mysql 那样的主从复制，其分布式集群的不同服务器之间是互不通信的，节点独立，并且数据也不一样。比如 memcached 通过nginx的一致性 hash 算法进行负载均衡：

http { 
    upstream test {
     consistent_ hash $ request_ uri；
    server 127. 0. 0. 1： 11211 id= 1001 weight= 3； 
    server 127. 0. 0. 1： 11212 id= 1002 weight= 10； 
    server 127. 0. 0. 1： 11213 id= 1003 weight= 20； 

    }

web 端分布式的简单代码

"memcached_ servers" => array（ '10. 4. 4. 4： 11211'， '10. 4. 4. 5： 11211'， '10. 4. 4. 6： 11211'， ）

memcached 是一套类似 C/S 模式机构的软件，在服务器启动 memcached 服务守护进程，可以指定监听本地 IP 端口 并发访问数、以及预分配内存。

内存管理机制

采用了如下机制

slab : 提前把大内存分配大小为 1MB 的若干 slab，然后针对每个 slab 进行小对象的填充，被称为 chunk，避免大佬重复的初始化和清理，减轻了内存管理的负担。这些 chunk 不会被释放而是会循环利用。当有新增数据对象时候，因为 memcached 保存着 slab 的内存空闲 chunk 的列表，可以直接将数据进行缓存。其解决了内存碎片化问题，但是无法高效利用内存

LRU 可以配置参数如下：

volatile-lru：根据LRU算法生成的过期时间来删除
allkeys-lru ：根据LRU算法删除任何key   
volatile-random：根据过期设置来随机删除key   
allkeys-random：无差别随机删   
volatile-ttl ： 根据最近过期时间来删除（辅以TTL）   
noeviction ： 永不过期，返回错误

hash

多线程

采用 POSIX 线程模式

安装

yum install libevent libevent-deve gcc make cmake
wget -c http://file201503.oss-cn-shanghai.aliyuncs.com/memcached-1.5.6.tar.gz
tar zxvf memcached-1.5.6.tar.gz
./configure --prefix=/usr/local/memcached

如提示：

checking for libevent directory... configure: error: libevent is required.  You can get it from http://www.monkey.org/~provos/libevent/

      If it's already installed, specify its path using --with-libevent=/dir/

则

wget -c https://github.com/libevent/libevent/releases/download/release-2.1.8-stable/libevent-2.1.8-stable.tar.gz

tar zxvf  libevent-2.1.8-stable.tar.gz

cd libevent-2.1.8-stable
./configure
make
make install

然后切换到 memcached 目录

执行

./configure --prefix=/usr/local/memcached --with-libevent=/usr/local/lib/ 
make
make install

报错

[root@memcached memcached-1.5.6]# /usr/local/memcached/bin/memcached -h
/usr/local/memcached/bin/memcached: error while loading shared libraries: libevent-2.1.so.6: cannot open shared object file: No such file or directory

先使用

[root@memcached lib]# whereis libevent
libevent: /usr/local/lib/libevent.a /usr/local/lib/libevent.la /usr/local/lib/libevent.so

然后查看 memcached 依赖路径

LD_DEBUG=libs /usr/local/memcached/bin/memcached -v

得到如下结果

[root@memcached lib]# LD_DEBUG=libs /usr/local/memcached/bin/memcached -v
     54068:    find library=libevent-2.1.so.6 [0]; searching
     54068:     search cache=/etc/ld.so.cache
     54068:     search path=/lib64/tls/x86_64:/lib64/tls:/lib64/x86_64:/lib64:/usr/lib64/tls/x86_64:/usr/lib64/tls:/usr/lib64/x86_64:/usr/lib64        (system search path)
     54068:      trying file=/lib64/tls/x86_64/libevent-2.1.so.6
     54068:      trying file=/lib64/tls/libevent-2.1.so.6
     54068:      trying file=/lib64/x86_64/libevent-2.1.so.6
     54068:      trying file=/lib64/libevent-2.1.so.6
     54068:      trying file=/usr/lib64/tls/x86_64/libevent-2.1.so.6
     54068:      trying file=/usr/lib64/tls/libevent-2.1.so.6
     54068:      trying file=/usr/lib64/x86_64/libevent-2.1.so.6
     54068:      trying file=/usr/lib64/libevent-2.1.so.6
     54068:
/usr/local/memcached/bin/memcached: error while loading shared libraries: libevent-2.1.so.6: cannot open shared object file: No such file or directory

执行

sudo ln -s /usr/local/lib/libevent-2.1.so.6 /usr/lib64/

再次执行即可

[root@memcached lib]# /usr/local/memcached/bin/memcached -h
memcached 1.5.6
-p, --port=<num>          TCP port to listen on (default: 11211)
-U, --udp-port=<num>      UDP port to listen on (default: 11211, 0 is off)
-s, --unix-socket=<file>  UNIX socket to listen on (disables network support)
-A, --enable-shutdown     enable ascii "shutdown" command
-a, --unix-mask=<mask>    access mask for UNIX socket, in octal (default: 0700)
-l, --listen=<addr>       interface to listen on (default: INADDR_ANY)
-d, --daemon              run as a daemon
-r, --enable-coredumps    maximize core file limit
-u, --user=<user>         assume identity of <username> (only when run as root)
-m, --memory-limit=<num>  item memory in megabytes (default: 64 MB)
-M, --disable-evictions   return error on memory exhausted instead of evicting
-c, --conn-limit=<num>    max simultaneous connections (default: 1024)
-k, --lock-memory         lock down all paged memory
-v, --verbose             verbose (print errors/warnings while in event loop)
-vv                       very verbose (also print client commands/responses)
-vvv                      extremely verbose (internal state transitions)
-h, --help                print this help and exit
-i, --license             print memcached and libevent license
-V, --version             print version and exit
-P, --pidfile=<file>      save PID in <file>, only used with -d option
-f, --slab-growth-factor=<num> chunk size growth factor (default: 1.25)
-n, --slab-min-size=<bytes> min space used for key+value+flags (default: 48)
-L, --enable-largepages  try to use large memory pages (if available)
-D <char>     Use <char> as the delimiter between key prefixes and IDs.
              This is used for per-prefix stats reporting. The default is
              ":" (colon). If this option is specified, stats collection
              is turned on automatically; if not, then it may be turned on
              by sending the "stats detail on" command to the server.
-t, --threads=<num>       number of threads to use (default: 4)
-R, --max-reqs-per-event  maximum number of requests per event, limits the
                          requests processed per connection to prevent
                          starvation (default: 20)
-C, --disable-cas         disable use of CAS
-b, --listen-backlog=<num> set the backlog queue limit (default: 1024)
-B, --protocol=<name>     protocol - one of ascii, binary, or auto (default)
-I, --max-item-size=<num> adjusts max item size
                          (default: 1mb, min: 1k, max: 128m)
-F, --disable-flush-all   disable flush_all command
-X, --disable-dumping     disable stats cachedump and lru_crawler metadump
-o, --extended            comma separated list of extended options
                          most options have a 'no_' prefix to disable
   - maxconns_fast:       immediately close new connections after limit
   - hashpower:           an integer multiplier for how large the hash
                          table should be. normally grows at runtime.
                          set based on "STAT hash_power_level"
   - tail_repair_time:    time in seconds for how long to wait before
                          forcefully killing LRU tail item.
                          disabled by default; very dangerous option.
   - hash_algorithm:      the hash table algorithm
                          default is murmur3 hash. options: jenkins, murmur3
   - lru_crawler:         enable LRU Crawler background thread
   - lru_crawler_sleep:   microseconds to sleep between items
                          default is 100.
   - lru_crawler_tocrawl: max items to crawl per slab per run
                          default is 0 (unlimited)
   - lru_maintainer:      enable new LRU system + background thread
   - hot_lru_pct:         pct of slab memory to reserve for hot lru.
                          (requires lru_maintainer)
   - warm_lru_pct:        pct of slab memory to reserve for warm lru.
                          (requires lru_maintainer)
   - hot_max_factor:      items idle > cold lru age * drop from hot lru.
   - warm_max_factor:     items idle > cold lru age * this drop from warm.
   - temporary_ttl:       TTL's below get separate LRU, can't be evicted.
                          (requires lru_maintainer)
   - idle_timeout:        timeout for idle connections
   - slab_chunk_max:      (EXPERIMENTAL) maximum slab size. use extreme care.
   - watcher_logbuf_size: size in kilobytes of per-watcher write buffer.
   - worker_logbuf_size:  size in kilobytes of per-worker-thread buffer
                          read by background thread, then written to watchers.
   - track_sizes:         enable dynamic reports for 'stats sizes' command.
   - no_inline_ascii_resp: save up to 24 bytes per item.
                           small perf hit in ASCII, no perf difference in
                           binary protocol. speeds up all sets.
   - no_hashexpand:       disables hash table expansion (dangerous)
   - modern:              enables options which will be default in future.
             currently: nothing
   - no_modern:           uses defaults of previous major version (1.4.x)

启动

[root@memcached lib]# /usr/local/memcached/bin/memcached -p 11211 -m 100m -vv -u root
slab class   1: chunk size        96 perslab   10922
slab class   2: chunk size       120 perslab    8738
slab class   3: chunk size       152 perslab    6898
slab class   4: chunk size       192 perslab    5461
slab class   5: chunk size       240 perslab    4369
slab class   6: chunk size       304 perslab    3449
slab class   7: chunk size       384 perslab    2730
slab class   8: chunk size       480 perslab    2184
slab class   9: chunk size       600 perslab    1747

其中 -p 指定端口 -m 指定预分配的内存大小 -vv 打印详细信息 -u 指定运行的用户

后台启动

/usr/local/memcached/bin/memcached -p 11211 -m 100m -d

使用二进制模式启动

/usr/local/memcached/bin/memcached -p 11211 -m 100m -B binary

二进制协议支持接口

文本协议支持接口

重要说明

memcached 强烈不建议开放公网访问,因为 memcached 同时监听 UDP 和 TCP 端口，而 UDP 协议相比较于 TCP 是比较简单的，不对数据做校验和确认，并且由于 memcached 是针对内存进行操作，读写速度非常快，如果权限设置不当被不法分子利用就很容易发起 DDOS 攻击。

Python 操作 memcached

1.安装库

pip3 install python-memcached

2.连接操作

import memcache

mc = memcache.Client(['59.111.104.12:11211'],debug=True)
mc.set('name','python')

ret =mc.get('name')
print(ret)

3.集群

mc = memcache.Client([('1.1.1.1:12000', 1), ('1.1.1.2:12000', 2),('1.1.1.3:12000',3)])