Memcached - 윈디하나의 솔라나라
로빈아빠
본문
Memcached - 윈디하나의 솔라나라
|
목차
개요
- memcached 는 이름 그대로 메모리를 사용해 캐시서비스를 제공해주는 데몬이다. memcache 라는 이름의 라이브러리가 많은데, 여기서 설명하는 건 '데몬'이다.
- memcached 는 LiveJournal을 개발한 Brad Fitzpatrick 이 개발했다. 유투브나 아마존, 위키피디아, 소스포지, 트위터 등 많은 대형 사이트에서 사용되고 있는 데몬이다.
- memcached 운용시 시스템의 메모리 상황를 모니터링 해, 스왑과 락이 일어나지 않도록 해야한다. memcached는 스왑이 일어나지 않을 정도로 메모리는 여유있다는 가정하에 개발되었다고 한다. 메모리가 부족해 스왑이 일어나 메모리에 저장했던 컨텐츠가 스왑 디스크에 저장되면, 심각한 속도 저하가 있을 것이다.
- memcached 는 메모리에 데이터를 캐시하는 데몬이며, 아래와 같은 사용은 지양해야 한다.
- 파일의 캐시로 사용하지 말 것. 단순한 파일 캐시는 OS상에서 제공해준다. memcached는 파일을 읽고 가공한 것을 캐시해야 한다.
- 데이터베이스 쿼리 결과의 캐시로 사용하지 말 것. 위와 비슷한 이유다. 요즘 나오는 대부분의 상용 DBMS는 쿼리결과를 캐시해주기 때문에 이중으로 캐시할 필요 없다.
- memcached - a distributed memory object caching system
설치
-
libevent
memcached 설치에는 libevent 라이브러리가 필요하다. 이 라이브러리는 이벤트(예를 들어 시그널이나 타입아웃)가 발생했을 때 콜백 함수를 쉽게 호출할 수 있도록 도와주는 라이브러리다.
libeventroot@wl ~/src # wget --no-check-certificate https://github.com/downloads/libevent/libevent/libevent-2.0.21-stable.tar.gz root@wl ~/src # tar xvfz libevent-2.0.21-stable.tar.gz root@wl ~/src # cd libevent-2.0.21-stable root@wl ~/src/libevent-2.0.21-stable # ./configure CFLAGS="-I/usr/local/ssl/include" CPPFLAGS="-I/usr/local/ssl/include" root@wl ~/src/libevent-2.0.21-stable # make root@wl ~/src/libevent-2.0.21-stable # make install
-
memcached
root@wl ~/src # wget http://www.memcached.org/files/memcached-1.4.16.tar.gz root@wl ~/src # tar xvfz memcached-1.4.16.tar.gz root@wl ~/src # cd memcached-1.4.16 root@wl ~/src/memcached-1.4.16 # ./configure --enable-dtrace root@wl ~/src/memcached-1.4.16 # make root@wl ~/src/memcached-1.4.16 # make install
-
libMemcached
- memcached 는 TCP로 데몬에 접속해 메시지를 주고 받는 방법으로 사용한다. 따라서 라이브러리를 제공하지 않고 memcached 프로토콜 스펙만 제공해준다. 이를 래핑해 사용하기 쉽도록 만든 라이브러리가 libmemcached 이다.
- 라이브러리 뿐만 아니라, memcp, memcat 과 같은 memcached 용 클라이언트 커맨드 툴도 제공하고 있다.
- libMemcached 는 현재 Solaris Studio 12.3 으로 컴파일 되지 않는다. (#pragma once 미지원) 솔라리스에 번들된 GCC컴파일러로도 안된다. 필자의 경우 GCC 4.7.3 를 사용했다. GCC 설치에 대한 설명은 윈디하나의 솔라나라: GCC를 참고하자. 이 문서의 내용을 진행함에 있어 libMemcached 라이브러리는 컴파일하지 않아도 된다.
- libMemcached
root@wl ~/src # wget --no-check-certificate https://launchpad.net/libmemcached/1.0/1.0.17/+download/libmemcached-1.0.17.tar.gz root@wl ~/src # tar xvfz libmemcached-1.0.17.tar.gz root@wl ~/src # cd libmemcached-1.0.17 root@wl ~/src/libmemcached-1.0.17 # ./configure --with-memcached --with-mysql ... --- Configuration summary for libmemcached version 1.0.17 * Installation prefix: /usr/local * System type: pc-solaris2.10 * Host CPU: i386 * C Compiler: gcc (GCC) 4.7.3 * C Flags: -g -O2 -Wno-unknown-pragmas -Wno-pragmas -Wall ... * C++ Compiler: g++ (GCC) 4.7.3 * C++ Flags: -g -O2 -Wno-unknown-pragmas -Wno-pragmas -Wall ... * CPP Flags: -fvisibility=hidden * LIB Flags: * Assertions enabled: no * Debug enabled: no * Shared: yes * Warnings as failure: no * SASL support: no * make -j: 2 * VCS checkout: no --- root@wl ~/src/libmemcached-1.0.17 # vi libtest/main.cc 1)#include <strings.h> root@wl ~/src/libmemcached-1.0.17 # vi Makefile 2)LIBS = -lnsl -lrt -lsocket root@wl ~/src/libmemcached-1.0.17 # /usr/sfw/bin/gmake root@wl ~/src/libmemcached-1.0.17 # /usr/sfw/bin/gmake install
1) string.h 헤더를 추가한다. rindex 를 찾지 못한다는 메시지가 나온다.
2) 솔라리스에서는 librt, libsocket 을 추가해야 한다.
실행
-
memcached 설정 및 실행
- 데몬을 띄울 포트번호와 사용할 최대 메모리 양을 정한다. 기본 포트는 11211 번이며, 사용할 최대 메모리는 64MB이 기본 값이다.
- memcached 는 별도의 설정 파일을 제공하지 않는다.
root@wl ~ # memcached -h 1)memcached 1.4.16 ... -l <addr> 바인드할 주소 -p <num> TCP 포트 번호 (기본값: 11211) -U <num> UDP 포트 번호 (기본값: 11211, 0 인경우 사용안함) -s <file> UNIX 소켓 경로 (네트워크 지원 안함) -d 데몬으로 실행 -u <username> 전환할 사용자 이름(루트로 실행시) -m <num> 최대 메모리(MB단위, 기본값: 64) -M 데이터 저장시 메모리가 부족할 경우 오류를 반환(기본값은 오래된 데이터를 삭제) -c <num> 최대 접속 개수 (기본값: 1024) -P <file> PID 파일 저장 위치. -d 옵션 사용시 사용 -f <factor> 증가 팩터값. (기본값: 1.25) -n <bytes> 키+값+플래그를 저장할 최소 단위(기본값: 48) -L large memory pages 사용(가능한경우) -t <num> 사용할 쓰레드 개수 (기본값: 4) -v 로그 보임 -vv 자세한 로그 보임 -vvv 매우 자세한 로그 보임 ...1) 도움말. 중요하다고 생각되는건 번역했다. 대형 사이트의 경우 도움말을 참조해 메모리관련 옵션 최적화를 반드시 수행해야 한다.
아래 커맨드는 windy 사용자의 권한을 사용하고, 64MB 메모리를 사용하고, 큰 페이지를 사용하며, 127.0.0.1만 바인드(외부 접속 불가)하는 데몬을 띄운다. PID 파일은 /tmp/memcached.pid 에 있다.root@wl ~ # memcached -u windy -d -m 64 -l 127.0.0.1 -p 11211 -L -P /tmp/memcached.pid
memcached 는 kill 을 사용해 종료하면 된다.root@wl ~ # kill `cat /tmp/memcached.pid`
-
memcached 프로토콜 예제
memcached 의 프로토콜은 두가지다. 바이너리 프로토콜과 아스키 프로토콜이 그것인데, 아스키 프로토콜은 telnet 등을 사용해 아래와 같이 이용할 수 있다. 부하가 많이 걸리는 곳에서는 바이너리 프로토콜이 아스키 프로토콜에 비해 성능이 '약간' 좋은 것으로 알려져있다.root@wl ~ # telnet localhost 11211 Trying 127.0.0.1... Connected to localhost. Escape character is '^]'. stats settings 1)STAT maxbytes 67108864 STAT maxconns 1024 STAT tcpport 11211 STAT udpport 11211 STAT inter 127.0.0.1 STAT verbosity 0 STAT oldest 0 STAT evictions on STAT domain_socket NULL STAT umask 700 STAT growth_factor 1.25 STAT chunk_size 48 STAT num_threads 4 STAT num_threads_per_udp 4 STAT stat_key_prefix : STAT detail_enabled no STAT reqs_per_event 20 STAT cas_enabled yes STAT tcp_backlog 1024 STAT binding_protocol auto-negotiate STAT auth_enabled_sasl no STAT item_size_max 1048576 STAT maxconns_fast no STAT hashpower_init 0 STAT slab_reassign no STAT slab_automove 0 STAT tail_repair_time 3600 END set mykey 0 100 2 hi 2)STORED get mykey 3)VALUE mykey 0 2 hi END Ctrl+]telnet> Ctrl+DConnection to localhost closed. root@wl ~ #
1) 세팅 확인
2) 데이터 저장
3) 데이터 추출 -
기본 튜닝
TCP 스펙상 접속을 끊은 후 TIME_WAIT 대기 시간이 발생한다. 30~240초로 설정할 수 있는데, 대부분의 운영체제에서는 240초가 기본값이다. 하지만 이 값은 memcached 를 운용하는 환경에서는 너무 길다. 트래픽이 많은 곳에서 memcached 와 빈번하게 통신하다 보면, TIME_WAIT가 수만개 이상 발생하는 경우가 있고, 이로인해 memcached 에 접속이 안되는 현상이 발생하는 경우가 있기 때문이다. (어느 정도까지 문제 없는지는 운영체제마다, 설정마다 다르다) 따라서 각 운영체제 마다 이를 줄여주는 옵션이 있다. memcached 를 실행한 서버에서 아래와 같이 30초로 세팅한다. 참고로 TCP표준은 최소 60초 이상을 권장한다.- 솔라리스
root@wl ~ # ndd -set /dev/tcp tcp_time_wait_interval 30000 root@wl ~ # export EVENT_NOEVPORT=1
- 리눅스
root@wll ~ # vi /etc/sysctl.conf net.ipv4.ip_local_port_range = 16384 65534 net.ipv4.tcp_fin_timeout = 30 net.ipv4.tcp_tw_reuse = 1 root@wll ~ # sysctl -p
- 윈도
C:\>edit tcptimewait.reg [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters] "TcpTimedWaitDelay"=dword:0000001e C:\>regedit /S tcptimewait.reg
- 솔라리스
-
memcached 와 DTrace
현재 지원되는 프로바이더와 프로브는 아래와 같다. (아래 예제를 따라하기 전에 먼저 memcached 데몬을 실행해야 한다)root@wl ~ # dtrace -l -m memcached ID PROVIDER MODULE FUNCTION NAME 2752 memcached16537 memcached assoc_delete assoc-delete 2753 memcached16537 memcached assoc_find assoc-find 2754 memcached16537 memcached assoc_insert assoc-insert 2755 memcached16537 memcached complete_update_bin command-add 2756 memcached16537 memcached complete_nread_ascii command-add 2757 memcached16537 memcached complete_update_bin command-append 2758 memcached16537 memcached complete_nread_ascii command-append 2759 memcached16537 memcached complete_nread_ascii command-cas 2760 memcached16537 memcached do_add_delta command-decr 2761 memcached16537 memcached process_delete_command command-delete 2762 memcached16537 memcached process_bin_delete command-delete 2763 memcached16537 memcached process_get_command command-get 2764 memcached16537 memcached process_bin_get command-get 2765 memcached16537 memcached do_add_delta command-incr 2766 memcached16537 memcached complete_update_bin command-prepend 2767 memcached16537 memcached complete_nread_ascii command-prepend 2768 memcached16537 memcached complete_update_bin command-replace 2769 memcached16537 memcached complete_nread_ascii command-replace 2770 memcached16537 memcached complete_update_bin command-set 2771 memcached16537 memcached complete_nread_ascii command-set 2772 memcached16537 memcached process_bin_touch command-touch 2773 memcached16537 memcached conn_new conn-allocate 2774 memcached16537 memcached conn_new conn-create 2775 memcached16537 memcached conn_free conn-destroy 2776 memcached16537 memcached dispatch_conn_new conn-dispatch 2777 memcached16537 memcached conn_close conn-release 2778 memcached16537 memcached do_item_link item-link 2779 memcached16537 memcached do_item_remove item-remove 2780 memcached16537 memcached do_item_replace item-replace 2781 memcached16537 memcached do_item_unlink_nolock item-unlink 2782 memcached16537 memcached do_item_unlink item-unlink 2783 memcached16537 memcached do_item_update item-update 2784 memcached16537 memcached conn_set_state process-command-end 2785 memcached16537 memcached process_command process-command-start 2786 memcached16537 memcached dispatch_bin_command process-command-start 2787 memcached16537 memcached do_slabs_alloc slabs-allocate 2788 memcached16537 memcached do_slabs_alloc slabs-allocate-failed 2789 memcached16537 memcached do_slabs_free slabs-free 2790 memcached16537 memcached do_slabs_newslab slabs-slabclass-allocate 2791 memcached16537 memcached do_slabs_newslab slabs-slabclass-allocate-failed
아래와 같이 memcached_watch.d 스크립트를 작성해 DTrace 를 실행하고 위의 프로토콜 예제를 다시 따라하면 [command-set fired]가 출력될 것이다. Ctrl+C를 눌러 종료한다.root@wl ~ # cat memcached_watch.d /* TO RUN: dtrace -s memcached_watch.d -p `pgrep -x memcached` -q */ dtrace:::BEGIN { printf("Hit Ctrl-C to end.\n"); } memcached*:::command-set { printf("command-set fired\n"); } root@wl ~ # dtrace -s memcached_watch.d -p `pgrep -x memcached` -q Hit Ctrl-C to end. command-set fired ^C
InnoDB의 memcached 통합
- MySQL 5.6 부터 InnoDB 스토리지 엔진에 memcached API를 지원한다. 성능은 memcached 정도로 빠르지만 데이터는 InnoDB 엔진에 테이블로 '저장'되기 때문에 크래시로 인한 부담이 없어진다. 또한 테이블로 저장되기 때문에 SQL을 통해서도 접근할 수 있으며 이때문에 각종 통계나 관리에 유리하다. 더 자세한 내용은 MySQL 5.6 Reference Manual :: 14 Storage Engines :: 14.2 The InnoDB Storage Engine :: 14.2.9 InnoDB Integration with memcached을 참고하자.
-
설치
윈디하나의 솔라나라: MySQL 5.6을 참고해 설치한다. -
설정
memcached 용 스키마를 생성하고, 플러그인을 로드한다. memcached 데몬의 포트는 11222로 설정했다.root@wl /usr/local/mysql/share # mysql -u root < innodb_memcached_config.sql root@wl /usr/local/mysql/share # mysql -u root mysql> install plugin daemon_memcached soname "libmemcached.so"; Query OK, 0 rows affected (0.02 sec) root@wl /usr/local/mysql/share # vi /etc/my.cnf daemon_memcached_option=-p11222
위와 같이 설정한 후 서버를 재시작한다. 11222 포트가 열린것을 확인하자. -
설정 변경
memcached 는 컨텐츠의 캐릭터 셋이나, 키의 길이에 제한이 없지만, InnoDB에 저장되는 MySQL기반의 memcached는 테이블 정의에 영향 받는다. 필자는 innodb_memcached_config.sql 파일에서 생성하는 demo_test 테이블을 아래와 같이 바꿔주었다.mysql> use test; mysql> drop table demo_test; mysql> CREATE TABLE demo_test ( c1 VARCHAR(128), c2 text, c3 INT, c4 BIGINT UNSIGNED, c5 INT, primary key(c1) ) ENGINE = INNODB DEFAULT CHARSET=utf8;
-
테스트
아래와 같이 간단히 테스트해볼 수 있다.root@wl ~ # telnet 127.0.0.1 11222 set a11 10 0 9 123456789 STORED get a11 VALUE a11 0 9 123456789 END quit
MySQL 서버를 재시작한다.root@wl ~ # telnet 127.0.0.1 11222 get a11 VALUE a11 10 9 123456789 END quit
캐시 내용이 사라지지 않는다. 기본 세팅을 사용했기 때문에, 데이터는 test.demo_test 테이블에 저장된다. 아래와 같이 저장된 데이터를 쿼리해볼 수 있다.root@maid ~ # mysql -u root mysql> use test Database changed mysql> show tables; +----------------+ | Tables_in_test | +----------------+ | demo_test | +----------------+ 1 row in set (0.03 sec) mysql> select * from demo_test; +-----+--------------+------+------+------+ | c1 | c2 | c3 | c4 | c5 | +-----+--------------+------+------+------+ | a11 | 123456789 | 10 | 1 | 0 | | AA | HELLO, HELLO | 8 | 0 | 0 | +-----+--------------+------+------+------+ 2 rows in set (0.06 sec) mysql> exit
JAVA/JSP
- JAVA에서 memcached 를 사용하기 위한 라이브러리 중 spymemcached에 대해 소개한다.
- 설치는 단순히 spymemcached-2.10.3.jar 를 받아 CLASS PATH에 복사해놓으면 된다.
- 홈페이지: spymemcached
memcache.java |
다운로드 (717 바이트) |
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
관련링크
댓글목록
등록된 댓글이 없습니다.