[C/C++] mmap 함수

 

오늘은 pwnable에 많이 나오는 mmap 함수에 다뤄보도록 하겠다.

mmap이 무엇이고 왜 쓰는지?

일단 mmap은 메모리를 어떤 파일 혹은 디바이스에 대응시키는 함수이다.
그렇다면 "메모리를 파일로 대응시킨다는 것"이 무슨 뜻이고 "왜" 그래야만 할까? 🤔

컴퓨터 프로세스에서 각 프로세스는 다른 프로세스와 분리된 주소를 가지고 있어 서로 겹치지 않는다. 즉 프로세스 메모리는 서로 중복되지 않는다. 그렇기 때문에 프로세스 간 데이터 공유가 어렵다.
물론 이는 프로세스 안의 데이터를 보호하기에는 좋으나..  저런식으로 데이터를 공유하고 싶을 때는 사실 불편할 것이다.

하지만 mmap을 이용하면 공유하고자하는 메모리를 아예 파일로 대응시켜놓고, 이를 여러 프로세스가 사용할 수 있다. 파일은 전역적인 객체이기 때문에 다른 프로세스에서도 접근할 수 있기 때문이다.

또한 mmap을 사용하면 성능 개선 또한 가능하다. 어떤 프로세스가 파일을 읽기 위해서는 저장매체에 접근하고 여러가지 귀찮은 함수들을 통해 파일에 접근한다.
하지만 파일 자체를 메모리로 대응시킨다면 프로세스는 그저 메모리에만 접근하면 되기 때문에 편리하다.

즉 mmap을 사용하는 이유는 이렇게 정리할 수 있겠다.

• 서로 다른 프로세스 간의 데이터 공유를 용이하게 한다.
• 저장 매체 접근 대신 메모리에 접근할 수 있게하여 성능이 향상된다.

mmap 함수 설명

#include <sys/mman.h>
void *mmap(void *start, size_t length, int prot, int flags, int fd, off_t offset);

void* start - 메모리 시작위치
보통 NULL(0)로 설정하여 커널에 알아서 위치 설정하도록 한다. 만약 직접 설정하고 싶다면
void* start=0x00000000 이런 식으로 설정할 수 있겠으나 충돌 위험이 있다.

size_t length - 할당할 메모리 길이

int prot - 맵핑에 원하는 메모리 보호 정책 (예: 읽기 전용으로 열었다면 PROT_WRITE를 지정하면 안된다.)
- PROT_READ(읽기 가능)
- PROT_WRITE(쓰기 가능)
- PROT_EXEC(실행 가능)
- PROT_NONE(접근 불가)
등이 있다.

int flags - 메모리 주소 공간 설정
메모리를 어디에 생성할 것인지 설정한다!

- MAP_SHARED(다른 프로세스와 공유가능 / 프로세스 외부 생성)
- MAP_PRIVATE(프로세스 내에서만 사용 / 프로세스 내부 생성)
- MAP_FIXED(지정된 주소로 공간지정 / 지정된 공간에 생성)
- MAP_ANONYMOUS(어떤 파일과도 매핑되지 않음(?)) - addr=0, fd=-1(혹은 무시)로 설정, offset=0 아래 접은글에 설명 있음

MAP_ANONYMOUS
              The mapping is not backed by any file; its contents are
              initialized to zero.  The fd argument is ignored; however,
              some implementations require fd to be -1 if MAP_ANONYMOUS
              (or MAP_ANON) is specified, and portable applications
              should ensure this.  The offset argument should be zero.
              The use of MAP_ANONYMOUS in conjunction with MAP_SHARED is
              supported on Linux only since kernel 2.4.

int fd - 어떤 파일을 매핑시킬 것일지 file descriptor 지정(open 함수가 반환하는 애!)

off_t offset - 시작주소(start)를 기준으로 얼만큼 떨어진 곳에 생성할 건지?
ex) offset이 10,  start가 1인 경우, 파일과 매핑되는 메모리는 주소는 11부터 시작한다.

그리고 return value는 매핑된 메모리 위치이다.


코드 예)

handle = open(fname, O_RDWR | O_CREAT | O_APPEND, S_IRUSR | S_IWUSR);
mmap((void*)0, statbuf.st_size, PROT_READ|PROT_WRITE, MAP_SHARED, handle, 0);

일단 fname이라는 파일을 열고 이 fd를 handle에 할당한다.
두번째 mmap 코드를 해석해보면 이렇다.
handle을 이제 매핑하는데 statbuf.st_size 만큼 할당하 읽고 쓸 수 있게한다. 그리고 다른 프로세스와 공유할 수 있게한다.


실제 코드에서 잘라온 예시)

char *shellcode = mmap(NULL, 0x1000, PROT_READ | PROT_WRITE | PROT_EXEC, MAP_PRIVATE | MAP_ANONYMOUS, -1, 0);   

0x1000만큼 할당하고 r,w,x 가능하다. MAP_PRIVATE | MAP_ANONYMOUS 는 mmap (user space)의 MAP_ANONYMOUS 에 대해서... (tistory.com) 참고하면된다.(아직 무슨 소린지 잘 모르겠다...) fd=-1로 해서 어떤 파일과도 매핑되지 않는 것 같다.

 

 

 

References

https://man7.org/linux/man-pages/man2/mmap.2.html

mmap이란?

35. 시스템 프로그래밍 - 메모리 & mmap

메모리 맵핑(mapping) - mmap() / munmap()