호출 규약 문서의 검증 코드다. if __name__ == "__main__": 아래가 자체 테스트다.
"""호출 규약 검증. 실행: python3 43_calling-convention_verify.py
MASM이 없어 x86 32비트 명령 일부(레지스터, 리틀 엔디언 메모리, PUSH/POP/CALL/RET,
ENTER/LEAVE, ZF/CF)를 파이썬으로 흉내 낸다. 문서에 실린 코드를 글자 그대로 넣어 돌린다.
스택은 ESP = 00001000h에서 시작하고, 명령 주소는 가짜 값(00401000h + 4 × 순번)이다.
문서의 두 방식(C, STDCALL)과 Difference(EAX = 16)를 돌려 ESP가 제자리로 오는지 확인한다."""
import re
M32 = 0xFFFFFFFF
REG32 = ["eax", "ecx", "edx", "ebx", "esp", "ebp", "esi", "edi"]
REG8 = {"al": ("eax", 0), "ah": ("eax", 8), "bl": ("ebx", 0), "bh": ("ebx", 8),
"cl": ("ecx", 0), "ch": ("ecx", 8), "dl": ("edx", 0), "dh": ("edx", 8)}
REG16 = {"ax": "eax", "bx": "ebx", "cx": "ecx", "dx": "edx", "si": "esi", "di": "edi"}
class CPU:
"""x86 32비트 명령 일부만 흉내 낸다. 문서에 실린 코드를 글자 그대로 받아 돌린다."""
CODE_BASE = 0x00401000 # 명령 i번의 주소를 CODE_BASE + 4*i 로 친다(가짜 주소)
def __init__(self, source, esp=0x00001000, symbols=None):
self.r = {k: 0 for k in REG32}
self.r["esp"] = esp
self.mem = {} # 주소 -> 바이트
self.zf = self.cf = self.sf = 0
self.sym = dict(symbols or {}) # 변수 이름 -> 주소
self.prog, self.labels = [], {}
self.trace = []
self.halted = False
for raw in source.strip().splitlines():
line = raw.split(";")[0].strip()
if not line:
continue
m = re.match(r"^(\w+)\s+(PROC|ENDP)\b.*$", line)
if m:
if m.group(2) == "PROC":
self.labels[m.group(1)] = len(self.prog)
continue
m = re.match(r"^(\w+):\s*(.*)$", line)
if m:
self.labels[m.group(1)] = len(self.prog)
line = m.group(2).strip()
if not line:
continue
parts = line.split(None, 1)
op = parts[0].lower()
args = [a.strip() for a in parts[1].split(",")] if len(parts) > 1 else []
self.prog.append((op, args, raw.strip()))
self.eip = 0
# ---- 메모리 (리틀 엔디언) ----
def rd(self, addr, size=4):
return sum(self.mem.get((addr + i) & M32, 0) << (8 * i) for i in range(size))
def wr(self, addr, val, size=4):
for i in range(size):
self.mem[(addr + i) & M32] = (val >> (8 * i)) & 0xFF
def addr_of(self, i):
return self.CODE_BASE + 4 * i
# ---- 피연산자 ----
def _ea(self, expr):
"""[ebp+8], [ebp-4], [esi] 꼴의 주소를 계산한다."""
inner = expr.strip()[1:-1].replace(" ", "")
m = re.match(r"^(\w+)(?:([+-])(\w+))?$", inner)
base = self.r[m.group(1).lower()]
if m.group(2):
d = self._imm(m.group(3))
base = base + d if m.group(2) == "+" else base - d
return base & M32
@staticmethod
def _imm(tok):
t = tok.strip().lower()
if t.endswith("h"):
return int(t[:-1], 16)
if t.endswith("b") and set(t[:-1]) <= {"0", "1"}:
return int(t[:-1], 2)
return int(t)
def _parse(self, a):
"""(종류, 값, 크기)를 돌려준다. 종류: reg, reg8, mem, imm."""
size = 4
m = re.match(r"^(DWORD|WORD|BYTE)\s+PTR\s+(.*)$", a, re.I)
if m:
size = {"DWORD": 4, "WORD": 2, "BYTE": 1}[m.group(1).upper()]
a = m.group(2).strip()
low = a.lower()
if low in self.r:
return ("reg", low, 4)
if low in REG8:
return ("reg8", low, 1)
if low in REG16:
return ("reg16", low, 2)
if a.startswith("["):
return ("mem", self._ea(a), size)
if low.startswith("offset "):
return ("imm", self.sym[a.split()[1]], 4)
if a in self.sym:
return ("mem", self.sym[a], size)
return ("imm", self._imm(a) & M32, 4)
def get(self, a, size_hint=None):
kind, v, size = self._parse(a)
if kind == "mem" and size_hint:
size = size_hint
if kind == "reg":
return self.r[v]
if kind == "reg16":
return self.r[REG16[v]] & 0xFFFF
if kind == "reg8":
base, sh = REG8[v]
return (self.r[base] >> sh) & 0xFF
if kind == "mem":
return self.rd(v, size)
return v
def put(self, a, val, size_hint=None):
kind, v, size = self._parse(a)
if kind == "mem" and size_hint:
size = size_hint
if kind == "reg":
self.r[v] = val & M32
elif kind == "reg16":
self.r[REG16[v]] = (self.r[REG16[v]] & 0xFFFF0000) | (val & 0xFFFF)
elif kind == "reg8":
base, sh = REG8[v]
self.r[base] = (self.r[base] & ~(0xFF << sh) & M32) | ((val & 0xFF) << sh)
elif kind == "mem":
self.wr(v, val, size)
else:
raise ValueError("즉시값에는 쓸 수 없다: " + a)
# ---- 스택 ----
def push(self, val):
self.r["esp"] = (self.r["esp"] - 4) & M32
self.wr(self.r["esp"], val)
def pop(self):
v = self.rd(self.r["esp"])
self.r["esp"] = (self.r["esp"] + 4) & M32
return v
def _flags(self, res, carry):
self.zf = int(res & M32 == 0)
self.sf = (res >> 31) & 1
self.cf = int(carry)
# ---- 한 명령 실행 ----
def step(self):
op, a, raw = self.prog[self.eip]
nxt = self.eip + 1
if op == "mov":
# 한쪽이 8·16비트 레지스터면 메모리 피연산자도 그 크기로 읽고 쓴다
hint = None
for x in a:
k = self._parse(x)
if k[0] in ("reg8", "reg16"):
hint = k[2]
self.put(a[0], self.get(a[1], hint), hint)
elif op == "lea":
self.put(a[0], self._ea(a[1]))
elif op == "push":
self.push(self.get(a[0]))
elif op == "pop":
self.put(a[0], self.pop())
elif op in ("add", "sub", "cmp"):
x, y = self.get(a[0]), self.get(a[1])
res = x + y if op == "add" else x - y
self._flags(res, res > M32 if op == "add" else x < y)
if op != "cmp":
self.put(a[0], res)
elif op in ("inc", "dec"):
res = self.get(a[0]) + (1 if op == "inc" else -1)
cf = self.cf
self._flags(res, cf) # INC/DEC는 CF를 건드리지 않는다
self.put(a[0], res)
elif op == "mul":
prod = self.r["eax"] * self.get(a[0])
self.r["eax"], self.r["edx"] = prod & M32, (prod >> 32) & M32
self.cf = int(self.r["edx"] != 0)
elif op == "jmp":
nxt = self.labels[a[0]]
elif op in ("jz", "je"):
if self.zf:
nxt = self.labels[a[0]]
elif op in ("jnz", "jne"):
if not self.zf:
nxt = self.labels[a[0]]
elif op == "ja":
if not self.cf and not self.zf:
nxt = self.labels[a[0]]
elif op == "loop":
self.r["ecx"] = (self.r["ecx"] - 1) & M32
if self.r["ecx"]:
nxt = self.labels[a[0]]
elif op == "call":
self.push(self.addr_of(nxt))
nxt = self.labels[a[0]]
elif op == "ret":
target = self.pop()
if a:
self.r["esp"] = (self.r["esp"] + self._imm(a[0])) & M32
nxt = (target - self.CODE_BASE) // 4
elif op == "enter":
self.push(self.r["ebp"])
self.r["ebp"] = self.r["esp"]
self.r["esp"] = (self.r["esp"] - self._imm(a[0])) & M32
elif op == "leave":
self.r["esp"] = self.r["ebp"]
self.r["ebp"] = self.pop()
elif op == "pushad":
old = self.r["esp"]
for k in REG32:
self.push(old if k == "esp" else self.r[k])
elif op == "popad":
for k in reversed(REG32):
v = self.pop()
if k != "esp":
self.r[k] = v
elif op == "hlt":
self.halted = True
else:
raise ValueError("모르는 명령: " + raw)
self.trace.append((raw, dict(self.r), self.zf, self.cf))
self.eip = nxt
def run(self, start, limit=100000, watch=None):
self.eip = self.labels[start]
n = 0
while not self.halted:
self.step()
if watch:
watch(self)
n += 1
assert n < limit, "끝나지 않는다"
return self
# C 방식. 부른 쪽이 add esp,8로 치운다
C_STYLE = """
main PROC
push 6
push 5
call AddTwo
add esp,8
hlt
main ENDP
AddTwo PROC
push ebp
mov ebp,esp
mov eax,[ebp+12]
add eax,[ebp+8]
pop ebp
ret
AddTwo ENDP
"""
# STDCALL 방식. 불린 쪽이 ret 8로 치운다
STD_STYLE = C_STYLE.replace(" add esp,8\n", "").replace(" ret\n", " ret 8\n")
# 아무도 안 치운다
NOBODY = C_STYLE.replace(" add esp,8\n", "")
# 둘 다 치운다
BOTH = C_STYLE.replace(" ret\n", " ret 8\n")
# Difference
DIFF = """
main PROC
push 14
push 30
call Difference
hlt
main ENDP
Difference PROC
push ebp
mov ebp,esp
mov eax,[ebp + 8]
sub eax,[ebp + 12]
pop ebp
ret 8
Difference ENDP
"""
# 아무도 안 치우는 호출을 100번 되풀이한다
LEAK = """
main PROC
mov ecx,100
L1: push 6
push 5
call AddTwo
loop L1
hlt
main ENDP
AddTwo PROC
push ebp
mov ebp,esp
mov eax,[ebp+12]
add eax,[ebp+8]
pop ebp
ret
AddTwo ENDP
"""
if __name__ == "__main__":
c = CPU(C_STYLE).run("main")
s = CPU(STD_STYLE).run("main")
assert c.r["eax"] == s.r["eax"] == 11
assert c.r["esp"] == s.r["esp"] == 0x1000 # 둘 다 제자리
# 명령별 ESP: C는 ret 뒤 0FF8h, add esp,8 뒤 1000h. STDCALL은 ret 8 한 번에 1000h
tc = [(raw, r["esp"]) for raw, r, _, _ in c.trace]
ts = [(raw, r["esp"]) for raw, r, _, _ in s.trace]
assert ("ret", 0x0FF8) in tc and ("add esp,8", 0x1000) in tc
assert ("ret 8", 0x1000) in ts
# RET n = 복귀 주소를 꺼낸 뒤 ESP에 n을 더한다
assert dict(ts)["pop ebp"] == 0x0FF4 and 0x0FF4 + 4 + 8 == 0x1000
# 아무도 안 치우면 8바이트가 남는다
n = CPU(NOBODY).run("main")
assert n.r["esp"] == 0x0FF8
# 둘 다 치우면 8바이트를 더 올라가 부른 쪽의 자료를 넘어간다
b = CPU(BOTH).run("main")
assert b.r["esp"] == 0x1008
# 100번 부르면 800바이트가 샌다
l = CPU(LEAK).run("main")
assert 0x1000 - l.r["esp"] == 800
# Difference: 30 - 14 = 16, 둘째 인수가 [ebp+8]
d = CPU(DIFF).run("main")
assert d.r["eax"] == 16 and d.r["esp"] == 0x1000
assert d.rd(0x0FF8) == 30 and d.rd(0x0FFC) == 14 # 나중에 넣은 것이 [ebp+8]
print("ALL CHECKS PASSED")