함수 호출 규약 in C++

C++에서 함수 호출 규약(Calling Convention)은 함수가 호출될 때 인수를 어떻게 전달하고, 반환값을 어떻게 처리하며, 스택을 누가 정리하는지를 정의하는 방식입니다. 주요 호출 규약은 다음과 같습니다.

cdecl (C Declaration)

int __cdecl add(int a, int b) {
    return a + b;
}

int __stdcall multiply(int a, int b) {
    return a * b;
}

int __fastcall subtract(int a, int b) {
    return a - b;
}

class MyClass {
public:
    int add(int a, int b);  // thiscall 사용 (컴파일러에 의해 자동 적용)
};

int __vectorcall processVector(float x, float y, float z) {
    return x + y + z;
}

함수 포인터에 호출 규약을 지정할 수도 있습니다.

typedef int (__stdcall *FuncPtr)(int, int);

이렇게 하면, 해당 함수 포인터가 stdcall 규약을 따르는 함수만 가리킬 수 있습니다.

Q: 함수 호출 규약을 선택하는 기준은 무엇인가요?

A: 일반적으로 cdecl이 기본이며, Windows API에서는 stdcall을 사용합니다. 최적화가 필요하면 fastcall이나 vectorcall을 고려할 수 있습니다.

Q: 가변 인자를 지원하는 호출 규약은 무엇인가요?

A: cdecl과 SysV ABI는 가변 인자를 지원하지만, stdcall, fastcall, thiscall, vectorcall은 지원하지 않습니다.

Q: 서로 다른 호출 규약을 혼용하면 어떤 문제가 발생하나요?

A: 함수 호출 규약이 다르면 스택 정리 방식이 다르므로 크래시 또는 스택 오염이 발생할 수 있습니다. 따라서 함수 호출 규약을 일관되게 사용해야 합니다.

Q: 64비트 환경에서는 어떤 호출 규약을 사용하나요?

A: Windows의 64비트에서는 fastcall 기반의 Microsoft x64 calling convention을 사용하며, Linux/macOS에서는 SysV ABI가 기본입니다.

C++에서 호출 규약을 잘 이해하면, 함수 호출 최적화나 다른 언어와의 인터페이스(예: Windows API, DLL 호출)에서 유용하게 활용할 수 있습니다. 특히, 플랫폼에 따라 기본 호출 규약이 다를 수 있으므로 주의해야 합니다. 🚀