본문 바로가기
개발언어/C#

[C#] x86/x64 환경에 따라 달라지는 P/Invoke 함수의 export 이름

by 창용이랑 2020. 11. 3.
728x90

다음의 글은,

C# - x86 실행 환경에서 SECURITY_ATTRIBUTES 구조체를 CreateEvent에 전달할 때 예외 발생
; http://www.sysnet.pe.kr/2/0/11130

사실, 제가 CreateEvent Win32 API를 P/Invoke 테스트하면서 첫 번째 인자를 실수로 포인터가 아닌 구조체 값을 그대로 전달해 발생한 문제입니다. 재미있는 것은, 저 글에 대한 재현 소스 코드를 작성하면서 희한한 현상으로 보이는 ^^; 문제를 접하게 되었는데 그에 대해 하나씩 풀어낸 과정을 기록해 보겠습니다.




현상을 설명하기 위해, 우선 C++로 다음의 소스 코드를 가진 Win32 DLL 프로젝트를 준비합니다.

// Header 파일
#pragma pack( push, 1 )
struct TESTATTR
{
    int Age;
    int *Dummy;
};
#pragma pack(pop)

extern "C"
{
    __declspec(dllexport) void __stdcall fnWin32Project1(TESTATTR *pAttr);
}
// 소스 코드 파일
#include "stdafx.h"
#include <stdio.h>
#include "Win32Project1.h"

__declspec(dllexport) void __stdcall fnWin32Project1(TESTATTR *pAttr)
{
    printf("C++: %d, %d\n", pAttr->Age, pAttr->Dummy);

    pAttr->Age++;
    pAttr->Dummy++;
}

주의해서 볼 것은, TESTATTR 구조체를 받는 형식이 포인터라는 점입니다. 그다음, C#에서는 C++의 DLL에서 export시킨 fnWin32Project1을 사용하되,

using System;
using System.Runtime.InteropServices;

class Program
{
    [StructLayout(LayoutKind.Sequential, Pack = 1)]
    public struct TESTATTR
    {
        public int Age;
        public IntPtr Dummy;
    }

    [DllImport("Win32Project1.dll", CharSet = CharSet.Auto, SetLastError = true)]
    internal static extern void fnWin32Project1(TESTATTR attr);

    static void Main(string[] args)
    {
        TESTATTR testAttr = new TESTATTR();

        testAttr.Age = 2;
        testAttr.Dummy = new IntPtr(5);

        fnWin32Project1(testAttr);

        Console.WriteLine(string.Format("C#: {0}, {1}", testAttr.Age, testAttr.Dummy));
    }
}

보는 바와 같이 (포인터가 아닌) 구조체 그대로 받는 것입니다. 이렇게 하고 x86 빌드로 실행하면 fnWin32Project1에서 다음과 같은 예외가 발생합니다

An unhandled exception of type 'System.EntryPointNotFoundException' occurred in NullDaclEvent.exe

Additional information: Unable to find an entry point named 'fnWin32Project1' in DLL 'Win32Project1.dll'.

반면, x64로 빌드하면 정상적인 것처럼 실행됩니다.

여기서 이상한 점은, 왜? x86에서는 해당 API를 못 찾는다고 하고, 반면 x64에서는 잘 찾아서 호출에 성공한 것일까요?

이유는, x86의 경우 Win32 DLL 측에서 fnWin32Project1 함수에 대한 export 이름을 (stdcall 호출 규약에 따라) 다음과 같이 설정하기 때문입니다.

_fnWin32Project1@4

그런데, C# 측의 DllImport에서는 첫 번째 인자를 구조체로 전달했으므로 그 크기에 따라 "_fnWin32Project1@8" 함수를 찾으려 하므로 EntryPointNotFoundException 오류가 발생합니다. 하지만 x64 빌드에서는 모든 호출 규약이 fastcall로 정리가 되었으므로 무조건 export 이름을 "fnWin32Project1"로 정하기 때문에 C#의 호출 코드에서 문제없이 함수를 찾을 수 있고 운 좋게 실행까지 된 것입니다.




그런데, 한 가지 의문이 더 남습니다. 그렇다면 CreateEvent를 호출했을 때는 왜? x86 환경에서 EntryPointNotFoundException이 발생하지 않았냐는 것입니다.

그것은, Windows DLL들의 경우 함수들이 dllexport가 아닌, "def" 파일 내에 정의를 해 export 하므로,

LIBRARY

EXPORTS
   ...[생략]...
   CreateEventW
   ...[생략]...

mangling 이름이 "_CreateEventW@16"이 아닌 "CreateEventW"로 되기 때문에 C# 측에서도 정상적으로 찾을 수 있었던 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




정리해 보면, x64 C# 응용 프로그램의 경우 Win32 API에 대한 P/Invoke DllImport 구문을 신경 써서 잘 확인해야 합니다. (저처럼, 무심코 포인터 인자를 그냥 구조체로 넘겨 주면 해석할 수 없는 오류로 고생할 수 있습니다. ^^;)

참고로, 다음의 글도 읽어보시고.

# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (3) - x64 환경의 __fastcall과 Name mangling
; https://www.sysnet.pe.kr/2/0/11139