C#调用C++ DLL bool返回值始终为true
问题描述
在C#项目中，调用C++ DLL中方法时，bool 返回值始终返回true。
问题原因
C将布尔定义为4字节int，C++将其定义为1字节。C#团队决定在PInvoke期间使用4字节bool作为默认值，因为大多数系统API函数使用4字节值作为bool。如果要更改此行为，必须通过封送处理来完成，并指定要使用1字节值。
解决方案
方案一
采用int 返回值替代bool返回值，如返回1代表true，返回0代表false。
方案二
通过[return:MarshalAs(UnmanagedType.I1)] 指定返回值为1字节值。
[DllImport("Whisper.dll", EntryPoint="Exist", CallingConvention=CallingConvention.Cdecl)]
[return:MarshalAs(UnmanagedType.I1)]
public static extern bool Exist([MarshalAs(UnmanagedType.LPStr)] string name);C#调用C++的DLL返回值为bool时，值混乱
现象：C++ 导出函数的返回值为 false，C# 调用该函数获取的返回值却为 true 。
原因：C++ 导出函数返回 false 时，采取的方式是：
将 C# 定义的用来接收返回值的 bool 所指的地址开始 4 个字节设为 0x01000000（见图1）。
注：用 C++ 代码调用该导出函数时，采取的方式是：将 C++ 定义的用来接收返回值的 bool 所指的地址开始 1 个 字节设为 0x00；
为什么用 C# 代码调用该导出函数时，采取的方式不是：将 C# 定义的用来接收返回值的 bool 所指的地址开始 1个 字节 设为 0x00 ？ —— 编译器问题（BUG？）。
图 1
解决方案
在 C++ 导出函数中使用 BOOL 代替 bool 。
注：由于C++ 中的 BOOL 占4个字节，
C++ 导出函数返回 false 时，采取的方式是：
将 C# 定义的用来接收返回值的 bool 所指的地址开始 4 个字节设为0x00000000（见图2），因此不存在上述问题。
图 2
图3
以上为个人经验，希望能给大家一个参考，也希望大家多多支持编程网。
