C#調用C++寫的DLL總結

前幾天做了一個 C++ 的 DLL，供網(wǎng)頁調用，網(wǎng)頁是用 C# 做的。
C++ 的 DLL 做起來簡單，同時完成了一個 C++ EXE 調用 DLL 進行了調試。一切 OK!
然后將 DLL 轉到做 C# 處進行測試，發(fā)現(xiàn)要不調用失敗，要不得不到數(shù)據(jù)。
C# 調用 C++ 的 DLL 真的這樣麻煩？


C++ 的 DLL 提供一個功能，將一字符串經(jīng)過轉換后形成另一字符串，然后在網(wǎng)頁上顯示轉移后的此字符串。
C++ 的接口開始時設計為：
/*
?* 功能:?
?* 參數(shù): (in) pcInStr 用戶輸入的字符串
?* (in) iInLen 用戶輸入的字符串的長度
?* (out) pcOutStr 輸出的字符串
?* (in) ?iLen 輸出的字符串的最大長度
*/
BOOL Func(unsigned char *pcInStr,int iInLen,unsigned char *pcOutStr,int iLen);
此函數(shù)只有一個返回值，通過第三個參數(shù)：pcOutStr，其它都是輸入的。


C# 按此接口，調用方法如下：
public static extern char[] Func(ref char[] pcInStr, ref int iInLen,ref char[] pcOutStr,ref int iLen);
編譯沒有問題，但運行時發(fā)現(xiàn)，通過 iInLen 和 iLen 傳入的值不對。
因為 DLL 中的函數(shù)進行了參數(shù)有效性判斷，不是有效的長度會直接返回。
為測試增加了 MessageBox 顯示此兩個 Len 的值，提示此兩個參數(shù)的值好像是隨機數(shù)一樣，每次運行的數(shù)值都不相同，但傳入的數(shù)據(jù)始終都是固定的。
如果除第三個參外不使用 ref，傳入的 Len 數(shù)值是沒有問題的。但運行時會產(chǎn)生異常!
查了半天未找出原因，無奈之下，只好修改 DLL 的接口：不用參數(shù)來傳值，修改為使用返回值。
DLL 中的 C++ 接口修改為：
char *Func(unsigned char *pcInStr,int iInLen);


C# 按此接口，調用方法試了以下兩種：
(1) public static extern char[] Func(char[] pcInStr, int iInLen);
(2) public static extern string Func(char[] pcInStr, int iInLen);
都在運行時執(zhí)行到調用 DLL 的接口時，發(fā)生異常。
寫了個 C# 的 From 調用 DLL 的測試程序，同樣發(fā)生異常，異常的信息為：
Additional information: Cannot marshal 'return value': Invalid managed/unmanaged type combination.


最后，將調用方法修改為：
public static extern StringBuilder Func(char[] pcInStr, int iInLen);
這樣調用，調用 DLL 的接口時，不再發(fā)生異常，但返回值一直為空。
懷疑是 DLL 中的接口未返回值，因此在 DLL 中的接口最后返回數(shù)據(jù)前，增加一 MessageBox 來顯示返回的數(shù)據(jù)。
運行后發(fā)現(xiàn)，DLL 中的 C++ 接口通過 C# 調用后，MessageBox 顯示了正常的數(shù)據(jù)。與 C++ EXE 調用 DLL 時顯示的數(shù)據(jù)一致。
但 C++ EXE 可以得到數(shù)據(jù)，C# 的網(wǎng)頁程序卻只能得到一個 NULL 值。


最后懷疑是 C++ 和 C# 的程序運行的空間不同，導致此問題。
因為在 DLL 的 C++ 接口中，返回值定義在接口函數(shù)中，是一個數(shù)組；懷疑數(shù)組在 C# 調用返回時，已經(jīng)被釋放。
將此數(shù)組定義從接口中移到接口外，定義成一全局變量，其它未做改變。
此時，發(fā)現(xiàn) C# 的網(wǎng)頁程序調用 C++ DLL 中的接口后，也可以得到正確的數(shù)據(jù)。


總結：
C# 調用 C++ DLL 時，需要注意兩個問題：
(1) 數(shù)據(jù)類型之間的轉換，特別是指針；
(2) 運行作用域。
有一個問題一直未解決，就是 ref 傳值的問題。為什么通過 ref 傳 int 型的值到 C++ DLL 中，數(shù)據(jù)會發(fā)生變化？
偶基本上未用過 C# ，也無法解決。


最后的解決辦法：恢復最初四個參數(shù)的接口，C# 的聲明接口按如下定義：
public static extern bool Func(char[] pcInStr, int iInLen, [Out,MarshalAs(UnmanagedType.LPArray)]char[] pcOutStr, int iLen);