Проблема шифрования CryptoAPI и расшифровки OpenSSL

[GlowingOne]

Я шифрую с помощью функции CryptEncrypt, использую RSA с заполнением OAEP, переворачиваю байты зашифрованного файла, но когда я пытаюсь расшифровать файл с помощью openSSL, он говорит, что произошла ошибка при декодировании OAEP.

 

[plexus]

The To the Ask For How the Help:
1. Your issue
2.your code
3. what you've attempted already

 

[Quake3]

Там нужно конвертировать несколько раз (PEM->DER->криптоапи), CryptDecodeObjectEx и еще что-то. Когда-то кодил такое, как найду - скину.

 

[GlowingOne]

  if (!CryptEncrypt(RSAPubKey, NULL, 1, CRYPT_OAEP, *Data, &Size, BufLen))
             {
                 return 0;
             }
             *RevData= new BYTE[Size];
             ReverseStream(*Data, *RevData, Size);
             DWORD EncDataSize = Size;
             if (!CryptBinaryToStringA(*RevData, EncKeySize, CRYPT_STRING_BASE64, NULL, &Size))
             {
                 return 0;
             }

OpenSSL problem:

openssl rsautl -inkey private.pem -in file.enc -out file.txt -oaep -decrypt

я импортирую ключ таким образом:

if(!CryptStringToBinaryA(PubKeyString, 0, CRYPT_STRING_BASE64HEADER,derPubKey, &derPubKeyLen,NULL,NULL))
             return 0;
         if(!CryptDecodeObjectEx(X509_ASN_ENCODING, X509_PUBLIC_KEY_INFO, derPubKey, derPubKeyLen,
             CRYPT_ENCODE_ALLOC_FLAG, NULL, &publicKeyInfo, &publicKeyInfoLen))
             return 0;
         if(!CryptAcquireContext(&hProv, NULL, MS_ENHANCED_PROV, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT))
             return 0;
         if (!CryptImportPublicKeyInfo(hProv, X509_ASN_ENCODING, publicKeyInfo, &RSAPubKey))
             return 0;
         delete[] publicKeyInfo;

ReverseStream

void ReverseStream(LPBYTE Source, LPBYTE Destination, DWORD Size)
{
    int SourceCnt = Size;
    int DestCnt = 0;

    for (SourceCnt = Size - 1, DestCnt = 0; SourceCnt >= 0; SourceCnt--, DestCnt++)
        Destination[DestCnt] = Source[SourceCnt];
}

 

[GlowingOne]

Quake3
CryptImportPublicKeyInfo должен автоматически декодировать ключ, поэтому должен работать только один вызов CryptDecodeObjectEx.