Копай в сторону 7z, там вроде на сколько я помню можно указать опции при открытии, то есть запуск исполняемого файла в архиве. Да и рар тоже вроде такое было, это старо как мир, а вот криптануть вирь что б он был фуд (фулл андетект)это уже другая история, это уже в раздел malware