> Вообще, они и штуки поинтереснее ломали, типа WEP

RC4 использует один ключ на все время жизни соединения, поганит выданные ему рандомы "по-своему".
Кстати, почти такая же хня в линуксовом IPSec+XFRM.

Вот прям на грани раскрытия военной тайны:
Хотите спрятаться - не юзайте линуксовый IPSec и встроенные шифры,
все которые есть тут: https://elixir.bootlin.com/linux/latest/source/crypto/

Если прям никак, то выбирайте шифр и затачивайте его руками, ну например ....  Blowfish
https://elixir.bootlin.com/linux/latest/source/crypto/blowfi...

Меняйте нахрен все константы...

Над этим подумайте ... нахера в начале нули?  

data[0] = 0x00000000;
data[1] = 0x00000000;
    for (i = 0; i < 16 + 2; i += 2) {
        encrypt_block((struct bf_ctx *)ctx, data, data);
        P[i] = data[0];
        P[i + 1] = data[1];
    }

Первая итерация - это работа с нулём и 256-ой константой из списка который всем известен :D