Чувак, ты не поверишь! crypt() возвращал NULL в качестве ошибки еще с 90х годов. Но сишочные бракоделы из musl решили больше не возвращать нуль, потому что... другие сишочные бракоделы традиционно не проверяли возвращаемое значение на нуль и получали сегфолт в вызове strcmp().

https://git.musl-libc.org/cgit/musl/commit/?id=b3c4cc121f70faea45389fe7ddc1127

Одни халатные браколелы подстелили соломку другим халатным бракоделам, но что-то пошло не так. 😳

Причем тут то сишники? Логическая проблема добавлена практически осознанно. Если бы шмазл переписывали, как водится, на ржавого, то эту проблему могли бы не добавить только, опять же, по ошибке. Как известно две подрят ошибки дают корректную работу ;)

Хотя в расте можно было бы в Result<String, Error> возвращать "password is longer than 256 FU"

Проблема не только в том, что начали возращать что-то вместо NULL, а еще и причина.
И на сайте это прям пояснено

> if crypt() can't do its job, it returns NULL.
> except a lot of programs never check for NULL.
> they just compare whatever crypt() gives back with the stored field,
> hit the NULL, and crash

И отличие от си, там не верят на "мамой клянуся, там ни нал!" разработчика и обязывают проверить что вернулось из функции перед работой с Option.

Они пробовали "!". Получилась какая-то (!)

> это что на столько умственно-отсталым надо быть, чтобы даже не придумать что-то иное (тупо пустая строка), а взять лять символ затычку из файла /etc/shadow (n-раз фейспалм, мат высотой с бурдж-халифа)

Ну... в мане crypt на арче с glibc:
    Upon successful completion, crypt, crypt_r, crypt_rn, and crypt_ra return a pointer to a string which encodes both the hashed passphrase, and the settings that were used to encode it. This string is directly usable as setting in other calls to crypt, crypt_r, crypt_rn, and crypt_ra, and as prefix in calls to crypt_gensalt, crypt_gensalt_rn, and crypt_gensalt_ra. It will be entirely printable ASCII, and will not contain whitespace or the characters ‘:’, ‘;’, ‘*’, ‘!’, or ‘\’.

    Upon error, crypt_r, crypt_rn, and crypt_ra write an invalid hash to the output field of their data argument, and crypt writes an invalid hash to its static storage area. This string will be shorter than 13 characters, will begin with a ‘*’, and will not compare equal to setting.

Т.е технически они имели право возвращать звездочку.

С другой стороны man posix crypt утверждает что надо возвращать NULL
RETURN VALUE
       Upon  successful  completion, crypt() shall return a pointer to the en‐
       coded string. The first two bytes of the returned value shall be  those
       of the salt argument. Otherwise, it shall return a null pointer and set
       errno to indicate the error.

char *__crypt_sha512(const char *key, const char *setting, char *output)
{
static const char testkey[] = "Xy01@#\x01\x02\x80\x7f\xff\r\n\x81\t !";
static const char testsetting[] = "$6$rounds=1234$abc0123456789$";
static const char testhash[] = "$6$rounds=1234$abc0123456789$BCpt8zLrc/RcyuXmCDOE1ALqMXB2MH6n1g891HhFj8.w7LxGv.FTkqq6Vxc/km3Y0jE0j24jY5PIv/oOu6reg1";
char testbuf[128];
char *p, *q;

p = sha512crypt(key, setting, output);
/* self test and stack cleanup */
q = sha512crypt(testkey, testsetting, testbuf);
if (!p || q != testbuf || memcmp(testbuf, testhash, sizeof testhash))
return "*";
return p;
}

commit b9bb8f67bbac9bab5314fb00974ad469476e936e
Author: Rich Felker <dalias@aerifal.cx>
Date:   Fri Sep 7 00:48:25 2012 -0400

    cleanup src/linux and src/misc trees, etc.
    
    previously, it was pretty much random which one of these trees a given
    function appeared in. they have now been organized into:
    
    src/linux: non-POSIX linux syscalls (possibly shard with other nixen)
    src/legacy: various obsolete/legacy functions, mostly wrappers
    src/misc: still mostly uncategorized; some misc POSIX, some nonstd
    src/crypt: crypt hash functions
    
    further cleanup will be done later.

Возвращает ошибку? В Си? И давно там тип данных для ошибки завеззли? Функция-то, кстати, права, действительно возвращает либо хэш, либо ерунду, которая на хэш даже с бодуна не похожа. Но обезьяний цирк под руководством Тео решил что и так подёт, нет времени проверять что там функция возвращает, это ж не OCaml какой-то, прости господи.