> Коллега работал и в техподдержке, когда для замены проца/памяти
> мотался по миру с железом. И, собственно, это его впечатлило больше всего

Ну, видите - вот и ответ на вопрос.
Ваш коллега был рад, что у него было меньше проблем, чем он ожидал.
А если бы он менял проц/память на уже выключенном аппарате, с которого всё давно уже смигрировало - это было бы, конечно, не так эффектно.

> Вы, вероятно, мало общались с ДБА и разработчиками СУБД.
> А мне приходилось участвовать в проектах федерального уровня, где 250 ТБ
> базы - это не самые большие.

Ну, некоторый опыт всё-таки был.
Но, мало-ли, вдруг кому-то действительно нужно было иметь 250 Тб и более с готовностью несколько миллисекунд. Не могу зарекаться, что такого не может быть, разумеется.

>    Вообще считаю, что пихать всё подряд "в кубеня" -
> очень плохой подход. Хотя сейчас это "стильно, модно, молодёжно".

Раньше то же самое говорили про линукс, докер, виртуализацию и всякие CI-CD.
А когда это достигло некоего уровня зрелости - стало возможным делать огромные проекты с таким скромным бюджетом и временем, о которых раньше в самых дурных снах и помыслить было нельзя.

Это дело времени.
Даже если сейчас есть значительные шероховатости - через несколько лет это войдёт в обиход.
И всё это будет считаться обычной рутиной.
Как обычной рутиной теперь считается использование линукса в качестве сервера.