Раньше такую кодогенерацию описывали правилами, и это было сложно, дорого и невоспроизводимо (каждый пишет эти правила заново), а теперь - примерами для обучения, и их можно переиспользовать. Саму нейросеть (эту или другую, обученную на тех же примерах) можно использовать в качестве блока в более сложной сети, позволяющей комбинировать блоки типового кода во всё более высокоуровневые конструкции.

Это как с машинным переводом, который существует больше полвека уже, но большую часть времени системы перевода были просто наборами правил, которые срабатывали только в очень простых случаях. Потом туда пришло машинное обучение, сначала в виде простых языковых моделей, потом - нейронных сетей, и каждый раз это был скачок в качестве. Сейчас качество перевода по многим языковым парам не отличается от уровня средненького переводчика, а интеграция перевода с распознаванием и синтезом голоса сделали возможным автоматический синхронный перевод.

То же самое относительно скоро (в ближайшие лет 10, я думаю) случится и с кодингом, не требующим сильно глубоких знаний. В большой степени он станет автоматическим переводом из ТЗ в код, достаточно пристойный и поддерживаемый.