The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]



"Раздел полезных советов: Откуда берется steal внутри виртуал..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Раздел полезных советов: Откуда берется steal внутри виртуал..."  +/
Сообщение от auto_tips (ok), 14-Апр-20, 09:21 
CPU steal time - это время, в течение которого виртуальная машина не получает ресурсы процессора для своего выполнения. Это время считается только в гостевых операционных системах в средах виртуализации.

++ Что такое steal

Steal  - это метрика, указывающая на нехватку процессорного времени для процессов внутри виртуальной машины. Как описано в [[https://git.kernel.org/pub/scm/linux/kernel/git/stable/linux... патче]] ядра KVM, steal - это время, в течение которого гипервизор выполняет другие процессы на хостовой операционной системе, хотя он поставил процесс виртуальной машины в очередь на выполнение. То есть steal считается как разница между временем, когда процесс готов выполниться, и временем, когда процессу выделено процессорное время.

Метрику steal ядро виртуальной машины получает от гипервизора. При этом гипервизор не уточняет, какие именно другие процессы он выполняет, просто «пока занят, тебе времени уделить не могу». На KVM поддержка подсчёта steal добавлена в [[https://lwn.net/Articles/449657/ патчах]]. Ключевых моментов здесь два:

1.   Виртуальная машина узнает о steal от гипервизора. То есть, с точки зрения потерь, для процессов на самой виртуалке это непрямое измерение, которое может быть подвержено различным искажениям.

2.   Гипервизор не делится с виртуалкой информацией о том, чем он занят — главное, что он не уделяет время ей. Из-за этого сама виртуалка не может выявить искажения в показателе steal, которые можно было бы оценить по характеру конкурирующих процессов.

++ Как вычислить steal

По сути, steal считается как обычное время утилизации процессора. В ядре добавляется ещё один счетчик непосредственно для процесса KVM (процесса виртуальной машины), который считает длительность пребывания процесса KVM в состоянии ожидания процессорного времени. Счетчик берет информацию о процессоре из его спецификации и смотрит, все ли его тики утилизированы процессом виртуалки. Если все, то считаем, что процессор занимался только процессом виртуальной машины. В ином случае информируем, что процессор занимался чем-то еще, появился steal.
Подробнее читайте в [[http://www.brendangregg.com/blog/2017-05-09/cpu-utilization-... статье]] Brendann Gregg.

++ Как мониторить steal

Мониторить steal внутри виртуальной машины можно как любую другую процессорную метрику. Главное, чтобы виртуалка была на Linux. Windows  такую информацию не предоставляет.

Сложность возникает при попытке получить эту информацию с гипервизора. Можно попробовать спрогнозировать steal на хостовой машине, например, по параметру Load Average (LA) - усредненного значения количества процессов, ожидающих в очереди на выполнение. Методика подсчета этого параметра непростая, но в целом пронормированный по количеству потоков процессора LA > 1 указывает на перегрузку Linux-сервера.

Чего же ждут все эти процессы? Очевидный ответ — процессора. Но иногда процессор свободен, а LA зашкаливает. На самом деле, процессы могут ожидать окончания любой блокировки, как физической, связанной с устройством ввода/вывода, так и логической, например мьютекса. Туда же относятся блокировки на уровне железа (того же ответа от диска) или логики (так называемых блокировочных примитивов).

Ещё одна особенность LA в том, что оно считается как среднее значение по ОС, причём не меньше, чем за минуту. Например, 100 процессов конкурируют за один файл, тогда LA=50. Такое большое значение, казалось бы, говорит, что ОС плохо. Но для криво написанного кода это может быть нормой – плохо только ему, а другие процессы не страдают. Из-за этого усреднения (причём не меньше, чем за минуту), определение чего-либо по LA может закончиться весьма неопределенными результатами в конкретных случаях.

++ Почему появляется steal и что делать

Остановимся на основных причинах появления steal, с которыми мы столкнулись при работе с облачной платформой MCS, и способах борьбы с ними.

Переутилизация. Самое простое и частое - много запущенных виртуальных машин, большое потребление процессора внутри них, большая конкуренция, утилизация по LA больше 1 (в нормировке по процессорным тредам). Внутри всех виртуалок всё тормозит. Steal, передаваемый с гипервизора, также растёт, надо перераспределять нагрузку или кого-то выключать.
При этом нужно учитывать, что соотношение нагрузки на гипервизоре и steal внутри виртуальной машины не всегда однозначно взаимосвязаны. Обе оценки steal могут быть ошибочными в конкретных ситуациях при разных нагрузках.

Паравиртуализация против одиноких инстансов. На гипервизоре одна единственная виртуалка, она потребляет небольшую его часть, но дает большую нагрузку по вводу/выводу, например по диску. И откуда-то в ней появляется небольшой steal, до 10%.

Тут дело как раз в блокировках на уровне паравиртуализированных драйверов. Внутри виртуалки создается прерывание, оно обрабатывается драйвером и уходит в гипервизор. Из-за обработки прерывания на гипервизоре для виртуалки это выглядит как отправленный запрос, она готова к исполнению и ждёт процессора, но процессорного времени ей не дают. Виртуалка думает, что это время украдено.

Это происходит в момент отправки буфера, он уходит в kernel space гипервизора, и мы начинаем его ждать. Хотя, с точки зрения виртуалки, он должен сразу вернуться. Следовательно, по алгоритму расчета steal это время считается украденным. Скорее всего, в этой ситуации могут быть и другие механизмы (например, обработка ещё каких-нибудь sys calls), но они не должны сильно отличаться.

Небольшой steal можно считать нормой (даже и без паравиртуализации, с учётом нагрузки внутри виртуалки, особенностей нагрузки соседей, распределения нагрузки по тредам и прочего). Однако важно обращать внимание на то, как себя чувствуют приложения внутри виртуалок.

Шедулер против высоконагруженных виртуалок. Когда одна виртуалка страдает от steal больше других, это связано с шедулером (распределением ресурсов между процессами) – чем сильнее процесс нагружает процессор, тем скорее шедулер его выгонит, чтобы остальные тоже могли поработать. Если виртуалка потребляет немного, она почти не увидит steal: её процесс честно сидел и ждал, ему дадут время. Если виртуалка дает максимальную нагрузку по всем своим ядрам, её чаще выгоняют с процессора и не дают много времени. Шедулер плохо относится к процессам, которые много просят. Большие виртуалки — зло.

Низкий LA, но есть steal. LA примерно 0,7 (то есть, гипервизор, кажется недозагружен), но внутри отдельных виртуалок наблюдается steal:

1.   Уже описанный выше вариант с паравиртуализацией. Виртуалка может получать метрики, указывающие на steal, хотя у гипервизора всё хорошо. По результатам наших экспериментов, такой вариант steal не превышает 10 % и не должен оказывать существенного влияния на производительность приложений внутри виртуалки.

2.   Неверно считается LA. Точнее, в каждый конкретный момент он считается верно, но при усреднении получается заниженным. Например, если одна виртуалка на треть гипервизора потребляет все свои процессоры ровно полминуты, LA за минуту на гипервизоре будет 0,15; четыре такие виртуалки, работающие одновременно, дадут 0,6. А то, что полминуты на каждой из них был steal под 25 % по LA, уже не вытащить.

3.   Из-за шедулера, решившего, что кто-то слишком много ест, и пусть он подождет, пока я займусь другими важными системными вещами. В итоге одни виртуалки не видят никаких проблем, а другие испытывают серьезную деградацию производительности.

++ Другие искажения

Есть другие причины для искажений честной отдачи процессорного времени на виртуалке. Например, сложности в расчёты вносят гипертрединг и NUMA. Они запутывают выбор ядра для исполнения процесса, потому что шедулер использует коэффициенты — веса, которые при переключении контекста делают усложняют подсчёт.

Бывают искажения из-за технологий типа турбобуста или, наоборот, режима энергосбережения, которые при подсчёте утилизации могут искусственно повышать или понижать частоту или даже квант времени на сервере. Включение турбобуста уменьшает производительность одного процессорного треда из-за увеличения производительности другого. В этот момент информация об актуальной частоте процессора виртуальной машине не передается, и она считает, что её время кто-то тырит (например, она запрашивала 2 ГГц, а получила вдвое меньше).

В общем, причин искажений может быть много. Чтобы выяснить steal в конкретной системе, исследуйте различные варианты, собирайте метрики, тщательно их анализируйте и продумывайте, как равномерно распределять нагрузку. От любых кейсов возможны отклонения, которые надо подтверждать экспериментально или смотреть в отладчике ядра. Начать лучше с книг, на которые я дал линки выше, и съёма статистики с гипервизора утилитами типа perf, sysdig, systemtap, коих [[https://jvns.ca/blog/2017/07/05/linux-tracing-systems/ десятки]].

URL: https://docs.google.com/document/d/1gq0EiZapyDFjIvH_ZjOOW7T2...
Обсуждается: https://www.opennet.ru/tips/info/3142.shtml

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по ответам | RSS]

2. Сообщение от bym (?), 14-Апр-20, 10:39   +/
Срочно бросился проверять - в top'е 0,0 st ...
По напишут на опеннете, хоть и интересных, но сцуко страшных статей ...
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #4

3. Сообщение от Albertio (ok), 14-Апр-20, 12:27   +/
Хорошо пишут, полезно
Ответить | Правка | Наверх | Cообщить модератору

4. Сообщение от Аноним (4), 14-Апр-20, 16:20   –1 +/
это всего лишь реклама мылсру, смысл тут не главное - вот и написано угрожающе, ни о чём и обо всём. Игнорируй.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #8

5. Сообщение от izyk (ok), 14-Апр-20, 23:00   +/
Вот это  -
"Из-за обработки прерывания на гипервизоре для виртуалки это
выглядит как отправленный запрос, она готова к исполнению и ждёт процессора, но
процессорного времени ей не дают. ВИРТУАЛКА думает, что это время украдено."
Противоречит вот этому -
"1.   Виртуальная машина узнает о steal от гипервизора. То есть, с точки зрения
потерь, для процессов на самой виртуалке это непрямое измерение, которое может
быть подвержено различным искажениям."

Хотя мысль я понял. ИМХО лучше так:

"Из-за обработки прерывания на гипервизоре для виртуалки это
выглядит как отправленный запрос(К HDD например), она готова к исполнению и ждёт процессора, но
процессорного времени ей не дают ГОРАЗДО ДОЛЬШЕ ЧЕМ ПРИ РАБОТЕ С РЕАЛЬНЫМ ЖЕЛЕЗОМ. ГИПЕРВИЗОР МОЖЕТ УЧИТЫВАТЬ ЭТУ РАЗНИЦУ как украденое время."

А может и не учитывать, зависит от реализации драйвера. И реальный оверхэд в случае паравиртуальных драйверов может быть минимален и может быть не заметен. А в случае эмуляции реального железа, действительно может быть большим.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #6

6. Сообщение от нах. (?), 14-Апр-20, 23:31   +/
не, ты все неправильно понял. При работе с риальне жилезом нормальный драйвер вовсе не виснет нахрен, он либо ждет ответа (самостоятельно обеспечивая себе это ожидание, крутясь в цикле - так делается в редких специальных случаях, типа перепрограммирования режимов) либо, что гораздо чаще - сразу же возвращает управление операционке, а когда и если hdd ему что-то ответил или, скажем, завершился dma-трансфер - приедет аппаратное прерывание, обработчик которого и будет разбираться, зачем его разбудили и что ему дальше делать. Причем там опять асинхронная схема - он быстро-быстро приведет в порядок регистры, сохранит какую-нибудь ссылку и отдаст управление обратно. А разбирать, скажем, полученный или чистить отправленный буфер будет другая его часть, уже разбуженная планировщиком по таймеру.

А тут ты драйвер позвал, опачки... вся система потеряла несколько тиков таймера, и не может понять, куда.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #7

7. Сообщение от izyk (ok), 14-Апр-20, 23:54   +/
Ну, если у нас тут всё так, по-простому, перехожу на твой язык.
Опа нах, а пасаны то и не знали. Это просто гениальное описание событийной модели обработки прерываний в ОС. Которое, впрочем, имеет весьма посредственное отношение к этой теме и к тому, о чём я написал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #9

8. Сообщение от bym (?), 15-Апр-20, 03:13   +1 +/
честно, хоть сам Билл из окон пусть контент здесь пишет, лишь было бы технически-интересно читать ...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #10

9. Сообщение от нах. (?), 15-Апр-20, 09:04   +/
> событийной модели обработки прерываний в ОС. Которое, впрочем, имеет весьма посредственное

причем тут обработка прерываний?

> отношение к этой теме и к тому, о чём я написал.

то что ты написал, не имеет никакого отношения к реальности.

в драйверах реального железа нет и не может быть ситуаций когда управление надолго занято драйвером, чего ты так и не понял. Ни при "обработке прерываний", ни при вызове системой. Повиснет все нахрен. Кроме как раз случаев, когда управление внезапно забирает гипервизор. Он потом делает вид, что ничего не случилось - подправляет таймеры, дергает подряд все что накопилось за время простоя и т д, поэтому изнутри системы тоже не очевидно, что произошло, и приходится ориентироваться не на это, а на отдаваемый гипервизором счетчик.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7 Ответы: #11, #16

10. Сообщение от нах. (?), 15-Апр-20, 09:14   +/
> честно, хоть сам Билл из окон пусть контент здесь пишет, лишь было

да, эту сволочь интересненько было б допросить с пристрастием. Жаль что он отделался в свое время бессмысленной книжонкой про путь пацана к успеху.
> бы технически-интересно читать ...

да, я уже плакался в личку Максиму, что последние пять новостей (то есть все что видны были на тот момент на глагне) - это п-ц какой-то, васян-победы над локалхостом и то посерьезнее выглядят.

А тут цельное исследование, хоть и проклятоймылру, и ненужного ненужна (мы и так уже, по опыту эксплуатации их mcs поняли, что kvm+ceph - полнейшее дерьмо, и так делать не надо никогда и никому - заодно и понятно, почему объявленная амазоном миграция на kvm как-то подозрительно застряла. Можно в деталях уже не разбираться - если дом сползает с фундамента, незачем выяснять, почему в нем еще и пованивает в сортире, валить надо.)

Хотя бы не жаль времени, затраченного на беглое прочтение.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

11. Сообщение от izyk (ok), 15-Апр-20, 10:54   +/
> то что ты написал, не имеет никакого отношения к реальности.

К твоей реальности, и вправду, не имеет.
Тыб хоть ссылочку открыл из статьи: http://www.brendangregg.com/blog/2017-05-09/cpu-utilization-...

>в драйверах реального железа нет и не может быть ситуаций когда управление надолго занято драйвером, чего ты так и не понял.

Куда уж нам.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

12. Сообщение от Аноним (12), 16-Апр-20, 14:25   +/
Рекомендация для пользователей арендных VPS.

Если steal стабильно высокий или имеет жирные пики - ваша виртуалка живет на перегруженном хосте. На хороших хостингах такая ситуация невозможна, так как все мониторится и вводятся новые ноды. Смысла бодаться с техподдержкой нет, проще сразу сменить поставщика услуг.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13, #14

13. Сообщение от Licha Morada (ok), 16-Апр-20, 23:14   +/
Да, если steal стабильно высокий или имеет жирные пики, это повод принять меры.

Перегруженность хоста это один из случаев. Бывает что недобросовестность поставщика тут не при чём, а так задуманно.

Нередко сталкиваемся с высоким steal у AWS. Когда виртуалка систематически потребляет больше процессора чем было расчитанно и съедает доступные CPU credits, ей начинают ограничивать циклы. Изнутри выглядит как подтормаживание, не катастрофическое, и высокий прохент steal. Мониторингом на steal специально не смотрим, т.к. ползёт вверх Load Average и на него прилетает алерт. С другой стороны, механизм CPU credits хорошо защищяет от "шумных соседей" (noisy nighbors) и можно расчитывать на тот ресурс который проплачен. Если знать в чём дело и куда смотреть, то удобно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #15

14. Сообщение от Annoynymous (ok), 19-Апр-20, 11:53   +/
Если IOWait стабильно высокий — та же рекомендация.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12

15. Сообщение от Аноним (15), 30-Апр-20, 15:21   +/
Да, на AWS одна виртуалка имела steal стабильно 50%. Оказалось что мы переиспользовали свою квоту CPU и AWS стал ограничивать нашу виртуалку. Решилось переходом на более дорогой инстанс или уменьшением непрерывного высокого использования CPU.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

16. Сообщение от Легион (?), 27-Май-20, 10:19   +/
Угу. Ясно. Понятно. А когда виртуальный драйвер ждет, пока вполне себе реальный HDD раскрутит шпиндель и спозиционирует голову, что по вашему происходит ?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9


Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2020 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру