The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Facebook открыл RacerD, статический анализатор для многопоточного кода на Java

21.10.2017 09:42

Facebook представил проект RacerD, в рамках которого открыты наработки по выявлению проблем, возникающих из-за одновременного выполнения кода в многопоточных программах на языке Java. RacerD интегрирован в систему статического анализа Infer и обеспечивает определение потенциальных ошибок в коде, использующем классы/методы, заявленные как @ThreadSafe, или осуществляющем блокировки при помощи ключевого слова "synchronized".

RacerD сконцентирован на выявлении состояний гонки, возникающих между вызовом методов класса в разных потоках. Например, определяются ситуации, когда выполняется два одновременных обращения к переменной члена класса, не отделённой при помощи мьютекса, если в одном из обращений выполняется операция записи.

RacerD уже около 10 месяцев используется в Facebook и за это время помог выявить более тысячи проблем в многопоточном коде проектов для платформы Android, на стадии их разработки. Большая часть ошибок была выявлена в процессе перевода реализации ленты новостей в Android-приложении Facebook на многопоточную модель работы.

  1. Главная ссылка к новости (https://code.facebook.com/post...)
  2. OpenNews: Facebook открыл код статического анализатора Infer
  3. OpenNews: Средства трассировки в ядре Linux достигли уровня DTrace
  4. OpenNews: Yandex опубликовал статический анализатор файлов конфигурации nginx
  5. OpenNews: Агентство национальной безопасности США опубликовало каталог своих открытых проектов
  6. OpenNews: Релиз набора компиляторов LLVM 5.0
Лицензия: CC-BY
Тип: Программы
Короткая ссылка: https://opennet.ru/47426-facebook
Ключевые слова: facebook, infer, thread
Поддержать дальнейшую публикацию новостей на OpenNET.


Обсуждение (44) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.4, Crazy Alex (ok), 13:04, 21/10/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Эх, вот где-то здесь и жалеешь, что для плюсов такое сделать проблематично
     
     
  • 2.15, . (?), 19:41, 21/10/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Один из симптомов шубообразной охватывающей шизофрении - страхи, и сильные сожаления без малейшей на то причины. (С) Твой доктор :-)  

    .... впрочем, если нет денег на PVS-studio и иже с ними (а их - легион!) - а _самому_ "сделать проблематично", то да - пост заиграитЪ совсем другими красками :)

     
  • 2.22, nobody (??), 22:18, 21/10/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Погугли "sanitizer" и больше не пиши тут чушь
     
     
  • 3.25, pavlinux (ok), 03:03, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +3 +/
    нагугли мозг (ну или хотя бы чем отличаются sanitizer от static analize), и больше вообще не пиши.  
     
     
  • 4.26, Crazy Alex (ok), 03:12, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    В данном случае дело даже не в том - в джаве есть каноничный способ описать шареные объекты языком, понятным для инструментов - вышеупомянутые классы/методы, заявленные как @ThreadSafe, или осуществляющем блокировки при помощи ключевого слова "synchronized". В плюсах этого нет, поэтому анализ становится многократно сложнее. Понятно, что это цена богатства языка и наличия выбора, но всё равно завидно.
     
     
  • 5.38, Аноним (-), 13:38, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    >В плюсах этого нет, поэтому анализ становится многократно сложнее.

    На самом деле нет. Разбор исходного кода настолько незначительная сторона статического анализа, что на ней можно не зацикливаться

     
     
  • 6.42, Crazy Alex (ok), 15:51, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    речь не о самом разборе.

    В джаве "syncronized" полностью описывает всё поведение по локам - и указывает на наличие, мьютекса и то, что он лочится строго при входе в метод и раззлочивается строго при выходе. В плюсах - придётся ещё выяснять, где на самом деле происходит блокировка и как именно она используется. Впрочем, подумав, пожалуй, соглашусь с вами - в пределах джавовской простой модели синхронизации и при условии использования std::mutex и std::lock_guard особо сложнее быть не должно.

     
  • 4.37, Аноним (-), 10:49, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Какая доброта. И что же, интересно, не так? У вас какие-то проблемы?

    Thread Sanitizer - отличный инструмент, отлавливающий ошибки, которые иначе поймать было бы проблематично. В начале своей жизни умел мало, но теперь справляется со всем, что в него швыряют.

     
     
  • 5.43, Crazy Alex (ok), 15:51, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Только здесь речь вообще не о том.
     
  • 2.29, Ivan (??), 13:38, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Статик анализатор на это есть в clang с 2011 года:
    https://clang.llvm.org/docs/ThreadSafetyAnalysis.html
    https://llvm.org/devmtg/2011-11/Hutchins_ThreadSafety.pdf

    Проблема в том, что статик-анализ не работает в сложных случаях, поэтому на практике эти аннотации используются мало кем. Обычно используют динамический анализ (thread sanitizer):
    http://www.cs.columbia.edu/~junfeng/11fa-e6121/papers/thread-sanitizer.pdf
    https://llvm.org/devmtg/2012-11/Serebryany_TSan-MSan.pdf
    https://clang.llvm.org/docs/ThreadSanitizer.html

     
     
  • 3.36, Crazy Alex (ok), 03:58, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Какие-то местечковые аннотации на макросах? Действительно, и почему их никто не использует...
     
     
  • 4.46, Ivan (??), 16:45, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    В C++03 макросы нужны, чтобы код компилировался на тех компиляторах, которые не поддерживают эти аттрибуты. Документация написана так, чтобы можно было использовать и в С++03 коде, поэтому она использует макросы.

    Если используется только C++11 и выше можно использовать C++11 аттрибуты без макросов. Компиляторы будут просто игнорировать неизвестные аттрибуты.

    > Какие-то местечковые аннотации на макросах? Действительно, и почему их никто не использует...

    Поверь мне это связано не с этим.

     
     
  • 5.54, Crazy Alex (ok), 01:34, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Насчёт макросов понял (хотя им с этого начинать надо бы - что вот так пишется на приличных плюсах, но для легаси тоже есть костыль), но есть и более серьёзные проблемы:
    1) эти аннотации отделены от собственно кода синхронизации. То есть никто их соответствие реальному положению вещей не гарантирует.
    2) необходимость заменять мьютекс своим типом.
    3) необходимость вообще писать эти аннотации.

    А теперь сравните с джавой, где анализатор натравливается на стандартный, существующий код.

    А если обобщить... Я не помню ни механизма аннотирования в помощь статическим анализаторам, который бы получил повсеместное распространение. Ну, то есть вообще. Даже Страуструп свой GSL пропихнуть не смог. Почему - можно гадать, но оно так.

     
     
  • 6.58, Ivan (??), 15:08, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Насчёт макросов понял (хотя им с этого начинать надо бы - что вот так пишется на приличных плюсах, но для легаси тоже есть костыль), но есть и более серьёзные проблемы

    Я согласен. Я думаю это связано с тем, что документация писалась в 2011 году, когда C++11 был менее распространен.

    > 1) эти аннотации отделены от собственно кода синхронизации. То есть никто их соответствие реальному положению вещей не гарантирует.

    Я не понял, что имеется ввиду. Анализ проверяет, что при обращении к переменной вызывающий код удерживает мьютексы, указанные в аттрибуте guarded_by у этой переменной. Что значит "никто их соответствие реальному положению вещей не гарантирует"? Анализ как раз проверяет, что взятие мьютексов согласованно с аттрибутами guarded_by.

    Или ты имеешь ввиду, что аттрибуты guarded_by могут не соответствовать реальной логике работы программы? Ну здесь ничего не поможет. Компьютер не может знать какие данные защищены какими мьютексами.

    Даже в RacerD есть guarded_by: http://fbinfer.com/docs/infer-bug-types.html#anonymous_inner

    > 2) необходимость заменять мьютекс своим типом.

    Почему ты так считаешь? В libc++ (реализация стандартной библиотеки идущая с clang) std::mutex аннотированы: https://github.com/llvm-mirror/libcxx/blob/276a69c18b3eeb6e8a3a2f22178a1d87aed Реализации стандарных библиотек других компиляторов не аннотированы аттрибутами, которые эти компиляторы не поддерживают, это предсказуемо.

    > 3) необходимость вообще писать эти аннотации.

    Тогда тебе будет не нравится статик-анализ вообще. Поскольку, как правило без дополнительных аннотаций он имеет либо много false-positive, либо много false-negative. А аннотации делают статик-анализ применимым на практике.

     

  • 1.5, YetAnotherOnanym (ok), 13:52, 21/10/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –3 +/
    > выявить более тысячи проблем

    Это всё, что вам надо знать о проектах для платформы Android.

     
     
  • 2.6, Аноним (-), 15:18, 21/10/2017 [^] [^^] [^^^] [ответить]  
  • +4 +/
    > Это всё, что вам надо знать о проектах

    от Facebook

     
  • 2.7, Ordu (ok), 16:14, 21/10/2017 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Не надо такое знать. Не надо читать анонимов опеннета, которые целенаправленно выдирают фразы из контекста, придавая им новые оттенки смысла.
    Оригинальная фраза гораздо веселее: "более тысячи проблем [...] на стадии их разработки". Надо полагать, что, всё же, это оговорка (пускай и чисто по Фрейду), что подразумевалась разработка не проблем, а софта, проблемы же возникали в процессе разработки, и отлавливались статическим анализатором. И вот тут эта "тысяча проблем" превращается в маркетинговый буллшит, это всё равно что считать как много ошибок суммарно было выдано компилятором в процессе разработки программы, когда код перекомпилировался раз десять в день, и большая часть этих компиляций была нацелена на поиск опечаток или даже на диагностику текущего состояния программы, когда программист начал какое-то изменение, затрагивающее двадцать различных файлов, часть этих изменений внёс, и теперь ему надо вернуться назад и вспомнить, что именно он уже сделал, о чём лишь подумал, и о чём он не подумал, хотя стоило бы.
     
     
  • 3.31, Kodir (ok), 17:46, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Думаю, тут смысл несколько другой. "На стадии разработки" - это дилетанское отражение фразы "на стадии проектирования". Вот ты сделал десяток классов, всё соединил, раскидал на трэды и тут решил проверить анализатором - и вот когда он находил проблемы, тогда и считалось "выявил". Другой вопрос, это всё равно чертовски много - неужели при всех этих "паттернах", которым зас***али весь мозг и тырнеты, фэйспук так и не научился применять шаблонные методы для типичных задач??
    В любом случае, тот зоопарк языков, что там сейчас есть (https://www.quora.com/What-programming-languages-are-used-at-Facebook-Where-is ) - это гетерогенная помойка, которой уже ничто не поможет.
     
     
  • 4.32, Ordu (ok), 20:16, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Почему ты выбираешь именно тот смысл фразы на стадии разработки , который припи... большой текст свёрнут, показать
     
     
  • 5.41, Кузнец (?), 15:34, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/

    > Это всегда компромисс. И то, что фейсбук реализовал приложение "лента новостей" в
    > однопоточном исполнении, мне кажется вполне нормальным. И я не поверю, что
    > это не так, до тех пор пока не увижу из каких
    > соображений исходили разработчики, когда исходно решали компромиссы проектирования.

    В ваших рассуждениях есть одна типичная ошибка: вы предполагаете, что если в Яве что-то пишут без учёта многопоточности, то получается нечто однопоточное. Увы, это совершенно не верный посыл -- Ява ВСЕГДА МНОГОПОТОЧНАЯ. Чтобы приложение стало однопоточным его нужно специально писать ОДНОПОТОЧНЫМ, иначе оно будет НЕПРЕДСКАЗУЕМО МНОГОПОТОЧНЫМ.
    Вот в чём дело.

     
     
  • 6.55, Ordu (ok), 04:47, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Может быть, я с джавой знакомился лет пятнадцать назад, через полгода потерял к ней всякий интерес, и больше никогда не возвращался. Но, что-то мне подсказывает, что, всё же, вы сейчас каким-то образом пытаетесь натянуть сову на глобус. Ну, в том смысле, что мне ни разу не приходилось сталкиваться со сколь-нибудь грамотной критикой кода, которая базировалась на использовании капса и общих представлениях об использованных инструментах. Сколь-нибудь грамотная критика всегда содержит в себе хотя бы одну цитату из кода.
     
     
  • 7.59, Кузнец (?), 21:26, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    О каком коде вы говорите? Caps же -- это для тех, кто может только знакомится с Явой. Им важно помнить, что они всегда пишут многопоточную программу. Вы выше предположили, что коль проект крупный и раскрученный, то только в силу этого факта он всегда пример самых актуальных компетенций. По моему опыту, это совсем не так. Программеру нужно заботиться о хорошем коде, а не об удачном маркетологе: удачного маркетолога удаётся встретить единицам, а остальным нужно писать нормальный код.
     
  • 2.9, Аноним (-), 16:51, 21/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    И что же нам нужно знать?
     

  • 1.17, Аноним (-), 20:16, 21/10/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > ситуации, когда выполняется два одновременных обращения к переменной члена класса, не отделённой при помощи мьютекса, если в одном из обращений выполняется операция записи

    В модели памяти это называется Data Race. И необязательно необходим мьютекс. Так вот, Data Race != Race Condition. Эти проблемы могут быть в наличии как одновременно, так и каждая по-отдельности.

     
     
  • 2.27, pavlinux (ok), 03:21, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > В модели памяти это называется Data Race. И необязательно необходим мьютекс.
    > Так вот, Data Race != Race Condition.

    Хвать гнать, Race Condition - это общее описание всех багов возникающих при доступе к чему-либо, двух и более кого-либо.

    Есть такие баги "Time of check to time of use (TOCTOU)", тож разновидность race condition.

     
     
  • 3.28, Аноним (-), 13:01, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • –2 +/
    не гуглятся примеры dr vs rc? я помогу https://blog.regehr.org/archives/490
     
     
  • 4.33, pavlinux (ok), 20:41, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > не гуглятся примеры dr vs rc? я помогу https://blog.regehr.org/archives/490

    Еще раз:  "Race Condition - это общее описание всех багов возникающих при доступе к чему-либо, двух и более кого-либо."
    У вас в примере классический race cond."multiple threads can concurrently try to update an account balance".
    В решении корявое решение в стиле Winows (с надеждой на компилятор). Отбалды делать атомарные операции
    над не атомарными перемененными ну совсем не гарантирует атомарность. Linux так вообще этого не позволит.

     
     
  • 5.45, Кузнец (?), 15:53, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >> не гуглятся примеры dr vs rc? я помогу https://blog.regehr.org/archives/490
    > Еще раз:  "Race Condition - это общее описание всех багов возникающих
    > при доступе к чему-либо, двух и более кого-либо."
    > У вас в примере классический race cond."multiple threads can concurrently try to
    > update an account balance".
    > В решении корявое решение в стиле Winows (с надеждой на компилятор). Отбалды
    > делать атомарные операции
    > над не атомарными перемененными ну совсем не гарантирует атомарность. Linux так вообще
    > этого не позволит.

    По-моему, вы немного не о том. Гонка возникает, когда есть... гонка. Т.е. непредсказуемая последовательность "приходящих к финишу" чего-то там. Вы же говорите о ложном суждении о естественной атомарности инвариантов. А атомарность инвариантов нужно описывать разрабу и описывать осмысленно. Компилятор этого не сделает.
    В общем, и в литературе эту ситуацию почему-то запихивают в "гонку". Хотя тут никакой гонки нет.

     
  • 5.50, Аноним (-), 20:48, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Во-первых, в статье нет решений, есть только примеры, показывающие разницу между rc и dr.
    Во-вторых, приведены они в псевдокоде. "Атомарная операция" определяется нестрого, это не конструкция языка, и атомарные переменные тут не при чем. Важно лишь, что результат в блоке одновременно видим или невидим всем потокам. Реализовать можно через системный мьютекс, Linux позволит, я гарантирую.
     
  • 4.35, pavlinux (ok), 20:53, 22/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    ......Пля, модыр, трахни в моск свой кревой парсер
     
  • 2.40, Кузнец (?), 15:29, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Это всё гонка. Т.е. когда состояние обобществлённого ресурса зависит от (псевдо)случайных факторов, а не прописано логикой алгоритма.
     
     
  • 3.48, Аноним (-), 20:22, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Race condition обязательно нарушает логику алгоритма (семантику, инварианты, или как хотите) при неблагопрятном стечении обстоятельств. Data race - совсем не обязательно.
     
     
  • 4.51, Кузнец (?), 01:19, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Агх. Не уверен. Гонка возникает, чаще всего, из-за неверного суждения разраба о том, что вот как поток кода следует в его описании, так он и будет исполнятся. Более того, будет исполнятся "континуумно", т.е. без gaps-ов между строками выражений. Но проблема в том, что Ява, и не только она, в этом плане совершенно обманчива -- код на стадии исполнения перемешивается непредсказуемым образом (как оптимизатор решит), если только явно не предписать его прецеденцию. А уж многопоточность усложняет картину ещё больше.
    DR же возникает из-за другого заблуждения -- что компилятор каким-то немыслимым образом определить желаемые границы атомарного инварианта просто просмотрев члены экземпляры (класса). Но это тоже невозможно. Т.е. DR это и не гонка совсем, по-моему.
     
  • 4.52, Кузнец (?), 01:24, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Race condition обязательно нарушает логику алгоритма (семантику, инварианты, или как хотите)
    > при неблагопрятном стечении обстоятельств. Data race - совсем не обязательно.

    RC как раз ничего не нарушает -- нельзя нарушить то, что не предписано. Просто нужно зарубить себе на носу, что прецеденция исходного кода не будет сохранена на стадии исполнения. Если компилятору не сообщить как именно это сделать. Иначе -- будет как попало. Ява не сохраняет прецеденцию исходного кода (это так, для тех, кто не в курсе) по умолчанию.

     
  • 3.60, Кузнец (?), 21:27, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > Это всё гонка. Т.е. когда состояние обобществлённого ресурса зависит от (псевдо)случайных
    > факторов, а не прописано логикой алгоритма.

    ... Итак, резюмирую. Гонка всегда результат неверного суждения об исполнительной среде. А не порок языка. По крайней мере, в Яве.

     

  • 1.23, Аноним (-), 00:10, 22/10/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Никаких связей с растовым racer, ага.
     
     
  • 2.44, Crazy Alex (ok), 15:52, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Растоманам везде раст мерещится
     

  • 1.30, теперь по Борщеву (?), 16:52, 22/10/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    есть ли неигровое приложение под андроид, более нагружающее мобилку, чем фейсбук? Я серьёзно. Сбербанк-онлайн не предлагать.
     
  • 1.39, Кузнец (?), 15:24, 23/10/2017 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    На мой не слишком проницательный взгляд история многопоточности в Яве это история про то, как сначала усиленно и целенаправленно делать дуршлаг, потому что дуршлаг все хотят, а потом сделав -- делать затычки для дырочек в этом друшлаге. Многопоточность в Яве "слишком гибкая", т.е. слишком много зависит от степени трезвости разработчика.
     
     
  • 2.49, Аноним (-), 20:34, 23/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    как раз по части модели памяти джава всегда была очень продвинутой. актуальную модель памяти плюсов делали в том числе опираясь на джавовую, но вот, к примеру, с OoTA-значениями так и не разобрались.
     
     
  • 3.53, Кузнец (?), 01:27, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    > как раз по части модели памяти джава всегда была очень продвинутой. актуальную
    > модель памяти плюсов делали в том числе опираясь на джавовую, но
    > вот, к примеру, с OoTA-значениями так и не разобрались.

    Местами даже через чур. Особенно в отсутствии внятной документации.

     
     
  • 4.56, Ordu (ok), 09:01, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    чересчур
     
     
  • 5.57, Кузнец (?), 13:06, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    Да
     
  • 5.61, Кузнец (?), 22:53, 24/10/2017 [^] [^^] [^^^] [ответить]  
  • +/
    P.S: Хотя, не совсем. "Через чур" тоже можно употреблять -- это, как раз, исконное выражение. Одно из значений "Чур" -- граница. Т.е. "через чур" это через границу. Или сверх меры. Так что, всё Ок.
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:
    При перепечатке указание ссылки на opennet.ru обязательно



    Спонсоры:
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2021 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру