The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"В рамках проекта zlib-ng развивается высокопроизводительный ..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от opennews (ok) on 05-Июн-15, 21:31 
Проект zlib-ng (https://github.com/Dead2/zlib-ng) нацелен на создание совместимой на уровне API замены библиотеке zlib (http://www.zlib.net/), предоставляющей некоторые сторонние оптимизации, которые не реализованы в  официальном репозитории zlib. В отличие от достаточно консервативного в плане приёма изменений проекта zlib, проект zlib-ng позиционируется как предоставляющий более низкий порог включения патчей, что способствует более быстрому доведению новых решений до пользователей.


Zlib-ng также допускает удаление обходных решений, используемых в zlib для поддержки старых компиляторов и платформ, если они мешают реализации более эффективных методов (например, в zlib применяются некоторые ограничения, необходимые для поддержки 16-разрядных систем и не совместимых с ANSI C компиляторов).


Из добавленных в  zlib-ng изменений отмечается интеграция оптимизаций, подготовленных компаниями Intel (https://www.opennet.ru/opennews/art.shtml?num=38551) и Cloudflare, а также накопившихся в пакетах дистрибутивов мелких патчей. В частности, заметно повысить скорость сжатия/распаковки позволило использование инструкций SSE.  Также проведена чистка кода от поддержки устаревших компиляторов и архитектур, которые нагромождают кодовую базу и усложняют сопровождение проекта.


URL: https://news.ycombinator.com/item?id=9664655
Новость: https://www.opennet.ru/opennews/art.shtml?num=42374

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Michael Shigorin email(ok) on 05-Июн-15, 21:31 
Более быстрому доведению пользователей до чего, простите?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

3. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +17 +/
Сообщение от Кондратий on 05-Июн-15, 21:45 
Не до чего, а до кого.
До меня. :)
Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

10. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +1 +/
Сообщение от Crazy Alex (ok) on 06-Июн-15, 00:49 
Это правильно, а то как-то редко посещаешь. Развелось людишек - вон, уже 8 миллиардов...
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

28. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Sw00p aka Jerom on 06-Июн-15, 13:22 
до вас каналы связи быстро должны доносить
Ответить | Правка | ^ к родителю #3 | Наверх | Cообщить модератору

2. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –10 +/
Сообщение от ram_scan on 05-Июн-15, 21:43 
Теперь initrd будет распаковываццо на 2 миллисекунды быстрее. Как я раньше жил без этого ?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

4. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +9 +/
Сообщение от Аноним (??) on 05-Июн-15, 21:48 
Слоупок, initcpio давно уже xz/lzo/lz4 сжимают

zlib используется там, где другие методы никак не подходят, например сжатие вебстраниц (apache, nginx).

Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

5. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +3 +/
Сообщение от h31 (ok) on 05-Июн-15, 22:08 
Какой initrd? Zlib - это юзерспейная либа, которая применяется просто в куче проектов.
Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

7. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –4 +/
Сообщение от Аноним (??) on 06-Июн-15, 00:09 
а это что простите?

linux-2.6.32-504.12.2.el6/include/linux
/* zlib.h -- interface of the 'zlib' general purpose compression library

  Copyright (C) 1995-2005 Jean-loup Gailly and Mark Adler

Ответить | Правка | ^ к родителю #5 | Наверх | Cообщить модератору

37. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –1 +/
Сообщение от kurokaze (ok) on 07-Июн-15, 03:20 
>а это что простите? linux-2.6.32-504.12.2.el6/include/linux

А это у вас анабиозная камера протекла, что и вызвало вашу разморозку
Впрочем прощаю

Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

40. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Аноним (??) on 07-Июн-15, 13:23 
> Какой initrd? Zlib - это юзерспейная либа

Не помешало передрать deflate в кернель...

Ответить | Правка | ^ к родителю #5 | Наверх | Cообщить модератору

6. "В рамках проекта zlib-ng развивается..."  +/
Сообщение от arisu (ok) on 05-Июн-15, 22:12 
кто такой весь этот Dead2, почему он так похож на Саймона Пегга и о чём будет эта новая комедия?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

8. "В рамках проекта zlib-ng развивается..."  +/
Сообщение от Crazy Alex (ok) on 06-Июн-15, 00:14 
И чем он тебе не угодил?
Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

14. "В рамках проекта zlib-ng развивается..."  +1 +/
Сообщение от arisu (ok) on 06-Июн-15, 07:35 
> И чем он тебе не угодил?

а где я это сказал? я спросил, кто он такой, чем он известен и почему надо пиарить именно его. а то, казалось бы, пакеты собирать, например — тоже достаточно быть просто аккуратным. а потом бац — бебиан, опенссл…

вот и про этого интересно, чем он отметился.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

23. "В рамках проекта zlib-ng развивается..."  +/
Сообщение от Crazy Alex (ok) on 06-Июн-15, 11:33 
А, ясно. Показалось, что как-то злобно прозвучало. А так - ну какая разница, через год-другой вот этим себя и проявит, когда все убедятся во вменяемости. Или не проявит.
Ответить | Правка | ^ к родителю #14 | Наверх | Cообщить модератору

24. "В рамках проекта zlib-ng развивается..."  +/
Сообщение от arisu (ok) on 06-Июн-15, 11:41 
> А, ясно. Показалось, что как-то злобно прозвучало.

саркастично немного. но я же не виноват, что он действительно похож на Саймона Пегга! после этого уже ни в какую серьёзность я не смог.

Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

9. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от _Vitaly_ (ok) on 06-Июн-15, 00:25 
Там cамый большой профит от оптимизаций в crc32, которая нужна только для обертки gzip, а в чиcтых inflate/deflate вообще не иcпользуютcя.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

22. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Аноним (??) on 06-Июн-15, 11:31 
Ещё zlib часто используется для [де]компрессии при работе с zip-архивами и является чем-то вроде бекэнда для libpng. Там оптимизации вычисления CRC32 лишними тоже не будут.
Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

35. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от _Vitaly_ (ok) on 06-Июн-15, 22:22 
Я в курcе. Проcто чтобы понимали, где именно ожидать улучшений и на cколько. ~ 20-30% на раcпаковке. Еcли эмбедить и не нужен именно gzip, то deflate c адлером будет быcтрее.
Ответить | Правка | ^ к родителю #22 | Наверх | Cообщить модератору

36. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Аноним (??) on 06-Июн-15, 23:05 
adler по любому будет быстрее. он даже быстрее или так же с аппаратным crc32 / crc32c
Ответить | Правка | ^ к родителю #35 | Наверх | Cообщить модератору

41. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Аноним (??) on 07-Июн-15, 13:25 
> adler по любому будет быстрее.

...но и несколько менее надежен. Чудес не бывает.

Ответить | Правка | ^ к родителю #36 | Наверх | Cообщить модератору

11. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –3 +/
Сообщение от АнонимХ (ok) on 06-Июн-15, 02:33 
Это как-то будет исправлять кривое поведение GZIP на файлах > 4GB ? (gzip -l myarchive.bin.gz неправильно показывает размер)
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

12. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +3 +/
Сообщение от Аноним (??) on 06-Июн-15, 06:46 
Тоже мне новость, этот форк cloudflare c оптимизациями под интеловские процы уже года 2 как живет на https://github.com/cloudflare/zlib и широко известен в узких кругах хайлодщиков.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

33. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Crazy Alex (ok) on 06-Июн-15, 16:24 
Ну вот глядишь - будет известен не только "в узких кругах".
Ответить | Правка | ^ к родителю #12 | Наверх | Cообщить модератору

13. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –1 +/
Сообщение от rob pike on 06-Июн-15, 07:21 
а Google будет продолжать проталкивать свой Snappy?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

27. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Stax (ok) on 06-Июн-15, 13:16 
У них разные области применения, zlib никогда не достигнет скорости snappy, а snappy - сжатия zlib. Snappy это конкурент lzo и lz4.
Ответить | Правка | ^ к родителю #13 | Наверх | Cообщить модератору

42. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +1 +/
Сообщение от Аноним (??) on 07-Июн-15, 13:26 
> а Google будет продолжать проталкивать свой Snappy?

...которого по скорости сжатия и распаковки давно сделали LZ4 и LZO, если уж кого скорость интересовала.

Ответить | Правка | ^ к родителю #13 | Наверх | Cообщить модератору

15. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –2 +/
Сообщение от Zenitur (ok) on 06-Июн-15, 09:54 
> Zlib-ng также допускает удаление обходных решений, используемых в zlib для поддержки старых компиляторов и платформ

Как-то раз в Glibc тоже приняли один патч. Он оптимизировал memcpy с помощью SSE4.1. Если посмотреть историю GIT, то таких патчей было множество (SSE, SSE2), но конкретно этот сделал так, что в некоторых случаях данные записывались задом наперёд, иначе никакого прироста производительности. Недовольным же сказали что поведение пересекающихся регионов не описано в стандарте, поэтому может быть каким угодно, и если вы полагаетесь на традиционный порядок - вы нуб и клинический идиот.

Ну что скажу. Могли вообще сделать чередование: 10 бит слева направо, потом 10 бит справа налево. Кто не учёл такое поведение memcpy - сам виноват! А вообще я бы откатил патч-первопричину, а не создавал обходные пути решения проблемы.

Интересно, что отвалится при использовании zlib-ng вместо zlib? Уверен что половина софта точно.

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

16. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +7 +/
Сообщение от Незенитур on 06-Июн-15, 10:12 
Как-то раз в Adobe Flash тоже приняли один патч. Он использовал memcpy вместо memmove для копирования перекрывающихся областей. Недовольным же сказали что поведение пересекающихся регионов не описано в стандарте, поэтому может быть каким угодно, и если вы не используете реализацию, копирующую строго в том порядке, как это предположили разработчики Adobe, - вы нуб и клинический идиот.

Ну что скажу. Могли вообще сделать копирование из /dev/urandom. У кого значение генератора случайных чисел не совпадает с копируемым контентом - сам виноват. А вообще я бы использовал при сборке -Dmemcpy=memmove, а не создавал новые проблемы.

Интересно, что отвалится при использовании zlib-ng вместо zlib? Уверен что снова Adobe Flash.

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

17. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +5 +/
Сообщение от Незенитур on 06-Июн-15, 10:14 
> Недовольным же сказали что поведение пересекающихся регионов не описано в стандарте

Ложь. Поведение пересекающихся регионов ОПИСАНО в стандарте - там чётко написано, что для них надо использовать другую функцию.

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

19. "В рамках проекта zlib-ng развивается..."  +3 +/
Сообщение от arisu (ok) on 06-Июн-15, 10:26 
>> Недовольным же сказали что поведение пересекающихся регионов не описано в стандарте
> Ложь. Поведение пересекающихся регионов ОПИСАНО в стандарте - там чётко написано, что
> для них надо использовать другую функцию.

подобным идиотам на документацию плевать: у них виноваты все вокруг, но только не обезьяна, которая наплевала на документацию.

что, конечно, никак не отменяет изначальной идиотичности API memcpy(3) и memove(3).

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

43. "В рамках проекта zlib-ng развивается..."  +2 +/
Сообщение от Аноним (??) on 07-Июн-15, 13:28 
> подобным идиoтам на документацию плевать:

Ну, блин, это ж зенитар.

Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

21. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –1 +/
Сообщение от Zenitur (ok) on 06-Июн-15, 10:57 
>> Недовольным же сказали что поведение пересекающихся регионов не описано в стандарте
> Ложь. Поведение пересекающихся регионов ОПИСАНО в стандарте - там чётко написано, что
> для них надо использовать другую функцию.

Спасибо за наводку, посмотрю.

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

18. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +2 +/
Сообщение от Kotan on 06-Июн-15, 10:14 
Ты хочешь пользоваться API неправильно, и чтобы оно ещё корректно работало? Я рад, что не работаю с тобой в одной компании.
Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

20. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –1 +/
Сообщение от Zenitur (ok) on 06-Июн-15, 10:56 
Я хочу переносимость бинарей между дистрами, и не хочу чтобы в Ubuntu 15.04 не запустился бинарь от Fedora 22 из-за того, что в Fedora (например) чуть более новый GCC, а в Ubuntu чуть более новый zlib.

И вообще я использую Athlon XP и SLED 10 - а в новости написано что в zlib дропнут старые компиляторы. Я регулярно устанавливаю новые либы, последнее, что я устанавливал - libstdc++.so.6 из GCC 4.9 для 2GIS (в самой же системе - GCC 4.1). Обновить дистр - не вариант, так как новые на таком железе тормозят, поэтому для очередного Skype 5.0 я обновлю zlib, и получу незапускающуюся систему!

Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

29. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +2 +/
Сообщение от Аноним (??) on 06-Июн-15, 13:30 
Так бинарь изначально написан криворукими макаками, и работал только потому, что так сложились звезды.
Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

32. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +3 +/
Сообщение от Crazy Alex (ok) on 06-Июн-15, 16:20 
Переносимость бинарей? А зачем, собственно? Чтобы поганой проприетарщине удобнее было? Что до дропа старых компиляторов - там надо было написать не "старые", а "антикварные, кривые и замшелые". 16 бит? Несовместимые с ANSI C? Их сто лет как пора выкинуть.

Ну и ожидать, что мейнстримная ось будет работать на совсем не мейнстримном (а адски устаревшем) железе - довольно глупо. Специализированные дистры в помощь для такого случая.

Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

39. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +1 +/
Сообщение от kurokaze (ok) on 07-Июн-15, 03:27 
> Обновить дистр - не вариант, так как новые на таком железе тормозят

Выкинь говнодистр и поставь нормальный.

>я обновлю zlib, и получу незапускающуюся систему!

Песочница + ldd для проверки спасут тебя

Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

44. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +2 +/
Сообщение от Аноним (??) on 07-Июн-15, 13:31 
> для очередного Skype 5.0 я обновлю zlib, и получу незапускающуюся систему!

А откуда ты взял что кого-то колышут твои проблемы? Особенно разработчиков дистров и либ?

Тебе с твоей любовью к проприетарному гомнецу проще всего было бы использовать винды. Там и шкап чуть ли не из коробки, и горб-гис наверняка готовый есть, и совместимость бинарников между дистрами есть (*).

* Дистрибутив может быть сделан любой компанией, при условии что эта компания - Майкрософт.

Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

47. "В рамках проекта zlib-ng развивается..."  +1 +/
Сообщение от arisu (ok) on 07-Июн-15, 13:44 
> А откуда ты взял что кого-то колышут твои проблемы?

ну так Ватсон без трубки уже не может, вот и страдает прилюдно.

Ответить | Правка | ^ к родителю #44 | Наверх | Cообщить модератору

38. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +1 +/
Сообщение от kurokaze (ok) on 07-Июн-15, 03:24 
> Как-то раз в Glibc тоже приняли один патч. Он оптимизировал memcpy с

Ты всё переврал от и до. Тебя бульварный журналист покусал или ты сам себя за задницу цапнуть умудрился?

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

45. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +2 +/
Сообщение от Аноним (??) on 07-Июн-15, 13:34 
> Кто не учёл такое поведение memcpy - сам виноват!

Если ты решил изобразить из себя кулхацкера и использовал функцию для того, для чего ее не предназначали, завязавшись на какое-то конкретное поведение конкретной реализации, которое никто в общем то нигде не гарантировал, а кто-то возьми да и напиши другую реализацию, работающую иначе - кто ж тебе доктор? Любители использовать недокументированные и нестандартные возможности не имеют права жаловаться что что-то отвалилось.

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

25. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –3 +/
Сообщение от YetAnotherOnanym (ok) on 06-Июн-15, 12:26 
А буквы "-ng" в названии - это их BSD'шники покусали?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

26. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +2 +/
Сообщение от Andrey Mitrofanov on 06-Июн-15, 12:45 
> А буквы "-ng" в названии - это их BSD'шники покусали?

Не, new gen. это Прелевин. </покусал>

Ответить | Правка | ^ к родителю #25 | Наверх | Cообщить модератору

50. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Sluggard (ok) on 09-Июн-15, 23:49 
Это «next generation», а не «new». И вряд ли разработчики zlib-ng или той же Miranda NG знают о наших писателях-мухоморщиках. )
Ответить | Правка | ^ к родителю #26 | Наверх | Cообщить модератору

30. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Аноним (??) on 06-Июн-15, 13:47 
Формат архива ведь не изменился, zlib-ng полностью совместим с zlib?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

48. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Led (ok) on 07-Июн-15, 18:24 
> Формат архива ведь не изменился, zlib-ng полностью совместим с zlib?

Какого архива, малыш?

Ответить | Правка | ^ к родителю #30 | Наверх | Cообщить модератору

49. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Michael Shigorin email(ok) on 07-Июн-15, 19:05 
> Формат архива

Это называется bitstream (двоичный поток).

Ответить | Правка | ^ к родителю #30 | Наверх | Cообщить модератору

31. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  –1 +/
Сообщение от Аноним (??) on 06-Июн-15, 13:49 
У zlib разве нет флагов сборки с оптимизацией работы под конкретной архитектурой?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

34. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от хрюкотающий зелюк on 06-Июн-15, 21:46 
А бенчмарки есть, первые результаты???
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

46. "В рамках проекта zlib-ng развивается высокопроизводительный ..."  +/
Сообщение от Аноним (??) on 07-Июн-15, 13:34 
> А бенчмарки есть, первые результаты???

Сколько волка^W zlib не оптимизируй, а LZ4 все-равно быстрее :)

Ответить | Правка | ^ к родителю #34 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2020 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру