О - а я этот вопрос когда-то давно пытался для себя решать. Если я ничего не путаю использование max_memory_usage немного улучшало картину, но полностью проблему не решало.Для себя я использовал вот такое "решение" - я вызывал msync с ключиком MS_INVALIDATE перед вызовом munmap в libtorrent (библиотека, которую использует rtorrent и вобщем-то откуда и идёт активное использование mmap/munmap). За счёт этого после вызова munmap регион памяти попадает в inactive / free пулы.
Если пошагово, то это примерно так:
1. Бэкапим libtorrent (на всякий случай):
pkg_create -b libtorrent-0.12.5
2. Распаковываем исходные коды libtorrent:
cd /usr/ports/net-p2p/libtorrent
make clean extract
3. Открываем в любимом редакторе файл /usr/ports/net-p2p/libtorrent/work/libtorrent-0.12.5/src/data/memory_chunk.cc и находим определение функции MemoryChunk::unmap()
4. Вносим следующие изменения:
void
MemoryChunk::unmap() {
if (!is_valid())
throw internal_error("MemoryChunk::unmap() called on an invalid object");+ if (msync(m_ptr, m_end - m_ptr,MS_INVALIDATE) != 0)
+ throw internal_error("MemoryChunk::unmap() - msync() system call failed");
+
if (munmap(m_ptr, m_end - m_ptr) != 0)
throw internal_error("MemoryChunk::unmap() system call failed: " + std::string(rak::error_number::current().c_str()));
}
5. Собираем и устанавливаем изменённый libtorrent:
cd /usr/ports/net-p2p/libtorrent
make && make deinstall reinstall