Решил выложить все в одном месте, так как статьи имеет смысл читать последовательно и вдумчиво:
Очень годная статью про подмену и детектирование этой самой подмены LD_PRELOAD
Замечательная статья для вкатыавния в тему бинарщины
Очень хороший разбор, что из себя представляет KVM, его история и поверхностный разбор (просто потому что для детального разбора проще пойти в специализированную литературу)
Очень классная статью про проблемы сборки мусора, причём на ядерном уровне. Советую, человек достаточно хорошо расписал как плюсы, так и минусы и заодно попытался развеять идею "сборка мусора на системном уровне не нужна".