Нужен минималистичный набор программ. Всё лишнее долой.
Возможно как-то выбрать при установке какие именно программы устанавливать, а что не нужно?
Или как-нибудь создать собственную сборку дистрибутива в котором прописать для установки только те программы, что нужны?