1. Для современных звуковых чипов есть два варианта подключения разъёмов передней панели - AC97 и HDAudio. Первый вариант отличается отсутствием двух проводов и соответственно невозможностью контролировать, воткнут ли штекер в передний разъем или нет.
Судя по описанному вами, у вас нормальное HD подключение передней панели (но на дешёвых корпусах любят экономить проводки)
2. В настройках драйвера Realtek в виндовс есть настройка режима работы передней панели. Может быть явно написано "AC97/HDA" или как вариант "не контролировать переднюю панель" (т.е. режим AC97). На материнках Asus эта настройка может быть вынесена в BIOS Setup.
Так вот, в режиме AC97 звук выдаётся на переднюю панель всегда, а в режиме HDA при втыкании штекера в переднюю панель происходит отключение выхода на заднюю панель (line out) и включение выхода на переднюю (Headphone).
3. Т.е. в самом аудио чипе есть возможность управлять режимом работы передней панели. Обычные стандартные микшеры обычно показывают не все возможности чипа. А вот запустив alsamixer в консоли, можно увидеть побольше возможностей для регулировки, и можно поиграться с настройкой. В частности есть две регулировки для Headphone - движок громкости и переключатель "вкл/выкл"
