Спасибо всем за помощь, разобрался, пришлось добавить строчки в конфиги dovecot(disable_plainetext_auth = no и ssl=yes), после этого у меня все заработало, плюс был мой косяк, я указал в настройках почтового сервера внешние сети 10.0.0.1/8, а нужно было 10.0.0.0/8.
Теперь Bat у пользователей не ругается, работает обычная аутентификация без tls(у нас есть маршрутизатор с крипто-защитой vipnet + сетка только внутренняя и в инет не лезит).
Еще раз всем спасибо!!! Можно отметить тему решенной!