А если модему передать ATZ через управляющий tty ? Какой - не знаю, это от модема зависит. minicom-ом. Я бы с ttyUSB1 начал, но это и 0 (когда там данные не передаются), и 2 могут тоже быть в некоторых случаях.
Может быть, посредством echo ATZ > /dev/ttyUSB1 передать получится, кстати. Но в minicom и ответ будет видно, может быть полезно по началу.