Уроженец Павлодарской области. Образование высшее. В 1971 году окончил инженерно-строительный факультет Павлодарского индустриального института по специальности инженер-строитель. В 1989 году прошел полный курс повышения квалификации руководителей высшего звена Академии народного хозяйства при Совмине СССР.
Трудовую деятельность начал в 1965 году в качестве учителя физики и математики в Карабидайской средней школе Щербактинского района, после окончания института 27 лет проработал в тресте «Павлодарпромстрой», пройдя трудовой путь от мастера до генерального директора. Николай Иванович принимал непосредственное участие в строительстве многих индустриальных объектов города Павлодара. В их числе: Павлодарский нефтеперерабатывающий, алюминиевый, тракторный, химический заводы.
В апреле 1998 года Н.И. Чмых становится акимом города Павлодара. За период его работы в акимате была осуществлена стабилизация бюджета, снизилась безработица, вырос удельный вес малого бизнеса, началось возрождение промышленных предприятий, изменился и облик города Павлодара. На должности акима Павлодара Николай Иванович руководил строительством православного храма, центральной мечети, культурно-досугового и диагностического центров, а также обустройством набережной реки Иртыш.
Награды: Орден «Құрмет», золотая медаль Фонда Мира, орден 3-ей степени князя Даниила Московского, знак «За заслуги перед областью», медалями.