Николай Федорович родился и вырос в поселке Ивановская Поляна, который ранее входил в состав Краснопартизанского района (нынешний Асекеевский) Оренбургской области. Учился в школе, помогал взрослым по хозяйству. Когда началась война, Николаю Федоровичу было 16 лет. С этого времени детство и юность закончились, началась полная тревог и забот взрослая жизнь. Так было до 10 ноября 1943 года, когда он был призван на службу в армию.
После мобилизации попал в учебный центр, который тогда располагался в городе Уфе, а по окончании учебы был направлен для прохождения службы в войска НКВД.
Войскам наркомата внутренних дел в те годы работы хватало. Отодвигавшийся на запад фронт оставлял после себя диверсионные группы. В городах и селах возникали различные по составу преступные формирования, не счесть было в этой неустроенной жизни различного рода преступных элементов. С ними и приходилось вести борьбу службам НКВД, наводя порядок и защищая интересы народа и государства.
До 1946 года служил Николай Федорович в городе Ростове и Армавире. За добросовестную службу он был награжден правительственной медалью. Однако, по воспоминаниям Немцева, самым весомым поощрением все же был отпуск на родину.
После окончания войны в Западной Украине развернулась борьба с националистами. Часть, в которой служил Николай Немцев, была в 1946 году перебазирована в западную Украину во Львовскую область и приняла участие в борьбе с бендеровцами. Для Николая Федоровича война продолжалась еще 2 года.
Был Немцев помощником коменданта КПП на секретной стройке, где создавались первые атомные бомбы под руководством академика Курчатова, с которым приходилось встречаться практически каждый день.
Домой Николай Немцев возвратился в 1951 году, а через 2 недели опытного работника пригласил к себе начальник районного отделения Министерства государственной безопасности майор Николаев и предложил поработать участковым уполномоченным милиции поселка Чкаловский Асекеевского района Оренбургской области. Здесь и начал свою милицейскую службу Немцев. Прослужив 24 года на асекеевской земле, Николай Федорович ушел на пенсию.