В статистических списках населённых мест от 1862 года Николаевка присутствует как казённая деревня при речке Елани по левую сторону транспортного тракта из г. Борисоглебска в г. Усмань. Всего тогда там располагалось дворов - 111, где проживало мужчин - 387, женщин - 389. Уездный центр располагался в 70 км.
В епархиальных сведениях 1911 года сказано, что в селе Николаевка было на тот момент 239 дворов, в которых проживали 1062 мужчин и 1037 женщин. Деревянная холодная Архангельская церковь построена в 1868 году. В приходе также значилась деревня Борисовка. Работали церковно-приходская и земская школы.
Сейчас Николаевка входит в Терновский район Воронежской области. 4