Село Козловка упоминается в ревизской сказке 1811 года по Борисоглебскому уезду как Козловка, что на реке Елань. Сохранились метрические книги местной Боголюбской церкви, самая ранняя из которых от 1759 года.
В статистических списках населённых мест от 1862 года Козловка (Елань) значится как казённое село при речке Елани по левую сторону Астраханского почтового тракта. На тот момент там было дворов - 486, и проживало мужчин - 2323, женщин - 2519. Расстояние от уездного центра 61 км.
Сейчас Козловка входит в состав Терновского района Воронежской области. 4