В статистических списках населённых мест от 1862 года Терновка упоминается как казённая деревня при реке Усманке по правую сторону транспортного тракта из г. Усмани в г. Козлов. На тот момент там было дворов - 37, в которых значилось мужчин - 148, женщин - 154. Центр уезда располагался в 3 км.
Согласно современному административному делению Терновка входит в Усманский район Липецкой области. 4