Село Малая Грибановка упоминается в первой ревизии 1719 года. Также сохранились практически все более поздние ревизии. Метрические книги, которые велись в местной Никольской церкви, сохранились с 1758 года.
В списке населённых мест по сведениям 1862 года Малая Грибановка значится как казённое и владельческое село при речке Грибановке между левою стороною транспортной дороги из г. Кирсанова в г. Борисоглебск и правого берега реки Вороны. На тот момент там числилось дворов - 393, в которых значилось мужчин - 1492, женщин - 1516. От уездного центра 22 км.
Сейчас село Малая Грибановка относится к Грибановскому району Воронежской области. 4