Село Грачёвка Грачевского сельского Совета Мордовского района упоминается в 1782 году в документе: "Перепись церковно-служащих Усманского уезда", где обозначена церковь Архангельская села Грачевки. Священник - Сидор Никифорович Богомолов, его жена Прасковия и их 8 детей.
Вторично мы находим упоминание о Грачевке в документах переписи населения 1816 года. В это время она была заселена крепостными крестьянами четырех мелких помещиков. Семья Высоцких (Никифора, Варвары, Василия) имела 35 мужчин и 43 женщины (домов - 17) ; Авдотье Гавриловне Истоминой принадлежали 7 мужчин и 6 женщин (домов - 3); лейтенант Илья Меркулов имел по 11 мужских и женских душ (домов - 6); у поручика Степана Дьякова была лишь одна семья крепостных (мужчин - 2, женщин - 1). Одновременно в Грачевке проживали однодворцы, которые, наверное, были основателями села. Их числилось: мужчин - 403, женщин -447 человек, а их домов - 100. Из числа однодворцев того периода проживали: Яков Жупиков, Андрей Чернов, Егор Поряднин, Михаил Кустов, Ларион Тартышный, Тимофей Ростовцев, Ефим Литвинов, Иван Фролов. 3
В 1978 году к Грачёвке была присоеднинена деревня Грачёвка 2-ая.
В Тамбовской области на расстоянии десяти километров друг от друга находятся два населенных пункта с одинаковым названием – Грачевка. Один из них числится в Петровском районе и в прошлом назывался Давыдовка, а второй, который местные жители называют Большой Грачевкой, – в соседнем Мордовском районе. В последнем селении в годы советской власти был уничтожен деревянный храм во имя иконы Богоматери «Всех скорбящих радости», построенный в 1854 году. Перед революцией в приход церкви входили шесть деревень: Грачевка (Володино), Каменка, Гурьевка (Анетово), Алексеевка, Прудки и Дмитриевка. Рядом с храмом находилась церковно-прихосдкая школа. В отличие от Найденовки, отыскать Грачевку оказалось не так легко. Асфальтовой дороги в деревню так и не проложили, пришлось несколько километров от Алексеевки добираться по грунтовой дороге среди полей, засаженных пшеницей, подсолнечником и сахарной свеклой. Проезжал и деревню Анетово, которая еще значится на современных картах, а на самом деле на ее месте кусок поля, поросший бурьяном. Деревня исчезла, остались лишь последние следы – несколько яблонь и одиноко стоящий деревянный столб. 