Первый храм в честь рождества св. славного Пророка Предтечи и Крестителя Господня Иоанна построен здесь в 1770 г. помещиком Иваном Тимофеевичем Красовским. На месте, где ныне стоит слобода Рябушки и самая церковь, так рассказывают старожилы, жил когда-то хутором один только крестьянин по фамилии Рябушка и на всем пространстве, где стоят ныне слобода и церковь, рос огромный дубовый и березовый лес, а внизу по течению реки Ольшаной был луг. Остатки всего этого видны еще и ныне.[1]

 Иван Тимофеевич Красовский, живший до 1770 г. в Лебединском уезде в деревне Тимофеевке полюбил местоположение Рябушек, где большая часть леса и земли принадлежала ему, и движимый благочестием, по благословению Преосвященного Самуила, епископа Белгородского и Обоянского, в 1770 г. прежде нежели построил для себя дом, заложил дом Божий, и с того времени постоянно уже жил в Рябушках, куда переселил и часть людей своих. В 1771 г. сентября 11 д. церковь освящена Лебединским протопопом Иоанном Шкурским. Первым священником в ней был Афанасий Яковлев, рукоположенный Преосвященным Самуилом в 1771 г. 4 декабря. Он по освящении церкви, в течении целого года, ни одного дня не опустил без служения: так говорят старожилы. На место его поступил священник Стефан Лаврентиев Чижевский, который в 1785 г. на пожертвования прихожан купил серебряную вызлощенную отличной работы гробницу, в 1000 р. ас. В товарищи ему, когда приход распространился, в 1789 г. рукоположен Матфей Дмитриев, который собственно от себя в 1810 г., по случаю жестокой болезни сыновей своих, пожертвовал в церковь Казанскую икону Божьей Матери в серебряной и вызлощенной ризе ценою в 190 руб. ассигнациями. После смерти священника Стефана Чижевского поступил священник Михаил Залесский, который в 1810 г. переведен в г. Лебедин, а на место его Преосвященным Христофором, в 1810 г. рукоположен Лука Степанов Чижевский, который бывши еще в Коллегиуме, был регентом архиерейской певческой; почему и во время прохождения должности священника, в часы свободные от занятий по церкви и приходу, занимался вокальною музыкою. Он положил на ноты в четыре голоса канон в девяти песнях на праздник воскресения Христова, со святыми упокой, милость мира, Тебе поем, херувимскую песнь, Отче наш и другие, которые долго употреблялись в харьковской архиерейской певческой. С 1826 г. по 1830 год, в котором он умер, состоял в должности благочинного и в 1826 г. награжден был синоданою скуфьею.

В храме есть список с Печерской иконы Богоматери с частицами мощей преподобных Онуфрия, Макария, Феофана и Сильвестра, - дар Ивана Тимофеевича.

Подцерковная земля 33 десятины, пять колоколов, весь круг церковных книг, в том числе минея за январь месяц издания 1710 г., потир с дискосом, плащаница, подсвечники, лампады, большая часть риз и разных других вещей поступили от Ивана Тимофеевича Красовского. Он так усерден был к св. храму, что ни одного служения не опускал, сам читал и пел на клиросе и подавал кадило; так говорят об нем все старожилы.

За такую благочестивую жизнь, за такое усердное служение св. храму Бог благословил его еще в этой жизни, что особенно видно на детях его. Шесть сыновей его, были воспитаны в страхе Божием, были добрыми слугами Государя и отечества и примерными христианами; преимущественно же благословение Божие почило на среднем из них.  

Пять сыновей Ивана Тимофеевича воспитывались в кадетских корпусах, а средний Афанасий Иванович учился читать и писать в Рябушках у пономарки Февронии Ивановой Ушинской, и прямо от неё, 16 лет, поступил в военную службу, где заслугами своими стяжал себе славу героя, Почти 50 лет он украшал собою воинское звание и ровно 30 лет носил и украшал звание генерала; в 23 сражениях он посредственно или непосредственно был предводителем к победам и славе. Смерть его постигла в г. Киеве 1843 г. командиром 1-го пехотного корпуса в чине генерал-адъютанта и генерала от инфантерии. Св. храм сей, построенный отцом его, неоднократно видел его смиренно молящегося  Богу всемогущему. В 1813 г. в чине генерал-майора, он прислал в церковь серебряные ризы для местных образов, в коих весу двадцать два фунта, а в 1818 г. сам привез на белом атласе плащаницу.

В 1849 г. умер меньший сын Ивана Тимофеевича Красовского артиллерии штабс-капитан и кавалер Александр. Жизнь его замечательна как ревностного и примерного христианина. Оставив службу за болезнью глаз, он в течении многих лет не мог смотреть на свет; все искусные медики призваны были ему на помощь, и ни один из них не облегчил его болезни; сидя всегда в темной комнате, он по нескольку стихов учил из псалтыри и св. евангелия, которые читали ему родные. В это время он дал Богу обещание, что если угодно будет Святому Его милосердию даровать ему когда либо зрение, то он всегда будет читать книги одного только духовного содержания. Некогда отверзший очи слепорожденному, внял сердечной и искренней молитве и сего своего раба, и вскоре он получил облегчение, а наконец и совершенное выздоровление. С сего времени он в течении более 15 лет читал свободно и даже при свече св. евангелие, псалтырь и послания св. Апостолов. Все это, включая сюда еще канон Андрея Критского и все акафисты, он знал наизусть. Библиотека его состояла из творений св. отцов, Тихона Задонского, толкований св. Златоуста на евангелие и послания, житий святых и многих других; но более всего он любил читать творения Златоуста и Ефрема Сурина. В храме Божием  он как бы предстоял лицу Божию, ничем не развлекался; тайная, непрестанная молитва невольно выражалась в его взорах и слезах. Нередко целые ночи он проводил в молитвах и слезах; во все посты он исповедывался и приобщался св. тайн; ни один бедный не отходил от него тощ, но он любил благотворить так, чтобы не ведала шуйца, что творит десница; почему благотворил большей частью тайно, через своих духовных отцов. Умирая, он завещал все оставшиеся деньги, за исключением издержек на его смиренное простое погребение, отдать неимущим; у этого владельца почти 100 душ осталось, немного больше 1000 руб. ассигнациями; не одну тысячу он в течении своей жизни предпослал в лице бедных Господу, который воздаст ему сторицею.                                                               

В приходе, состоящем по штату в 3 классе, было: в 1770 г. 1065 муж., 1075 жен., в 1790 г. 1106 муж., 1125 жен., в 1800 г. 1292 муж., 1350 жен., в 1810 г. 1431 муж., 1600 жен., в 1830 г., 1685 муж., 1738 жен., в 1840 г. 1763 муж., 1774 жен.     

В 1831 г. карающая десница Вышнего посещала слободу Рябушки: но из числа 3423 лиц умерло только 33 человека; замечательнее всего было то, что в деревне Ольшаной сего прихода, где жили тогда во всяком довольстве и изобилии, из числа 133 душ умерло 15 человек. В 1848 г. умерло от холеры 170 человек. По милости Божией, все прихожане, не исключая ни одного помещика, усердно посещали тогда храм Божий, постились, исповедывались и приобщались святых тайн.                                                                                                                                                                                                               

Метрики прихода начинаются с 1772 г., а исповедные росписи - с 1782 г.­