Предания связывают возникновение деревни с приходом трех семей с Мещеры, из-под Касимова, из некоей деревни Аджа-аул. На высоком холме они соорудили свои землянки, положив начало поселению. Если следовать этой версии, то этнической первоосновой населения деревни были тюрки-мишари. Впоследствии селение оставалось моноэтничным — татарским.

Точное время основания М. Рыбушкина не установлено, однако, учитывая, что до XVII в. Касимовское царство (откуда явились первопоселенцы) играло вполне самостоятельную роль, а Нижегородское Межпьянье располагало известным лимитом земельного фонда — уместно связать возникновение М. Рыбушкина с периодом не позже XVI в. К тому же документированное упоминание об Азеевой Яме относится к 1553 г. и свидетельствует о том, что ее население обслуживало ямской тракт Кадом — Елатьма — Симбирск. Служилые татары Азеевой Ямы кормились ямским промыслом и в середине XVII в., работая на трассе Владимир — Касимов — Саратов.

Широко известно, что служилые татары, как социальный слой, играли тогда заметную роль в жизни государства Российского. В XVI и XVII вв. они участвовали в событиях внешней политики, войнах, хозяйственной жизни страны, ее внутренних потрясениях.

События крестьянской войны под руководством С. Г. Разина не обошли стороной и Рыбушкино. По разному реагировали служилые татары Поволжья на смуту XVII в. Одни поддерживали разинцев, другие активно боролись с ними. Документы свидетельствуют, что в 1670 г. один из разъездных отрядов разинцев вошел в Рыбушкино и в доме некоего Буланки Али-бякова шла агитация в поддержку восстания.

По источникам известно, что в конце XVIII в. в деревне М. Рыбушкино насчитывалось 95 дворов и в них проживал 501 человек (286 мужчин и 215 женщин). Преимущественно население оставалось служилыми татарами. Но, кроме того, в деревне имелась незначительная часть помещичьих крестьян.

Основой хозяйственной жизни было земледелие. Согласно переписи площадь пашни исчислялась в 2058,4 десятины. Переработка зерна шла на одной ветряной мельнице.

Что касается религиозной жизни деревни, следует повторить: основателями поселения были татары-мусульмане. Поскольку они явились из селения Аджа-аул, где уже существовала мечеть, то естественно считать, что, обосновавшись на новом месте, жители деревни со временем возвели собственное молельное здание. В конце XVIII в. махалля деревни М. Рыбушкино располагала мечетью.

К середине XIX в. в деревне имелось не менее двух мечетей. Основания для такого предположения есть. В 60-е гг. прошлого века в Рыбушкине случился большой пожар. После него пришлось на месте сгоревшей так называемой Старой мечети ставить новое здание. Его по-прежнему именовали Старой мечетью. Из этого следует, что в середине XIX в. М. Рыбушкино располагало, как минимум, двумя мечетями («Старой» и, по-видимому, «Новой»).

К сожалению, до нас не дошли имена имамов того времени. Исключение составляет имя Юсипа-муллы. По-видимому, это был уважаемый в деревне человек, так как о нем до сих пор помнят старожилы. Двое его сыновей так же были муллами. Между прочим, нынешний имам Малого Рыбушкина ведет свой род от имама Юсипа.

Имам Исмаил Юсипов (1859—1937), будучи настоятелем первой соборной мечети («мечети на горе»), достойно продолжил дело отца. Он был священнослужителем задолго до революции, читал намаз в годы советской власти. Имам не отказался от сана, был репрессирован и умер в тюрьме, спустя неделю после ареста, будучи 78-летним стариком.

Еще до революции, а затем и после 1917 г., обязанности имама другой мечети исполнял Бадретдин Идрисов. Двое из его сыновей — Абдурахман (1902—1937) и Абдулкадер (? —1937) пошли по стопам отца. В 20-е гг. оба брата Бадретдиновы были зарегистрированы как руководители первого прихода первой мечети. В то же время (1927 г.) имамом второй соборной мечети был Хамят (Хамсият) Ибрагимов, а имамом третьей мечети являлся Осман Юсипов — сын Юсипа-муллы . Средняя стоимость каждого из трех культовых зданий М. Рыбушкина оценивалась в 1750 рублей, что соответствовало в целом средней стоимости большинства тогдашних мечетей Нижегородчины.

В 30-е гг. были закрыты все три мечети. По воспоминаниям Жяфяра Исмаилова (ныне председателя религиозного общества деревни, дважды хаджи), в годы Великой Отечественной войны деревянное здание одной из мечетей было разобрано, а стройматериал увезен в Петряксы для сооружения больницы. Здание другой мечети было использовано под зернохранилище, минареты с уцелевших зданий храмов снимались после войны.

Судьба священнослужителей М. Рыбушкина сложилась трагично: жизнь имамов Абдурахмана Бедретдинова, Абдулкадера Бедретдинова и Исмаила Юсипова оборвалась в 1937 г. в ходе сталинских репрессий.

До войны, в 1940 г., была закрыта под школу вторая соборная мечеть.

В годы войны верующие молились на кладбище во время праздников и совершали ежедневный намаз в частных домах. В 1947 г. один из мусульман села (Мустафа Казык-бабай ) отправился пешком в г. Горький просить власти об открытии хотя бы одной мечети. Об этом хлопотали многие рыбушкинцы, а также жители Ново-Мочалея и Овечьего Оврага (всего более 750 человек). В результате их усилий власти пошли им на встречу: 16 мая 1948 г. религиозное общество было зарегистрировано, и в том же году открыта одна мечеть. Это был деревянный храм, построенный еще в 1915 г. Мечеть не имела минарета, так как ранее, в 1946 г., была передана под МТС. Из Б. Рыбушкина и окрестных деревень сходились верующие на молитву. Обычно собиралось около 30 человек, на джуму — 200, а по праздникам — до 500. Обязанности имамов выполняли, сменяющие друг друга священнослужители. Азанчеями мечети были Мустафа Измаилов (до 1965 г.), а с 1965 по 1997 гг. — Ахмет Ибрагимов, (1908 г. р.). В 70—80-е гг. председателем религиозного общества являлся Исхак-абы.

Новая мечеть была построена из камня в 1994 г. на средства общины рядом со Старой. Число прихожан обычно насчитывает более 20 человек, на пятничную молитву собирается около 90 верующих. В дни религиозных праздников двор мечети наполняется двумя сотнями мусульман. Ставший с 1996 г. имамом Амир Хамзинович Юсипов (1936 г. р.)— коренной житель деревни. До 1996 г. азанчеем являлся Ахмет Ибрагимов. Его сменил Максут-абы. Обязанности председателя религиозной общины возложены на Жяфяра Ибрагимовича Исмаилова (1930 г. р.).