Александр Гаврилович Рыбин родился 22 ноября 1914 г. в селе Правые Ламки Моршанского уезда Тамбовской губернии (в настоящее время – Сосновского муниципального округа Тамбовской области). Окончил шесть классов в родном селе. С 15 лет находился на заработках в строительных организациях г. Москвы. В 1936-1938 гг. проходил службу в РККА (Особая Краснознаменная Дальневосточная армия). После демобилизации из армии работал налоговым агентом отдела финансов Сосновского райисполкома. В 1940 г. Рыбин повторно был призван в армию. Окончил курсы младших лейтенантов.
На фронте – с первого дня Великой Отечественной войны. Исключительное мужество проявил в боях на Правобережной Украине.
К февралю 1944 г. капитан Александр Рыбин командовал 1-м мотострелковым батальоном 15-й мотострелковой бригады 16-го танкового корпуса 2-й танковой армии 2-го Украинского фронта. Отличился во время освобождения Черкасской области Украины. 12 февраля 1944 г. в бою у села Почапинцы Лысянского района батальон Рыбина не дал противнику прорваться из окружения, уничтожил 13 танков и более 100 солдат и офицеров противника. Во время боев у села Журжинцы батальон Рыбина уничтожил 889 вражеских солдат и офицеров, еще 114 сдались в плен.
6 марта 1944 г. комбат А.Г. Рыбин переправился через реку Горный Тикич у села Буки Маньковского района, где батальон захватил плацдарм на берегу и удерживал его до переправы основных сил. 9 марта батальон Рыбина в числе первых вошел в город Умань и принял активное участие в его освобождении. В честь разгрома уманско-христиновской группировки противника, освобождения г. Умань 10 марта 1944 г. в Москве дан салют 20 артиллерийскими залпами из 224 орудий.
За образцовое выполнение боевых заданий командования и проявленный при этом героизм Александр Гаврилович Рыбин был удостоен звания Героя Советского Союза. 13 октября 1944 г. в Кремле Председатель Президиума Верховного Совета СССР М.И. Калинин вручил ему орден Ленина и медаль «Золотая Звезда».
В 1949-1953 гг. Александр Гаврилович работал начальником военно-учебного центра Тамбовского областного комитета ДАСААФ (г. Мичуринск). После прохождения Центральных бронетанковых курсов усовершенствования офицерского состава при Ленинградской высшей офицерской бронетанковой школе в 1954 г. был назначен начальником военно-учебного комитета ДОСААФ г. Каменец-Подольска. В 1955 г. демобилизован из армии в звании подполковника и прибыл на малую родину – в село Правые Ламки Сосновского района.
В 1956-1958 гг. работал директором торфопредприятия, затем заместителем председателя, председателем колхоза «Большевик».
С 1965 г. находился на заслуженном отдыхе.
А.Г. Рыбин награжден тремя орденами Красного Знамени, двумя орденами Красной Звезды, орденом Отечественной войны 1-й степени и рядом медалей.