Уроженец Акмолинской области. Образование высшее в 1974 году окончил Павлодарский индустриальный институт.
С 1965-1968 годы проходил службу в рядах Советской армии. После демобилизации начал трудовую деятельность арматурщиком на заводе мостовых железобетонных конструкций, где прошел путь до главного инженера.
С 1974 по 1981 годы работал на различных должностях, в том числе начальником, в Горкомхозе. С 1981 по 1984 работал первым заместителем председателя Экибастузского горисполкома. С 1984 по 1991 первый заместитель Павлодарского горисполкома. После обретения страной Независимости с 1991-1993 глава администрации города Павлодара. С 1993 по 1998 первый заместитель акима Павлодарской области. При непосредственном участии Рюмкина А.В. в городе Павлодаре было введено в эксплуатацию множество объектов, в том числе: головные и магистральные сети, городские очистные сооружения, фильтровальная станция, набережная города.
Александр Васильевич один из тех, кто прокладывал улицы Кутузова, Лермонтова, Естая, Айманова. Под его руководством была построена 3-х километровая дорога на аэропорт, которая функционирует до сих пор. Александр Рюмкин инициатор строительства в городе лесопитомника, что позволило озеленить город Павлодар в больших масштабах. Стоит отметить, что при нем начато строительство новых микрорайонов города, а именно Дачный, Усольский, Восточный.
После выхода на заслуженный отдых Александр Васильевич принимает активное участие в общественной жизни города Павлодара. Благодаря своей активной деятельности избран председателем общественного Совета города Павлодара, будучи переизбранным на 2-ой срок.
Награды: Орден «Дружбы народов», орден «Құрмет», медали, почетные грамоты, благодарственные письма. Звание «Почетный гражданин Павлодарской области», заслуженный пограничник Республики Казахстан.