Первоначально учился в церковно-приходской школе. Окончил Литературный институт имени М. Горького (в 1940 году).
Был участником борьбы за советскую власть в Калязинском уезде, в 1918 уездный комиссар земледелия и председатель сельскохозяйственной коммуны.
С 1921 жил в Кимрах. В 1921—1959 организатор и преподаватель бухгалтерских курсов.
Начал печататься с 1928 (первый рассказ «В бане»). Некоторые произведения были опубликованы под псевдонимом М. Сапожник. Многие произведения посвящены жизни кимрских сапожников-кустарей; все романы Рыбакова во многом биографичны.
Несколько раз с успехом выступал в тверских литературных объединениях.
Член Союза писателей СССР с 1935.
Скончался 1 июля 1970 (79 лет) и погребён в Кимрах.