Родился 27 февраля (ст. стиля) 1897 г. в городе Тарусе. Некоторое время работал в Москве на фабрике Рябова гравером-инструментальщиком и одновременно учился на Пречистенских вечерних рабочих курсах. В 1915 г. призван в армию, где закончил учебную команду 55-го запасного полка и школу прапорщиков в Телави на Кавказе. В дни Октябрьской революции М. Г. Ефремов в Москве вступил в 1-й Замоскворецкий красногвардейский отряд. С февраля 1918 г. он в Красной Армии. Командовал ротой, батальоном, 13-м пехотным Астраханским полком. С 1919 г. — член Коммунистической партии. В 1920 г. при освобождении Баку возглавлял группу бронепоездов. В дальнейшем командовал бригадой, дивизией, корпусом. За революционные заслуги был трижды награжден орденом Красного Знамени, одним — Трудового Красного Знамени и орденом Ленина, а также Почетным революционным оружием. В 1930 г. окончил Военно-политическую академию (особый факультет единоначальников). а в 1933-м — Военную академию РККА имени М. В. Фрунзе. С мая 1937 г. командовал последовательно войсками Приволжского, Забайкальского. Орловского, Северо-Кавказского и Закавказского военных округов. С января 1941 г. назначен первым заместителем генерал — инспектора пехоты Красной Армии. В начале Великой Отечественной войны генерал-лейтенант М. Г. Ефремов непродолжительное время командовал 21-й армией, Центральным фронтом, был заместителем командующего Брянским фронтом. 19 октября 1941 г. вступил в командование 33-й армией, действовавшей в районе Наро-Фоминска. За успешные бои под Москвой 2 января 1942 г, награжден орденом Красного Знамени.
В феврале 1942г. 33 армия попала в окружение. В середине апреля генерал-лейтенант М.Г. Ефремов обратился по радио непосредственно в Генштаб с просьбой разрешить прорыв по кратчайшему пути — через реку Угру. Несмотря на противодействие Жукова, такой вариант прорыва был разрешен лично Сталиным. 14 апреля 33-я армия начала прорываться на восток и северо-восток. С 15 по 18 апреля по немецким данным (скорее всего завышенным) из этой группировки было убито 1694 человека и взято в плен 581 человек. 43-я армия увязла в боях и не смогла связаться с окруженцами. К 18 апреля под личным командованием Ефремова осталось примерно 2000 человек. Им все-таки удалось прорваться на другой берег р. Угры, но там они были рассеяны противником. Лишь некоторые, немногочисленные отряды советских солдат прорвались к своим. Во время прорыва генерал Ефремов был тяжело ранен. 19 апреля застрелился, не желая сдаваться в плен. Вместе с ним погибли командующий артиллерией армии генерал-майор П.Н. Афанасьев и практически весь штаб. По рассказам очевидцев, немцы похоронили генерала Ефремова со всеми воинскими почестями в д. Слободка.

Указом Президента РФ генерал-лейтенант Ефремов М.Г. удостоен звания Героя Российской Федерации (посмертно)