Предназначалась для борьбы с танками и бронетранспортерами, имеющими броню до 20 мм. Использовались и для борьбы с другими целями: автомашинами, ДОТами и т.п. Срабатывает мгновенно, при ударе о препятствие. Граната проста по устройству. Изготовлена штамповкой из листовой стали. Корпус гранаты напоминает большую консервную банку с центральным каналом для детонатора. Детонатор вставляется в канал гранаты аналогично РГД-33 и фиксируется такой же крышкой. Детонатор РПГ-40 внешне запал РГД-33, но имеет несколько большую длину и отличается от запала РГД-33 отсутствием замедления при срабатывании. Детонатор в походном положении хранится отдельно и вставляется в гранату непосредственно перед ее метанием. Ударный и предохранительный механизмы расположены в рукоятке. Ударный механизм всегда находится на боевом взводе. Предохранительный механизм представляет собой откидную планку с проволочной иглой, которая фиксирует ударный механизм в походном положении. Откидная планка зафиксирована на рукоятке предохранительной чекой с язычком из тесьмы. Перед метанием гранаты предохранительная чека выдергивается за тесьму и откидная планка на рукоятке удерживается рукой. При броске гранаты откидная планка отделяется, извлекает иглу и освобождает ударный механизм. При попадании гранаты в препятствие в рукоятке перемещается инерционный груз, который освобождает ударник. Граната взрывается независимо от того, каким местом она ударилась о препятствие. Для срабатывания гранаты без предохранительной иглы достаточно просто уронить гранату на землю. Отказы в действии происходили из-за загрязнения, промерзания и деформации находившегося в рукоятке ударного механизма. Брошенную, но не сработавшую гранату трогать запрещается — ударный механизм может сработать даже от перемещения гранаты. Вес РПГ-40 — 1200 г. Снаряжались литым тротилом. При проведении поисковых работ встречается значительно реже РГД-33. Использовались на всех фронтах, особенно в начальный период войны. Довольно часто попадаются отдельные корпуса без рукояток.

При находке РПГ-40 с рукояткой в первую очередь следует обратить на наличие откидной планки с предохранительной иглой. После этого осторожно открыть крышку запального гнезда и убедиться в отсутствии детонатора. Граната без детонатора практической опасности не представляет. Граната со вставленным детонатором, а тем более брошенная и неразорвавшаяся, с отсутствующей откидной планкой и предохранительной иглой, представляет опасность при встряхивании, ударах и даже при перемещениях ее с места находки. Такую гранату извлекать с места находки не следует, а место нахождения гранаты следует пометить заметным знаком.

Встречается повсеместно на местах боевых действий всего периода ВОВ.