Коллекция икон Исторического музея начала складываться в 1880-1890-е годы. В разное время отдельные памятники из своих собраний подарили музею крупные антиквары-коллекционеры, благодаря которым к концу XIX - началу XX вв. было собрано около 1200 икон. В то время это была одна из крупнейших государственных музейных коллекций русской иконописи.
В настоящее время Государственный Исторический музей обладает уникальным собранием древнерусской живописи, которое насчитывает более пяти тысяч памятников и продолжает пополняться. Это одно из крупнейших собраний иконописи в России. Первоклассными памятниками XIV - XVI вв., без которых невозможно всестороннее изучение русской иконописи, представлены все крупные иконописные центры и регионы России: Новгород, Псков, Москва, Русский Север. Уникальна по своему составу и художественному уровню коллекция иконописи XVII - начала XX вв. Музей также обладает самым крупным и полным собранием византийской и поствизантийской иконописи (XIII-XIX вв.) в России. Коллекция прорисей составляет около 20 тыс. образцов и является одной из наиболее представительных в нашей стране.