Переулок получил свое название по имени располагавшейся в этих местах Панкратьевской слободы и приходской церкви святого Панкратия, построенной в 1620-х и снесенной в 1920-х годах.
В XVII веке здесь жили по преимуществу скорняки, чья техника выделки мехов считалась тогда лучшей в России. Царь Алексей Михайлович разместил в Панкратьевской слободе стрелецкий полк, и среди слободских дворов появились новые, стрелецкие. В конце XVII века полком командовал Л.П. Сухарев, что дало название построенной неподалеку Сухаревой башне. Впоследствии, вплоть до революции, Панкратьевский переулок как бы продолжал знаменитую Сухаревку — огромную толкучку у Сухаревой башни.
Дом № 12 на углу Панкратьевского переулка и Садового кольца — один из ярких образцов творчества архитектора С.К. Родионова (1860–1925), создавшего в Москве множество церквей и Измайловскую военную богадельню. Здание выполнено в популярном тогда неорусском стиле, но уже с явным влиянием модерна. Фасад дома облицован цветной керамической плиткой, как это было принято в московской архитектуре XVII века. Контраст белых, густо-зелёных и золотых облицовочных плиток, полихромный изразцовый фриз, кокошник и вставки вместе создают оригинальную фасадную композицию, не имеющую аналогов в московском зодчестве.
Здание было построено в 1908–1912 годах по заказу М.Н. Миансаровой и до революции использовалось как доходный дом с торговыми помещениями на первом этаже и квартирами над ними.
