На одной из отдаленных улиц Москвы в сером доме с белыми колоннами жила вдовствующая барыня, окруженная многочисленными слугами. Среди ее челяди особенно выделялся дворник Герасим – глухонемой от рождения мужчина. Он был одарен необычайной, богатырской силой, работал за четверых, и любое дело «спорилось в его руках». Когда-то барыня привезла Герасима из деревни. Сначала он тосковал по родным местам, но вскоре привык к городской жизни. Дворовые люди уважали и побаивались Герасима. Мужчина жил в отведенной для него каморке над кухней, которую он обустроил по-своему и всегда запирал на замок.
Спустя год старая барыня решила женить горького пьяницу Капитона на прачке Татьяне, надеясь, что женитьба сможет его исправить.
Татьяна была девушкой несчастной судьбы, она с ранних лет много работала за гроши, всех и всего боялась. Особенно Татьяну пугал «громадный» Герасим.
Главный герой рассказа глухонемой Герасим - человек недюжинный силы, огромный добродушный крестьянин, которого барыня забрала из деревни в город. После тяжелого крестьянского труда жизнь в городе была намного легче, Герасим начал потихоньку привыкать к новой жизни, влюбился в прачку Татьяну, которую барыня решила выдать за пьяницу - башмачника Капитона. Вскоре после ее отъезда Герасим нашел маленького щенка и больше он с ней не расставался, но собака однажды зарычала на барыню. и та приказала от нее избавиться. Герасим утопил Муму и ушел из Москвы назад в свою деревню.