Sjalamov werd geboren als zoon van een Russisch-orthodox priester en een lerares. Hij studeerde rechten in Moskou en sympathiseerde in die tijd met de linkse oppositie (Trotski). In 1929 werd hij in een illegale drukkerij gearresteerd en voor drie jaar verbannen naar de Goelag. Na zijn terugkomst naar Moskou huwde hij Galina Guds (met wie hij een dochter kreeg) en werkte hij van 1934 tot 1937 als journalist. In 1937 werd hij in het kader van de grote zuivering opnieuw gearresteerd vanwege trotskisme. Directe aanleiding voor zijn arrestatie was zijn uitspraak dat Ivan Boenin “een klassieker van de Russische literatuur was”. Zijn vrouw liet zich na zijn arrestatie direct van hem scheiden en Sjalamov bracht na een nieuwe veroordeling zeventien jaar door in de kampen des doods van Kolyma (onder andere in de Berlag). In 1953 werd hem toegestaan terug te keren naar Europees Rusland. Zijn intussen volwassen dochter wilde hem echter niet als vader erkennen, hetgeen hem “zwaarder teleurstelde dan de ellende in de kampen”. In 1956 werd hij onder Chroesjtsjov gerehabiliteerd. Hij huwde opnieuw en ging weer wonen in Moskou. Vanaf 1957 verschenen van zijn eerste gedichten en korte verhalen, maar al snel kwamen zijn herinneringen aan de Goelag niet meer door de censuur (ze circuleerden in de jaren zestig alleen in Samizdat-uitgaven). Sjalamov had een zwakke gezondheid. Hij werd in 1979 in een verzorgingstehuis opgenomen, waar hij in 1982 stierf.