Заслуженный артист РСФСР (1969). Народный артист РСФСР (29.03.1977). Народный артист СССР (31.01.1985). Старшая сестра — актриса Римма Маркова. В 1931-1934 годах играл детские роли в спектаклях Саратовского драматического театра, где работал актёром его отец В.Д. Марков. В 1945-1947 годах учился в студии при Вологодском драматическом театре. Окончил студию при Московском театре Ленинского комсомола (1950). С 1950 года — актёр Московского театра Ленинского комсомола. С 1960 — актёр театра имени А.С. Пушкина. С 1965 года — актёр академического театра имени Моссовета. В сезоне 1986-1987 гг. переходил в Малый театр. Леонид Марков обладал уникальным голосом и манерой говорить. Наверно, поэтому его часто приглашали работать на радио. Около ста записей, охватывающих большой временной период с 1954 по 1990 год, литературных произведений, радиоспектаклей с его участием хранятся в коллекции радиофонда: «В зимнем лесу» С. Богомазова, в роли Волка; «В гимназии» Н. Гарин-Михайловского, в роли Отца; «Белые розы, розовые слоны» У. Гибсона, в роли Генри Пулэски; «Судьба» П. Проскурина, в роли Макашина; «Инспектор Тихонов» Аркадия и Георгия Вайнеров, в роли Шарапова; «Королев и Гагарин» В. Губарева, в роли Королева; «Первая любовь» И. Бунина, в роли Отца и другие спектакли. Актер читал литературные произведения А. Пушкина, М. Лермонтова, Ф. Достоевского, И. Абашидзе, В. Астафьева, Б. Васильева, Р. Рождественского.