Родился 12 июня 1937 года в Ишимбае (Башкирия). После смерти матери в 1947 переехал к бабушке в Ульяновскую область, где окончил школу, в ней же работал лаборантом. В 1954 уехал в Салават, где работал слесарем-монтажником. С детства проявил актерские способности, участвовал в самодеятельности, занимался во дворце культуры в танцевальном, вокальном и драматическом кружках. В 1955 поступил в ГИТИС (мастерская И.М. Раевского). А.А. Гончаров пригласил его, еще студента 4 курса, в Московский драматический театр (на Спартаковской площади). В 1962 театр переехал на Малую Бронную, здесь Грачев проработал до 1993. В 1967 в театр пришел А.В. Эфрос. С этим режиссером связаны лучшие работы Грачева. После открытия в 1993 театра "Et cetera" под руководством А.А. Калягина был приглашен на роль Серебрякова в "Дяде Ване" А. П. Чехова в постановке А. Сабинина и остался работать в этом театре. Играл в спектаклях в антрепризе М.М. Козакова. С 1957 снимался в кино, сыграл Самозванца в "Борисе Годунове" А.С.Пушкина, поставленном Эфросом на телевидении. Умер 20 мая 2005 года в Москве.