De Graaff debuteerde in 1951 als 19-jarige met een zesde plaats bij het Nederlands kampioenschap in Zutphen. In totaal kwam hij 13 keer uit in een Europees of wereldkampioenschap. Zijn beste prestatie was een tiende plaats bij het EK in 1959. In 1956 en 1960 deed De Graaff mee aan de Olympische Winterspelen.
In 1962 sloot De Graaff zijn carrière af met een 5e plaats op het Nederlands kampioenschap op de Jaap Edenbaan in Amsterdam. Hij was 'drager van het ereteken van de KNSB', een onderscheiding die hij in 1960 van de schaatsbond kreeg voor bewezen diensten.
Na zijn carrière opende De Graaff een sportzaak in Maassluis. Daarnaast bleef hij zijn leven actief op het ijs, als rijder en als trainer. In het seizoen 1967/68 was hij bondscoach van de Nederlandse herenploeg, waarbij Kees Verkerk op de Olympische Winterspelen in Grenoble de eerste gouden schaatsmedaille voor Nederland won bij de mannen. Een jaar later werd De Graaff opgevolgd door Leen Pfrommer.
Op regionaal niveau bleef hij actief als trainer. Ook nam hij tot op hoge leeftijd deel aan wedstrijden. In 1976 verbeterde hij in Den Haag op 44-jarige leeftijd nog zijn persoonlijk record op de 3000 meter. In 2012 reed De Graaff op 80-jarige leeftijd in Inzell nog 5 officieuze Nederlandse records in de categorie 80+. In 2013 mocht hij als beroemdste Rotterdamse schaatser het eerste rondje rijden op de nieuwe 400 meter-kunstijsbaan in zijn woonplaats.
