Grafs Vater war kaufmännischer Geschäftsführer, er hatte noch zwei Schwestern. Die Familie zog 1922 nach Saarbrücken, wo er nach der Volksschule das Ludwigsgymnasium besuchte. Graf war Messdiener in der Basilika St. Johann in Saarbrücken.

Schon bald tritt er auch in den katholischen Verband für Jungen höherer Schulen ein: Bund Neudeutschland (ND). Dieser wurde nach der Machtergreifung der Nationalsozialisten durch diese verboten. 1934 schloss er sich dem Grauen Orden an, einem verbotenem Jugendbund, der sich auf Grund des Verbots vieler bündischer Jugendverbände gebildet hatte. Nach dem Abitur 1937 absolvierte Graf den Reichsarbeitsdienst und begann danach in Bonn sein Medizinstudium. 1938 wurde er mit anderen Mitgliedern des Grauen Ordens inhaftiert und wegen bündischer Umtriebe angeklagt. 1940 bis 1942 nahm Graf als Sanitäter an verschiedenen Kriegseinsätzen teil. 1942 kam er als Mitglied einer Studentenkompanie in München mit der Weißen Rose in Kontakt. Graf wurde aktives Mitglied der Widerstandsgruppe um Hans Scholl und Sophie Scholl.

Am 18. Februar 1943 wurde Graf zusammen mit seiner Schwester Anneliese in München festgenommen. Er wurde am 19. April 1943 wegen Hochverrats, Wehrkraftzersetzung und Feindbegünstigung zum Tode verurteilt. Die Gestapo versuchte noch monatelang Namen aus ihm herauszupressen. Graf wurde am 12. Oktober 1943 im Gefängnis Stadelheim durch das Fallbeil hingerichtet und auf dem Friedhof am Perlacher Forst bestattet. Nach der Überführung 1946 wird Willi Graf am 4.November. auf dem Alten Friedhof St. Johann in Saarbrücken beigesetzt.

Nach seinem Namen wurden sieben Schulen in Deutschland, u. a. das Willi-Graf-Gymnasium in München, das Willi-Graf-Gymnasium bzw. Realschule in Saarbrücken-St.Johann sowie ein Studentenwohnheim in München benannt. Am Münsteraner Geschwister-Scholl-Gymnasium wird jährlich der von Anneliese Knoop-Graf ins Leben gerufenene Willi-Graf-Preis an besonders zuverlässige und engagierte Abiturienten verliehen. 2003 wurde ihm an seinem 60. Todestag posthum die Ehrenbürgerwürde von Saarbrücken verliehen.

Nach dem Zweiten Weltkrieg beschäftigte sich seine Schwester, Anneliese Knoop-Graf, die bis zu seiner Verhaftung nichts von seiner Tätigkeit in der Weißen Rose wusste, intensiv mit seinem Leben, seinem Wirken und seinen Motiven und wertete unter anderem dabei seine Tagebücher aus. Für ihre lebenslange Beschäftigung mit dem Widerstand gegen den Nationalsozialismus bekam Knoop-Graf am 26. April 2006 die Ehrendoktorwürde der Fakultät für Geistes- und Sozialwissenschaften der Universität Karlsruhe verliehen