Under andre verdenskrig ble Rolf Sand med i teatergruppen ved St. Olavs menighet i Oslo. Her spilte han Mads i Kjærlighet uten strømper, og Ingolf Schancke rådet ham til å gå til scenen. Sand kom med i første kull ved elevskolen på Nationaltheatret i 1947–1949 og debuterte i 1949 i tittelrollen i Ludvig Holbergs Den pantsatte bondedreng. Senere gjorde han seg bemerket i Nordahl Griegs Barabbas og som sabotøren i Skitne hender av Jean-Paul Sartre.

I 1952–1954 var han ansatt på Trøndelag Teater og spilte blant annet Tom Wingfield i Glassmenasjeriet og tittelrollen i Erasmus Montanus. Han spilte også disse rollene på Riksteatret, der han var ansatt i 1954–1958. Sand var en temperamentsfull Erasmus og trakk frem hans gode sider uten å underslå hans parodiske selvtilfredshet.

I 1961–1962 var Sand tilbake på Nationaltheatret og fikk gode kritikker for sin tolkning av Peder Welamson i Erik XIV av August Strindberg.

I 1962 kom han til Det Norske Teatret og var ansatt der til han ble pensjonist i 1987. Sand fant seg raskt til rette med nynorsk og ble en inspirerende ensemblekunstner. Han viste et våkent instinkt for rollenes særpreg i sosiale og tragiske skuespill. Han spilte blant annet Tom Wingfield i Tennessee Williams’ Glassmenasjeriet, Daly i Sean O’Caseys Juno og påfuglen og Pilatus i Stein Winges oppsetning av Ghelderodes Barabbas. Sand behersket både Oskar Braatens og Bertolt Brechts dramatikk, han mestret kabaretteaterets form og medvirket i absurd teater, som Kongen døyr av Eugéne Ionesco.

Som instruktør arbeidet Rolf Sand særlig med barneteater. Han var også en kjent stemme i Barnetimen i radio.

Sand spilte mange mindre roller i norsk film og huskes spesielt som Blunken i Pastor Jarmann kommer hjem, som Erik Werenskiold i Bare et liv og som en livlig Gammel-Bør i begge filmene om Bør Børson.

Som pensjonist var Rolf Sand blant annet aktiv som instruktør for Bærum pensjonistteater og som leder av den katolske menighetens kor. I 1999 var han tilbake på Nationaltheatret som Advokat Strøm i Gunnar Heibergs Fiin gammel aargang og Tante Ulrikke.

Rolf Sand mottok Det Norske Samlagets pris for nynorsk scenemål, Oslo bys kulturstipend og Statens stipend for eldre fortjente kunstnere.

Han var halvbror til Bjørn Sand og far til Elisabeth Sand.