Il curriculum di Rudy Sarzo come bassista è veramente impressionante. E' stato musicista in sala di registrazione e dal vivo per oltre 20 anni in tutto il mondo. Come membro della band di Ozzy Osbourne, da Marzo 1981 a Settembre 1982, Rudy ha girato il mondo con i dischi "Blizzard of Ozz" e "Diary of a Madman". Il basso può essere ascoltato su diversi CD di Ozzy "Tribute" e "Speak of the Devil" in vendita su CD e DVD.
Come componente dei Quiet Riot, da Settembre 1982 a Gennaio 1985, Rudy ha registrato l'album premiato con molti dischi di platino "Metal Health", il primo gruppo Heavy Metal al debutto a raggiungere il primo posto nella classifica di Billboard e di "Condition Critical". Durante questo periodo, Rudy ha guidato tour mondiali, è apparso in numerosi video su MTV ed è stato eletto Bassista Numero 1 per il 1983 da Circus Magazine.
Come componente dei Whitesnake, da Aprile 1987 a Settembre 1994, Rudy ha registrato il pluripremiato disco di Platino "Slip of the Tongue". In questo periodo, Rudy ha anche suonato in importanti tour mondiali in supporto agli album "1987" e "Slip of the Tongue" e apparso in 6 video MTV.
Come componente dei ri-uniti Quiet Riot, da Maggio 1997 ad Agosto 2003, Rudy ha suonato in tutto il mondo in tour e come special guest a supporto del CD dei Quiet Riot "Alive and Well" e "Guilty Pleasure".
Rudy compare anche sul VH1 dei Quiet Riot, Behind the Music. Nel Novembre del 2003, in DVD "Quiet Riot Live in The 21st Century" è stato pubblicato dopo lo scioglimento del gruppo.
Tutte le registrazioni con quersti gruppi hanno raggiunto 30 milioni di copie vendute.
Nel Febbraio 2004, Rudy ha avuto il piacere di suonare con Yngwie Malmsteen in "Attack Tour" in 30 città per le Forze Armate Americane.
Dall'Aprile 2004 Rudy è stato membro del pluripremiato gruppo Heavy Metal "DIO" e suonato nel loro tour mondiale.
Rudy suona anche con i "Blue Oyster" Cult quando non è in tour con i "DIO".