Conflictos personales con el guitarrista Blackmore le llevaron a dejar la formación y pasó un tiempo alejado de la música y en 1975 volvió con su propia banda, la Ian Gillan Band, grupo de jazz-rock con el que publicó tres álbumes de estudio. En 1978 lo disolvió y formó Gillan, una banda de hard rock con la que grabó hasta 1983 seis álbumes de éxito en Inglaterra. Tras un año sustituyendo a Ronnie James Dio en Black Sabbath, volvió con sus ex colegas de la formación Mark II a la reunión de Deep Purple, ausentes del mundillo desde 1976. Esta segunda etapa duró hasta 1989, año en el que surgieron de nuevo las desavenencias personales entre Blackmore y Gillan y Ian fue expulsado de la banda. Sin embargo fue llamado de nuevo para la celebración del 25 aniversario de Deep Purple y su consiguiente gira. También participó en el álbum ‘The Battle Rages On’ (1993), tras cuya publicación fue Ritchie Blackmore el que dejó la formación. Desde entonces, Ian Gillan sigue al frente de Deep Purple los cuales, tras un breve periodo con Joe Satriani, encontraron un brillante sustituto de Blackmore en el guitarrista procedente de Kansas, Steve Morse. A este lo reemplazó en 2022 Simon McBride y su entrega más reciente fue el álbum ‘=1’, aparecido en julio de 2024.