A los quince años y con permiso de sus padres, dejó los estudios para dedicarse a la canción. Su primer single 'Ne sois pas si bête', fue un gran éxito en Francia. En 1965 fue elegida para representar a Luxemburgo en el Festival de Eurovisión. La canción con la que participó, 'Poupée de cire, poupée de son', escrita por Serge Gainsbourg alcanzó el primer puesto y la joven francesa fue conocida en toda Europa. Con otra composición de Gainsbourg, 'Les sucettes' ('Las piruletas') de 1966, Gall se vio envuelta en cierta polémica por el juego de palabras que Serge incluyó en la letra, pasando la historia de tratar sobre la inocente niña (Anni) a la que le gusta gastar sus peniques en 'piruletas' de caramelo, a ser una alegoría de la felación.