Comenzó a escribir el tema en uno de los largos viajes en tren que se vio obligado a realizar entre Glasgow y Londres para reunirse con sus abogados. Durante su estancia en la capital, se alojaba en Baker Street, en el apartamento de un amigo con el que pasaba las noches charlando, bebiendo y tocando la guitarra. ("Vagando sin rumbo por Baker Street, con la cabeza embotada y arrastrando los pies. Otro día loco que la botella te hará olvidar esta noche."). El famoso riff de saxofón que inicia el tema fue obra del músico de sesión Raphael Ravenscroft y tuvo la suficiente repercusión para que, en los meses que siguieron, la venta de saxos y su uso en arreglos pop creciera notablemente. Ravenscroft, que no estuvo presente en la mezcla final, reveló años después que su riff estaba ligeramente desafinado.