Ông tên thật là Trương Xuân Giao, sinh ngày 2/1/1932 tại Như Quỳnh, Văn Lâm, Hưng Yên. Ông tham gia kháng chiến từ năm 1950, phục vụ trong Đoàn văn công quân đội. Từ năm 1961, ông chuyển về Nhà xuất bản Âm nhạc làm cán bộ biên tập. Ông là Hội viên Hội nhạc sĩ Việt Nam.
Nhạc sĩ Xuân Giao đến với âm nhạc là duyên nợ tình cờ, mê say sáng tác thơ nhưng bị âm nhạc quyến rũ, ông vừa học vừa làm, mày mò tự học và kết hợp với năng khiếu bẩm sinh. Tuy không qua trường lớp nào nhưng các bài hát ông sáng tác vẫn hay, nhiều bài "đứng" được đến tận ngày nay. Ông bắt đầu con đường âm nhạc từ một diễn viên hát giọng nam trầm của Đoàn Ca múa Tổng cục Chính trị. Từ năm 1960, ông là cán bộ biên tập Nhà Xuất bản Âm nhạc.
Nhạc sĩ Xuân Giao là tác giả của nhiều ca khúc nổi tiếng được nhiều thế hệ người Việt Nam yêu thích: Cháu yêu bà, Cô gái mở đường, Em mơ gặp Bác Hồ, Đất mỏ anh hùng, Chào sông Mã anh hùng, Bình minh Hạ Long, Suối đàn Côn Sơn… Trong đó, “Cô gái mở đường” vẫn được xem là một trong những khúc ca hay nhất viết về thanh niên xung phong ở đường Trường Sơn. Nhạc sĩ Xuân Giao có nhiều ca khúc nổi tiếng mang âm hưởng dân ca được sáng tác trong thời gian kháng chiến chống Mỹ cứu nước, được mọi người yêu mến.
Những tác phẩm viết cho thiếu nhi của ông đã trở lên quen thuộc và gần gũi với các em nhỏ nước ta: Đêm qua em mơ gặp Bác Hồ, Cháu yêu bà, Múa cho mẹ xem... Ông được tặng nhiều giải thưởng âm nhạc của Hội Nhạc sĩ Việt Nam, Bộ Nội thương, Bộ Tư lệnh Biên phòng, Đài Phát thanh - Truyền hình Việt Nam, Bộ Điện - Than, Bộ Giáo dục, Bộ Lâm nghiệp, Ủy ban Thiếu niên – Nhi đồng UNESCO và Ủy ban Bảo vệ bà mẹ và trẻ em. Ông được tặng thưởng Huân chương Kháng chiến hạng Nhất, Huân chương Chiến sĩ vẻ vang, Huân chương Lao động hạng Nhì, đặc biệt là Giải thưởng Nhà nước về Văn học - Nghệ thuật