Sĩ Phú tên thật là Nguyễn Sĩ Phú, sinh ngày 09 tháng 1 năm 1942 tại Bonneng Thakhet, Lào.
Ông theo gia đình di cư vào Nam năm 1954, và cư ngụ tại Sài Gòn cho đến năm 1975. Ông tốt nghiệp trung học lúc chưa đầy 16 tuổi rồi nhập học Trường Đại học Khoa học.
Năm 18 tuổi, ông đã là giáo sư trung học đệ nhất cấp (cấp 2), dạy toán và lý hoá ở hai trường Trung học La San Nghĩa Thục và Thăng Long tại Sài Gòn.
Chỉ sau một thời gian ngắn, ông trở nên nổi tiếng với những nhạc phẩm tình cảm lãng mạn, trong số có những nhạc phẩm tiền chiến như: 'Tà áo xanh', 'Trở về bến mơ', 'Em tôi', 'Hoài cảm', 'Cô láng giềng'... Đến nay một số ca khúc như 'Mắt biếc', 'Chuyện tình buồn', 'Niệm khúc cuối', 'Chiếc lá cuối cùng' ... có người cho rằng không có ca sĩ nào để lại nhiều ấn tượng và cảm xúc như giọng hát của Sĩ Phú.
Mặc dù nổi tiếng, nhưng coi việc ca hát chỉ là nghề phụ, Sĩ Phú rất ít xuất hiện trong các sân khấu nhạc hội hay vũ trường ở Sài Gòn, nhưng ông thường hát trong những chương trình ca nhạc tổ chức tại Câu lạc bộ Không quân ở phi trường Tân Sơn Nhất.