Gray sinh ra tại Sale, lớn lên tại Altrincham, Cheshire. Sau đó gia đình ông chuyển tới xứ Wales, nơi ông theo học một trường nghệ thuật. Tuy nhiên, một lần nữa ông quay lại nước Anh để theo học đại học Liverpool.
Hai album đầu tiên của ông 'A Century Ends', 'Flesh' lần lượt ra mắt năm 1993, 1994 đã đem đến cho ông sự nổi tiếng ở thể loại folk-rockm tuy nhiên hiệu quả kinh tế của 2 album này là không cao.
6 năm sau, sau khi sự ra đời của album 'White Ladder' tên tuổi của ông được biết đến trên toàn thế giới. Ông đã bốn lần nhận được giải Brit Awards.
