Nguyễn Duy tên thật là Nguyễn Duy Nhuệ, sinh tại xã Đông Vệ, huyện Đông Sơn (nay là phường Đông Vệ, thành phố Thanh Hóa), tỉnh Thanh Hóa. Năm 1965, từng làm tiểu đội trưởng tiểu đội dân quân trực chiến tại khu vực cầu Hàm Rồng, một trọng điểm đánh phá ác liệt của không quân Mỹ trong những năm chiến tranh Việt Nam. Năm 1966 ông nhập ngũ, trở thành lính đường dây của bộ đội thông tin, tham gia chiến đấu nhiều năm trên các chiến trường đường 9 - Khe Sanh, Đường 9 - Nam Lào, Nam Lào, chiến trường miền Nam, biên giới phía Bắc (năm 1979). Sau đó ông giải ngũ, làm việc tại Tuần báo Văn nghệ Hội Nhà văn Việt Nam và là Trưởng Đại diện của báo này tại phía Nam.