Trường THPT Hoàng Mai tiền thân là trường THPT Dân lập Nguyễn Thượng Hiền, được thành lập theo Quyết định số 1613/QĐ-UBND, ngày 25/04/1997 của Chủ tịch UBND Thành phố Hà Nội.
Tháng 10 năm 2017, Chủ tịch UBND thành phố Hà Nội đã ban hành Quyết định số 6982/QĐ-UBND cho phép đổi tên trường THPT Nguyễn Thượng Hiền thành trường THPT Hoàng Mai.
Tháng 02 năm 2018, Giám đốc Sở Giáo dục và Đào tạo thành phố Hà Nội đã ban hành Quyết định số 339/QĐ-SGDĐT cho phép trường THPT Hoàng Mai được chuyển địa điểm về số 54A2, đường Vũ Trọng Phụng, quận Thanh Xuân, Hà Nội và sáng tháng 9/2022 trường chuyển địa điểm về địa chỉ 56 Vũ Trọng Phụng, Thanh Xuân, Hà Nội,