Phạm Bạch Hổ tự là Phạm Phòng Át sinh ngày 10 tháng Giêng năm Canh Ngọ (910). Ông xuất thân trong gia đình nông dân, quê ở Đằng Châu, xã Ngọc Đường, nay thuộc thôn Đằng Châu, phường Lam Sơn, thành phố Hưng Yên....
Từ nhỏ ông đã nổi tiếng thông minh, học giỏi, có sức khoẻ hơn người, tính tình cương trực thẳng thắn. Tương truyền mẹ Phạm Bạch Hổ nằm mộng thấy sơn tinh, hổ trắng mà có mang. Nhân điểm mơ thấy hổ trắng bà đặt tên con là Phạm Bạch Hổ..
Phạm Bạch Hổ từng làm Hào trưởng đất Đằng Châu, theo giúp Dương Đình Nghệ. Năm Tân Mão 931, ông giúp chủ tướng đánh đuổi Lý Tiến, thứ sử Giao Châu và sau đó đánh bại Trần Bảo do Lưu Nghiễm là tướng nhà Nam Hán cử sang cứu viện. Dương Đình Nghệ xưng tiết độ sứ, dùng Phạm Bạch Hổ làm nha tướng.
Năm Đinh Dậu (937), Phạm Bạch Hổ đã đem 1.000 quân đến hợp binh với Ngô Quyền tại thành Gia Viễn, ông được Ngô Quyền tin yêu, giao nắm binh quyền. Chính ông đã có công lớn trong việc bảo vệ vương triều Ngô Quyền. Khi Kiều Công Tiễn, kẻ phản bội giết Dương Đình Nghệ là bố vợ của Ngô Quyền, Phạm Bạch Hổ đã đem 5.000 quân về thành Đại La, tiêu diệt Kiều Công Tiễn một kẻ phản phúc định âm mưu cầu cứu quân Nam Hán đang lâm le xâm lược nước ta.
Phạm Bạch Hổ đã góp công lớn cùng chủ tướng Ngô Quyền trong chiến thắng Bạch Đằng lịch sử năm Mậu Tuất (938), đánh tan quân Nam Hán trên sông Bạch Đằng, mở ra thời kỳ độc lập của dân tộc sau gần 1.000 năm Bắc thuộc. Phạm Bạch Hổ luôn trung thành với sự nghiệp của người anh hùng dân tộc Ngô Quyền.
Khi vua Ngô Quyền mất (năm Giáp Thìn 944), Dương Tam Kha (em vợ Ngô Quyền) cướp ngôi. Ông đã giúp Ngô Xương Văn (con trai thứ của Ngô Quyền) đoạt lại ngôi vua, xưng là Hậu Ngô Vương. Khi triều Ngô mất, ông đã đón Ngô Xương Văn về dinh luỹ của mình tại đất Đằng Châu, tiếp tục sự nghiệp của Ngô Quyền.
Năm 965, khi Hậu Ngô Vương mất, các hào kiệt cả nước cùng nổi lên cát cứ, Phạm Bạch Hổ đã trấn giữ vùng cửa biển sông Hồng, cửa ngõ quan trọng vào thành Đại La, cai quản một vùng đất đai rộng lớn, giúp nhân dân khai khẩn đất hoang, đất bồi để sản xuất nông nghiệp. Phạm Bạch Hổ là thủ lĩnh 1 trong 12 xứ quân cát cứ vùng Đằng Châu lúc bấy giờ.
Khi Vạn Thắng Vương Đinh Bộ Lĩnh được sứ quân Trần Lãm giao toàn bộ binh quyền, mang quân đánh dẹp "Loạn 12 sứ quân". Đầu năm 966, Phạm Bạch Hổ mang quân về Hoa Lư theo hàng Đinh Bộ Lĩnh, được phong là Thân vệ Đại tướng quân, ông đã góp sức củng cố triều đại mới.
Năm 968, Đinh Bộ Lĩnh dẹp xong loạn, lên ngôi, tức là vua Đinh Tiên Hoàng.
Khi vua Đinh bị hại, thiếu đế nhà Đinh còn nhỏ tuổi, nhà Tống lại lăm le xâm lược nước ta, tướng sĩ đã tôn Thập đạo tướng quân Lê Hoàn lên ngôi Hoàng đế. Thân vệ đại tướng quân Phạm Bạch Hổ lúc bấy giờ tuy tuổi đã cao, nhưng vẫn tâu với vua xin được cáng đáng việc trù liệu quân lương.
Vua Lê Hoàn lo ông tuổi cao, Phạm Bạch Hổ đã khẳng khái đáp: “Thần lúc tráng niên theo tiền Ngô Vương đánh giặc Nam Hán có chút công lao, nay tuy tuổi cao, nhưng mỗi bữa còn ăn hết vài đấu gạo, rong ruổi trên mình ngựa cả ngày không mệt, gân cốt còn mạnh há sợ gì quân Bắc Tống”. Vua khen ông là người dũng khí, phong làm Bình Tống đô liệu lương quan, mang quân bản bộ ra đóng ở vùng Thiên Bản trù liệu quân lương.
Ngày 16 tháng 11 năm Nhâm Thân (972), Phạm Bạch Hổ mất tại quê nhà, thọ 62 tuổi. Vua Lê Hoàn đã sắc cho nhân dân lập đền thờ, các triều đại phong kiến đều phong tặng ông là: “Khai thiên hộ quốc tối linh thần”.
Phạm Bạch Hổ được nhân dân ngưỡng mộ lập đền, thờ phụng ông ở nhiều nơi, nhưng lớn hơn cả là đền Mây thuộc thôn Đằng Châu, phường Lam Sơn, thành phố Hưng Yên, tỉnh Hưng Yên, nơi đã sinh ra ông.
