Ông sinh ngày 8 tháng 10 năm 1930 tại làng Phù Lưu, xã Tân Hồng, huyện Tiên Sơn, tỉnh Bắc Ninh

. Ông tham gia cách mạng từ rất sớm, 15 tuổi đã là cán bộ Việt Minh phụ trách Thiếu nhi tuyên truyền cách mạng.

Sau đó Bắc vào bộ đội và là cán bộ âm nhạc của Văn công sư đoàn 316, Tổng cục Hậu cần

Bài hát Làng tôi được ông viết năm 1949 tại chiến khu Việt Bắc. Gắn liền với hai cuộc chiến tranh, phần lớn các sáng tác của ông thuộc dòng nhạc đỏ như Làng tôi (1949), Bên kia sông Đuống (phỏng thơ Hoàng Cầm - 1950), Gặt tay nhanh (1952), Giữ mãi tuổi xuân (1954), Giữ biển trời Xô viết Nghệ An (1965), Trên đường Hà Nội (1966) Gửi anh chiến sĩ thông tin đảo (1966), Sài Gòn quật khởi (1968), Bên cảng quê hương tôi (1970)...

Từ năm 1956, Hồ Bắc chuyển về Đài phát thanh Tiếng nói Việt Nam và làm việc ở đây cho đến khi nghỉ hưu năm 1990. Ở Đài Tiếng nói Việt Nam, Hồ Bắc đã viết một số hợp xướng như Ca ngợi tổ quốc, Dáng đứng Việt Nam, Tổ quốc yêu thương. Ông cũng viết nhạc cho các phim truyện, tài liệu và hoạt hình.

Ngoài công việc sáng tác Hồ Bắc còn viết lời giới thiệu cho những chương trình ca nhạc, bình giải các tác phẩm âm nhạc, biên dịch gần 500 ca khúc nước ngoài để phát sóng. Ông là ủy viên Hội Văn nghệ Hà Nội (từ khoá I đến khóa IV), nguyên phó tổng thư ký Hội Văn nghệ Phát thanh Truyền hình. Ông còn tham gia giảng dạy sáng tác.

Bài Làng tôi của ông trùng tên với hai ca khúc cũng rất nổi tiếng khác của Văn Cao và Chung Quân.

Ông được trao tặng Huân chương Lao động hạng Nhất (1997) và Giải thưởng Nhà nước về văn học nghệ thuật cho Làng tôi, Giữ mãi tuổi xuân, Ca ngợi Tổ quốc (hợp xướng), Sài Gòn quật khởi và Bến cảng quê hương tôi (2001).