Hazarika lahir pada 8 September 1926 dari pasangan Nilakanta dan Shantipriya Hazarika di Sadiya ( শদিয়া ), Assam.[4] Ayahnya berasal dari Nazira, sebuah kota yang terletak di distrik Sivasagar. Sebagai anak sulung dari sepuluh bersaudara, Bhupen Hazarika (seperti halnya saudara-saudaranya) mendapatkan pengaruh musikal dari ibunya, yang mengenalkannya dengan Musik Assam tradisional dan lulabis.[5] Ayahnya berpindah ke wilayah Bharalumukh di Guwahati pada 1929,[4] untuk mencari kehidupan yang lebih baik, di mana Bhupen Hazarika menjalani awal masa kecilnya. Pada 1932, ayahnya pindah lagi ke Dhubri,[6] dan pada 1935 ke Tezpur.[4] Pada saat ini Tezpur, Bhupen Hazarika, yang saat itu berusia 10 tahun, bertemu dengan Jyotiprasad Agarwala, pembuat lirik, pengarang drama dan pembuat film Assam pertama dan Bishnu Prasad Rabha, artis dan penyair revolusioner Assam terkenal, ketika ia menyanyikan Borgeet (lagu-lagu devosional Assam klasik tradisional yang ditulis oleh Srimanta Sankardeva dan Sri Sri Madhabdeva), yang diajarkan oleh ibunya. Pada 1936, Bhupen Hazarika ikut dengan mereka ke Kolkata di mana ia merekam lagu pertamanya di Studio Aurora untuk Perusahaan Selona.[4] Keterkaitannya dengan ikon-ikon Budaya Assam di Tezpur menjadi permulaan perkembangan artistik dan kredensialnya. Kemudian, Hazarika menyanyikan dua lagu dalam film Agarwala Indramalati (1939): Kaxote Kolosi Loi dan Biswo Bijoyi Naujawan pada usia 12 tahun. Ia menulis lagu pertamanya, Agnijugor Firingoti Moi pada usia 13 tahun[6] dan ia kemudian juga menjadi pembuat lirik, komposer dan penyanyi.