Alfred Holt and Company, yang beroperasi dengan nama Blue Funnel Line, adalah sebuah perusahaan pelayaran asal Inggris yang didirikan pada tahun 1866 dan mengoperasikan kapal niaga selama 122 tahun. Perusahaan ini merupakan salah satu perusahaan pemilik dan operator kapal terbesar di Inggris. Perusahaan ini juga beroperasi di wilayah Malaya yang meliputi Singapura, Malaysia, dan Indonesia. Di Jakarta, perusahaan ini beroperasi di Pelabuhan Tanjung Priok pada tahun 1920-an. Terdapat sekitar 20 pekerja keamanan yang bekerja untuk perusahaan ini di pelabuhan tersebut, dan semuanya adalah orang Sikh.

Pada tahun 1920-an, para pekerja Sikh dari perusahaan tersebut serta keluarga Sikh lainnya di Jakarta berkumpul setiap hari Minggu di tempat tinggal perusahaan untuk melakukan Kirtan dan Langgar. Pada tahun 1925, keluarga-keluarga ini memutuskan untuk membeli sebidang tanah seluas kurang lebih 500 m² di Jalan Jepara No. 4, Tanjung Priok.

Dana dikumpulkan dari sumbangan keluarga-keluarga Sikh yang tinggal di Jakarta pada masa itu, dan sekitar 500 gulden (mata uang Belanda lama) berhasil dikumpulkan untuk membeli tanah dan membangun Gurdwara pertama di Jakarta. Dana tersebut dikumpulkan saat perayaan Vaisakhi pada tanggal 13 April 1925, dan peletakan batu pertama pembangunan dilakukan pada tanggal 1 Mei 1925.

Tempat suci ini diberi nama Guru Nanak Sikh Temple. Bangunan awal Gurdwara ini pertama kali didirikan menggunakan kayu dan balok kayu. Presiden pertama Gurdwara ini adalah Sardar Pratap Singh Ghali. Para anggota komite kemudian memilih Presiden Gurdwara yang baru setiap 2 atau 3 tahun sekali.

Para pendiri Gurdwara ini terdiri dari 19 orang, sebagai berikut :

Pada tahun 1933, Gurdwara ini direnovasi untuk menampung lebih banyak orang, dengan pembangunan menggunakan semen dan batu bata guna memperkuat struktur lama. Biaya pembangunan baru ini diperkirakan sekitar 3.000 gulden.

Gurdwara ini terus melayani Langgar serta Kirtan mingguan dan tahunan tanpa pernah terhenti, baik pada masa penjajahan Belanda maupun pendudukan tentara Jepang di Indonesia. Bahkan selama Perang Dunia Kedua, ketika banyak orang meninggalkan negara ini, kegiatan Seva di Gurdwara tetap berlangsung seperti biasa.

Karena pada masa itu tidak ada tempat ibadah atau Gurdwara lain di Jakarta, maka semua keluarga India—tidak hanya orang Punjabi, tetapi juga Gujarati, Sindhi, dan lainnya—berkumpul di Gurdwara Tanjung Priok untuk mengikuti Kirtan mingguan dan Langgar. Tradisi ini berlanjut hingga tahun 1950-an.

Pada tahun 1995, pemerintah memutuskan untuk memperluas kawasan pelabuhan, sehingga banyak bangunan dan tanah milik pribadi diambil alih oleh pemerintah, termasuk Gurdwara tersebut. Gurdwara kemudian dipindahkan ke lokasi baru di Jalan Melur No. 8, yang terletak beberapa kilometer dari lokasi Gurdwara lama. Lahan baru ini memiliki ukuran yang lebih besar, yaitu sekitar 2.000 m².

Bangunan Gurdwara ini secara resmi dibuka pada tanggal 14 April 1999 dalam rangka memperingati 300 tahun perayaan Vaisakhi. Upacara peresmian dilakukan oleh Menteri Agama Republik Indonesia, Prof. Drs. H.A. Malik Fajar, M.Sc., serta Duta Besar India untuk Indonesia.