Bey minta dukungan DPRD untuk nama KH Abdul Chalim jadi nama BIJB Kertajati

Sepulangnya dari Mekkah, ia bergabung dengan rekannya KH Abdul Wahab Hasbullah yang memiliki komitmen soal nasionalisme dan kebangsaan serta agama, dengan membantu menangani dan mengelola organisasi yang telah dirintis oleh KH Abdul Wahab Hasbullah, yaitu Nahdlatul Wathan yang kemudian menjadi Syubbanul Wathon.

Saat mendirikan Subbanul Wathon ini KH Abdul Chalim bersama dengan KH Abdul Wahab Hasbullah membentuk Komite Hijaz yang bertujuan untuk mengorganisasikan ulama-ulama di nusantara utamanya Jawa dan Madura dalam menyikapi situasi dan kondisi yang terjadi di Timur Tengah (sehubungan dengan berdirinya Arab Saudi).

Berkembang dari situ ulama-ulama yang tergabung dalam Komite Hijaz itu akhirnya sepakat untuk mengadakan pertemuan ulama pesantren yang ada di Jawa dan Madura, dan KH Abdul Chalim akhirnya menulis surat undangan kepada seluruh ulama pesantren tersebut untuk hadir pada pertemuan yang diselenggarakan pada 31 Januari 1926.

Isi surat yang menekankan pada tujuan persatuan dan nasionalisme itu, mendapat respon yang luar biasa dari para ulama itu, hingga sebanyak 65 ulama hadir dalam pertemuan.

Dari pertemuan tersebut, pada akhirnya mendorong tercapainya kesepakatan di antara para ulama untuk mendirikan satu wadah organisasi yang dikenal dengan Nahdlatul Ulama (NU) dengan KH Hasyim Asyari sebagai Rais Aam dan KH Abdul Wahab Hasbullah sebagai Katib Awal.

Sementara KH Abdul Chalim sendiri merupakan Katib Tsani (Sekretaris kedua) pada kepengurusan PBNU periode awal tersebut.

Selain menjadi salah satu pendiri NU, KH Abdul Chalim juga dikenal sebagai pembina kerohanian organisasi paramiliter Hizbullah, pendiri Hizbullah untuk wilayah Majalengka dan Cirebon, serta pejuang Hizbullah dan angkat senjata di beberapa medan pertempuran yaitu Cirebon, Majalengka, dan Surabaya.