Dr. Zaharuddin Bin Abd Rahman mendapat ijazah Sarjana Muda dalam bahagian Usuluddin dari Universiti Malaya dan seterusnya Sarjana (M.A) dalam bidang Fiqh dan Usul Fiqh (pengkhususan dalam bidang Fiqh Mu'amalat dan Maqasid Syariah) dari University Al-Yarmouk, Jordan. Dan Ph.D. dari University of Wales, United Kingdom. Juga mempunyai ijazah ilmiyyah dari Sheikh Prof Dr Yusuf Al-Qaradawi.
Pernah bertugas sebagai Pengurus Kanan di RHB Islamic Bank Berhad dan juga Ketua Jabatan Shariah di Asian Finance Islamic Bank Berhad, Malaysia
Kini beliau bertugas sebagai Penolong Professor di Universiti Islam Antarabangsa Malaysia di Kulliyyah Ekonomi dan Sains Pengurusan. Pada masa yang sama beliau berfungsi sebagai Ahli Majlis, Institut Perbankan & Kewangan Islam UIAM, Ahli Lembaga Pengarah Al Naqiy Islamic Solution Sdn Bhd, Ar- Rajhi Bank, Siraj Capital Jeddah, Associate Lecturer dan Certified Trainer di The Markfield Institute of Higher Education, Leceister, United Kingdom, Penasihat Shariah Yasmin Holdings Malaysia dan beberapa syarikat korporat lain di Malaysia.
Beliau aktif menulis buku, sehingga kini beliau mempunyai 13 buah buku di dalam bahasa melayu, Inggeris dan arab. Beliau juga merupakan kolumnis Majalah Solusi, Majalah i, Majalah Fardhu ’Ain dan Majalah Iktisad.
Selain itu, beliau juga kerap muncul di media seperti
Slot Bicara Muamalat di Radioikim.fm( setiap hari Rabu jam 5.15 hingga 6 petang),
Slot Tanyalah Ustaz, Halaqah dan Muqaddimah di TV 9,
Slot Al-Kuliyyah di TV3,
Slot Assalamualaikum dan Bicara di TV Al-Hijrah,
Dokumentari di Astro dan
Selamat Pagi Malaysia di RTM
Dokumentari di Al-Jazeerah International
membicarakan pelbagai isu dan hal ehwal Shariah, semasa, ekonomi Islam dan perbankan Islam.
Juga dinobatkan sebagai pemenang web islam islamic individu terbaik oleh Anugerah Media Islam Negara 2009 melalui website beliauwww.zaharuddin.netyang mempunyai pengunjung berbeza (unique visitors) purata setiap hari seramai 5000 orang. Facebook fan beliau iaituzaharuddin.nethingga kini disukai (like) oleh 292,000 orang.