Tanzimat’tan önce ceza ticaret ve hukuka ilişkin her türlü davaya şer’iye mahkemelerinde bakıldığını yukarıda ifade etmiştik. Tanzimat'tan önce Osmanlı devletinde yargı gücünü tek başına elinde bulunduran şer’iye mahkemeleri başka bir ifade ile hakimlerin bu yetkileri XIX. yüzyılın ilk yarısından itibaren azalmaya başlamıştır. Daha Tanzimat’ın ilanından bir yıl sonra Meclis-i Ticaretin kurulması ile ticarete ilişkin yetkileri kısılmış fakat tamamen ellerinden alınmamıştır. Yine aynı yıl çıkarılan ceza kanunnamesi ile cezaya ilişkin yetkilerinde de önemli kısıtlamalar olmuştur. İdari yargıya ilişkin olarak da Tanzimat’ın ilanından önce 1837 de kurulan Meclis-i Valay-ı Ahkam-ı Adliye ile zaten bu yetkileri ellerinden alınmıştı. Ayrıca hakimlerin yerel yönetim yetkileri tamamen kaldırılmıştır. Böylece daha Tanzimat fermanı ilan edilmeden Osmanlı yargı sisteminde düalizm (ikilik) devri başlamıştı. Tanzimat’tan sonra bu düalizm daha da yaygın hale getirilmiş şer’iye mahkemelerinin görevleri İslam özel hukukunun şahıs borçlar eşya ve aile hukukuyla sınırlandırılmıştır.
Yine 1837 yılında İstanbul Hakiminin makamı Bâb-ı Meşihatdeki boş odalara taşınarak ilk kez resmi bir mahkeme binasında yargı görevi yerine getirilmeye başlanmıştır. Aynı yıl kazaskerlikler birer mahkeme olarak Bâb-ı Meşihate nakledilerek bütün hakimler doğrudan şeyhülislama bağlanmıştır. 1838 de hakimlerin yetkilerini kötüye kullanmalarını önlemek ve mevcut usulsüzlükleri ortadan kaldırmak amacıyla Tarik-i İlmîye Dair Ceza Kanunname-i Hümayunu yürürlüğe konmuştur. 1916 tarihinde kazaskerlik ve evkaf mahkemeleri de dahil olmak üzere bütün şer‘iye mahkemeleri Adliye Nezaretine bağlanmış ve Temyiz mahkemesinde şer‘iye adıyla bir daire teşkil olunmuştu. 1919 yılında tekrar şeyhülislamlığa bağlanan şer‘iye mahkemeleri 1917 tarihli Usul-i Muhakeme-i Şer‘iye Kararnamesi ile sağlıklı bir yapıya kavuşturulmuştu. 1924 tarihli Mehâkim-i Şer‘iyenin İlgasına ve Mehâkim Teşkilatına Ait Ahkam-ı Muaddil Kanun ile bu mahkemelere son verilmiştir.
1860 ’da ilk Nizamiye Mahkemesi olarak kabul edilen ticaret mahkemesinin kurulması 1868 de Divan-ı Ahkam-ı Adliye ve Şuray-ı Devlet ismiyle iki yüksek mahkeme oluşturulması ve nihayet 1870 tarihli bir nizamname nizamiye mahkemelerinin yurt çapına yayılması ile Osmanlı adliye teşkilatında düalizm dana da yaygın hale getirilmiştir.
Bu mahkemeler şer‘iye mahkemelerinin yanında ikinci bir mahkeme olarak kurulmuş ve görevleri belirlenmiştir. Buna göre aile miras vakıf şahsa karşı işlenen suçlar ve cezaları gibi hukuk-ı şahsiye davalarına şer’iye mahkemelerinde bakılmaya devam edilecek unların dışında kalan hukuki anlaşmazlıklara ise Divan-ı Ahkam-ı Adliye’de bakılacaktı. Divan-ı Ahkam-ı Adliye hukuk ve ceza olmak üzere iki kısımdan oluşuyordu. Her bir daire en az beş en çok on üyeden oluşacaktı. Bu yüksek mahkeme şer‘iye mahkemelerinde yürütülen şer‘i haklar gayr-ı müslimlere ait özel davalar ve özel meclislerce görülen ticaret davaları dışında her çeşit ceza ve hukuk davalarına re’sen veya istinaf yolu ile bakabilecekti. Bir süre sonra Divan-ı Ahkam-ı Adliye Adalet Bakanlığına çevrilerek başına da bu kurulun başkanı olan Ahmet Cevdet Paşa getirilmiştir.
Yargı sistemindeki bu değişikliklere rağmen henüz bir usul kanunu yoktu. Mecelle’yi hazırlayan kurul 301 maddelik bir usul kanun tasarısı hazırlayarak Şuray-ı Devlet’e incelenmek üzere göndermişti. Burada incelendikten sonra Meclis-i Mebusan’a gönderilmiş olan kanun harpler ve diğer siyasi sebeplerle görüşülemedi. Bu sırada Adalet Bakanı olan Said Paşa medeni yargıdaki bu boşluğu doldurmak için daha önce tercüme edilmiş ve Şuray-ı Devlette görüşülmüş olan Fransa’nın usul kanununu Kanun-ı Esasinin verdiği yetkiye dayanarak muvakkat kanun olarak 1880 tarihinde Usul-i Muhakemat-ı Hukukiyye Kanunu ismi ile yürürlüğe koydu. Bu muvakkat kanun daha sonra bir kısım tadillerle Cumhuriyet devrine kadar yürürlükte kalmıştır.