Kiriku ehitustööd on alanud ilmselt 14. saj algusveerandil. Töid on juhendanud mitu erinevat meistrit ning neid arvatakse olevat pärit Ojamaalt. Just seetõttu eristub Järva-Madise kirik oma arhitektuuriga Järvamaa kolmelööviliste kodakirikute Ambla, Koeru, Türi ja Peetri kiriku arhitektuurist.
Kiriku võlvimine arvatakse jäävat 14. saj teise poolde. Kalasaba taoliselt laotud ristvõlvid toetuvad viiskülgsetele vööndkaartele ja roietele, mis lõpevad konsoolidega seintel. Konsoolid äratavad huvi just selle poolest, et on viietahulise püramiidi kujuliseks tahutud ning meenutavad teravat pliiatsit. Roided lukustavad võlvikute laes asuvad reljeefitud päiskivid. Nii konsoolid kui päiskivid ei esine sellisena üheski teises Mandri-Eesti kirikus. 14. saj lõpu poole jääb ka lõunaportaali ja läänes asuva peaportaali ehitamiseni.
Peaportaal ei sarnane ühegi teise Eesti kiriku portaaliga, üksnes Tallinna Toomkiriku raidportaalid näivad olevat näpanud elemente Järva-Madise kiriku peaportaalilt. Kiriku interjöörist moodustavad kunstiväärtuslikema osa Christian Ackermanni meisterdatud altar ning kantsel Elert Thiele Kristuse ja evangelistide kujudega ning triumfigrupp kiriku kooriruumi kohal.
