Ezzel párhuzamosan Budapesten a Lónyay utcai Református Gimnáziumban járt középiskolába. Az érettségi vizsgát 1952 júniusában tette le, közvetlenül a református oktatási intézmény megszüntetése előtt. A Bartók Béla Szakiskola Szaktanárképző szakán 1952 és 1955 között tanult, amelynek elvégzése után, 1955-ben felvételt nyert a Liszt Ferenc Zeneművészeti Főiskola középiskolai énektanári és karvezetői szakára és az orgona művész-tanárképzésre. Itt szerezte meg 1959-ben a karvezetői és az énektanári, 1960-ban pedig az orgonaművészi diplomát.
A saját református gyülekezetében, a Rákospalota-Újvárosi Református Egyházközségben a zenei szolgálatot, már 14 évesen megkezdte. Itt presbiteri tisztsége mellett, később is hűségesen végezte a rábízott kántori feladatot, az egyházközség „anyatemplomának" számító Arany János utcai Magyar Sáfárság templomában, és a prédikáló helyként használt MÁV-telepi templomban. Lőrincz Juliannával kötött házasságának megáldására 1964. június 27-én a Rákospalota-Újvárosi templomban került sor.
A rákospalotai szolgálat után, 1968-tól élete végéig a Budapest-Kálvin téri Református Egyházközség kántora volt. Az 1960-as és 1970-es években általános iskolákban ének, matematika, és zongora tanárként tanított. A Budapesti Református Teológiai Akadémia (1993-tól Károli Gáspár Református Egyetem Hittudományi Kara) hymnológiai tanszékének vezetője volt. A teológus hallgatókból megszervezte a Ráday kórust.
Egyházi szolgálatában kiemelt szerepet kapott a református kántorképzésben vállalt alázatos munkája, amelyet minden nehézség között is közel negyven éven keresztül végzett. Több évtizeden át a Dunamelléki Református Egyházkerület orgonaszakértője volt. Ebben a tisztségében ellenőrizte az egyházkerület területén folyó orgona-felújításokat, és számos újonnan épülő,vagy bővítendő orgona tervét készítette el, köztük 1992-ben a Rákospalota-Óvárosi Református Egyházközségét is.
Tudományos zenetörténészi munkásságának középpontjában a genfi zsoltárok tanulmányozása állt, főleg Goudimel és Pascal de l' Estocart feldolgozásai foglalkoztatták. Élete során több száz orgonahangverseny felkérésnek tett eleget, számos szerzeményét mutatták be. Az utolsó hangversenyét a Kálvin téri templomban adta 1998. január 25-én.
Élete derekán, 1998. február 26-án hatvannégy éves korában hunyt el. A rákospalotai temetőben1998. március 9-én tartott temetésén két püspök szolgált, amelyen Máté Jánost több ezer fős tömeg kísérte utolsó földi útjára.
Millisits Máté