Dr. Körmendy József a Veszprém megyei Külsővaton született, egyik első gyermekkori emléke, hogy látta a néhány évvel későbbi utolsó királykoronázásról készült filmfelvételeket. A pápai bencés gimnáziumban töltött egy tanév után a veszprémi piaristáknál érettségizett 1930-ban, majd a szeminárium növendéke lett; 1935-ben szentelték pappá. Tanulmányait Budapesten folytatta tovább, és közben a főváros környéki plébániákon szolgált káplánként: Üllőn, Lajosmizsén és Cinkota–Árpádföldön. 1938-ban kánonjogból doktorált. 1937-től már ismét a veszprémi egyházmegyében végzett lelkipásztori szolgálatot Zalaszentgróton káplánként, majd 1941-től hitoktatóként is. Önálló szolgálatot 1943-ban kezdett Nyárádon, ahol 1946-ban előbb helyettes, 1947-ben pedig kerületi esperes lett. A nyárádi „reakciós” kerület szétrobbantása után 1961-ben Felsőörsre került, ahol nyugdíjba vonulásáig, 1991-ig szolgált. 1972-től a püspöki levéltár munkatársa, 1974-től 1996-ig igazgatója volt. A rendszerváltás után újraindította a Veszprémi egyházmegye múltjából című kiadványsorozatot.
Már kispapként aktív kutatója volt a Pfeiffer János által nemrég rendezett püspöki és káptalani levéltárnak, doktori disszertációját az egyházmegye 18. századi újjászervezőjéről, a korábban méltatlanul elfeledett Volkra Ottó püspökről (1710–1720) írta. Kutatásai azonban nem korlátozódtak egyetlen korszakra. A veszprémi egyházmegye történetének Pfeiffer Jánoshoz méltó, szakavatott kutatója lett: kutatási területe a középkori oklevelektől kezdődően a 18. századi egyházmegye-szervezésre, a templomok (felsőörsi templom, veszprémi székesegyház) és egyéb szakrális kisemlékek (pl. keresztek) kutatásán át a 20. századi forrásközlésekre is kiterjedtek. Elévülhetetlen érdemei vannak az egyik leggazdagabb középkori oklevélgyűjteménnyel rendelkező püspöki levéltár anyagának rendezésében, a mai napig használt adatbázis– ma úgy mondanánk: – metadatainak összegyűjtésében, közlésre való előkészítésében. Számára is, Horváth Józsefhez hasonlóan, megadatott, hogy több mint hetvenévesen, a létező szocializmus utolsó évtizedében a hazai kutatók számára sokáig el nem érhető vatikáni levéltárban kutathasson. Munkájának eredménye a 15. századi hazai egyháztörténelem vatikáni forrásainak becses darabja lett.
Történész-levéltárosi munkája mellett elévülhetetlen érdemeket szerzett a felsőörsi Árpád-kori préposti templom és a préposti kúria feltárásában és helyreállításában. Ezen kívül a veszprémi székesegyház 1973–1976 közötti felújításának előkészítésére 1968-ban kiküldött bizottság munkájában is részt vett. 1967-ben a püspökségen újonnan megalakult Egyházművészeti bizottság tagja lett. Szerteágazó műemlékvédelmi tevékenysége elismeréseként 1992-ben „Magyar Műemlékvédelemért” díjat kapott.
Egykori munkatársa, Hermann István által írt megható nekrológja a Magyarországi Egyházi Levéltárosok Egyesületének honlapján olvasható.