Élte alkonyán indította meg harmincnégy esztendő alatt különféle helyeken tartott szentbeszédeinek kiadását »a végre, hogy ha többé szerelmes hazámnak nyelvvel nem szolgáltatnék, írással szolgálnék«. A hazának úgyis nagy szüksége van efféle könyvekre, mert az igaz tanítók megfogytak és az egész kereszténységben alig vagyon oly nemzetség, melynek oktatására és lelki épülésére kevesebb nyomtatott könyve legyen a maga nyelvén, mint a nemes magyar nemzetnek. Sokan, akik hallgatták, buzdíták is e kiadásra, mert az írás messzibb terjed mint a szó, s egy időben sok helyen lehet foganatos. Külön kötetbe foglalta Az Vasárnapokra való prédikácziókat és külön Az Innepekre való prédikácziókat, de mindegyikből csak az első rész jelent meg, amaz Pázmánynak, ez Eszterházy Miklósnak ajánlva. E beszédek előnyösen különböznek Geleji prédikációitól abban, hogy magával a vallással foglalkoznak, nem más felekezetekkel, s morális céljuk és hitmagyarázó tartalmuk van, noha a morált inkább a bibliából és a példákból hozzák ki, mint az ember erkölcsi érzésének fölkeltésével. Oktató, felvilágosító, de nem vitázó beszédek, nagyobb szónoki lendület híján, teli a bibliából és régi írókból vett tanulságokkal és példákkal, igen folyékony, népszerű előadásban. Szerkezetök – általán hármas felosztással – világos, de különösen világos és változatos az előadás folyamatja; mondatai kerekdedek és hangzatosak, s Káldi nyelve közelebb jár a nép eszéhez, mint az eredeti prózájában s idegenszerű és jóval nehézkesebb Szencié. Bizonyára Káldi prózáját a gondolat önkéntes és természetes kifejezésére nézve ebben a korban nagyon jelesnek kell mondanunk.