Wśród tych róznorodnych zajęć, znalazł jeszcze Arcybiskup chwile do prac literackich. Co rok ukazywały się jego twory. Wyjątki z «Legend», opowieści czerpanych z Pisma św., z dziejów Kościoła, kraju, wydanych w Wilnie w 1843 roku, przedostały się do elementarzy i podręczników szkolnych, jako cenne wzory stylu. «Teka Rozmaitości» wydana w 1845 r., podała publiczności zbiór krótkich szkiców, z których jeden: «Życie mojej matki» wzruszyć może czytelnika swą rzewną opowieścią o szeregu poświęceń macierzyńskich i ciężkiej niedoli lat dziecinnych. W 1846 roku ukazał się poemat religijny, osnuty na tle opowiadań apokryficznych Ewangelii, pod tytułem «Dzieciątko Jezus», a także powieść pod tytułem: «Rachel».
Troskliwość o prawdziwy rozwój umysłów młodzieży, na którą w swoim czasie wielki wpływ wywierał Trentowski, pobudziła ks. Hołowińskiego do wydania rozprawy «O stosunku bezpośrednim filozofii do religii i cywilizacyi naszej».
Wszystkie te powyżej wspomniane prace łącznie z tłómaczeniem z greckiego: «<Obraz Cebesa i doręcznik Epikteta» wydaniem w 1845 r., razem wyszły z druku w 2 tomach w Wilnie w 1848 roku pod tytułem: «Pisma Żegoty Kostrowca».
Lecz na tem jeszcze nie koniec literackiej działalności Arcybiskupa Hołowińskiego. Pisał on jeszcze w zakresie czysto kościelnym, a choć śmierć nie pozwoliła mu ogłosić tych prac drukiem, wyszły one w Krakowie: «Kazania niedzielne, świąteczne i pogrzebowe oraz allokucye, miane w Petersburgu», «Hymny kościelne» w 1857 r. «Homiletyka» w 1859.
Jako pasterz, ks. Arcybiskup nie poprzestawał tylko na rządzeniu. Wzorem Apostołów pragnął sam nauczać, często też wierni mieli sposobność słuchania swego metropolity w kościele, gdy z namaszczeniem, lecz prostotą z kazalnicy wykładał prawdy Wiary.
Rozpatrując się w tej wielostronnej działalności ks. Hołowińskiego, niepodobna nie przyjść do wniosku, że tak mógł pracować tylko człowiek, co poświęcił w zupełności całego siebie dla ideałów. Żadnego wytchnienia, żadnych rozrywek i przyjemności osobistych! Skutki tej nieustannej pracy poczęły się odbijać na usposobieniu i organizmie Arcybiskupa. — Szukający towarzystwa ludzi w Kijowie, później od niego stronił; wreszcie wyczerpany, wątły z natury organizm, począł wypowiadać służbę. W lutym 1855 r. zapadł ks. Hołowiński silnie na zdrowiu; żadne środki kuracyjne nie przynosiły poprawy, każdy miesiąc zbliżał smutny koniec. Mimo jednak cierpień, nie przerwał Arcybiskup swej pracy. Chcąc dać Kościołowi nowego wiernego sługę, wśród dokuczliwych bólów wyświęcił na kapłana wychowańca Akademii, ks. Felińskiego i miał do niego podniosłą przemowę. — Ale to już ostatni wysiłek. Dnia 17 Października, domowy lekarz, Mianowski, późniejszy rektor szkoły głównej, oznajmił, iż choroba jest śmiertelną. Ze spokojem wezwał Hołowiński młodzież akademicką, pożegnał ją i pobłogosławił. Na łożu śmierci nie opuściła go troska o to, co umiłował, czemu całe życie swe poświęcił».
Umarł dnia 19 Października 1855 r., pochowany w podziemiach kościoła na cmentarzu Wyborskim w Petersburgu. — Wieść o śmierci napełniła radością tych, co za cenę poświęcenia spraw Kościoła chcieli posiąść zaszczyty i godności, z obojętnością przyjętą została przez ludzi nierozumiejących Hołowińskiego, pogrążyła w głębokim żalu miłujących Kościół i zdających sobie sprawę z mądrej działalności Arcybiskupa. Rozmaite wydawano o nim sądy, przytoczę tu słowa tego, on Hołowińskiego najlepiej znał, Arcybiskupa Warszawskiego, ks. Felińskiego: „Utrzymuję, że był on zawsze dobrym i gorliwym kapłanem, że szczerze miłował Kościół i niezmordowanie dla niego pracował. Że był człowiekiem wielkiego rozumu i wielkiego serca, człowiek prawdziwie opatrznościowy, który oddał nieobliczone zasługi polskiemu Kościołowi. — Misya jego była wyłączna, jak wyłączne były jego zdolności i wyłączne okoliczności, wśród których był postawiony...» (Pamiętniki).
