Ingresa en el Seminario de la Diócesis de Mondoñedo en 1954. Allí realiza sus estudios sacerdotales y es ordenado sacerdote en Vilanova de Lourenzá, donde ejercía como formador en el Seminario en 1966. Posteriormente pasa como formador al Seminario de Mondoñedo, después de hacer un curso en Madrid orientado a educadores de seminarios. En septiembre de 1973 es nombrado, a petición propia, cura de Castro de Rei, Azúmara y Ramil, parroquias a las que se irían sumando Goberno, Balmonte y Santa Locaia. Con su impulso y la colaboración de los feligreses se fueron restaurando las iglesias de todas estas parroquias, además de otro tipo de obras comunitarias como reelectrificaciones y concentraciones parcelarias. Desde el momento en que se abre el colegio público Ramón Falcón de Castro de Rei imparte clases de religión en este centro y colabora en las distintas actividades culturales y recreativas extraescolares. Desde 1985 forma parte del Equipo de Delegados de Catequesis de Galicia y de la Diócesis de Mondoñedo, colaborando eficazmente con el uso normal del gallego en las catequesis de niños, jóvenes y adultos, elaborando o traduciendo al gallego materias en conjunción con los delegados de las distintas diócesis gallegas.
Como escritor, es autor teatral de O Menciñeiro á Forza, Bo Nadal, Recobrou o sorriso o Eleuterio, Auto de Nadal, Dous vellos e unha soa soidade en colaboración con Marica Campo, Vaise pechar outra casa máis, en colaboración con Xulio Pita, y Unha noite de Ruada, con Samarita Canto. Además de escribir teatro dirigió y dirige varios grupos, sustituyendo, si es preciso, a algún actor. En narrativa, escribió Parábolas Chairegas, Don Otto de viaxe pola Chaira, Celestino Racamonde y Contrato nulo. En el campo religioso, escribió los textos e hizo los dos vídeos: Seguir a Xesús y Este é o meu fillo. A lo largo de casi tres años colaboró en el periódico El Progreso y la revista “Irimia”. En la radio colaboró y sigue colaborando semanalmente, desde hace más de veinte años, con Cope de Lugo, Radio Nacional de España en A Coruña, Radio Galega, Radio Principal de Vilalba y Monforte y Cope de Vilalba. En televisión tuvo un programa semanal durante tres años en los comienzos de la Televisión de Lugo. Todas sus colaboraciones fueron y son en gallego, del que es amante e impulsor, incluso en el terreno estrictamente religioso. Por esa razón, la Consellería de Educación de la Xunta de Galicia le pidió que presidiese una comisión de impulso y normalización del uso del gallego en las áreas de religión, servicios sociales e inmigrantes. Desde 1963 ha realizado en torno a cuatro mil actuaciones de magia o ilusionismo por toda Galicia y fuera de Galicia. Además es animador y maestro de magos y “padrino” del Colectivo Mágico Waldemar de Lugo. Tanto en el campo de la narrativa como del periodismo ha ganado varios premios literarios.
Su inquietud social lo llevó a ser concejal independiente en Castro de Rei en la primera legislatura democrática y a ser uno de los fundadores del desaparecido SILGA (Sindicato Independente Labrego Galego). Son muy numerosas las iniciativas culturales y sociales puestas en marcha por Xosé Manuel Carballo y las colaboraciones con grupos y entidades de la “Terra Cha” y la provincia de Lugo, por eso la Asociación de la Prensa lo nombró“Lucense del Año” en 1992. En atención a su entrega, el Ayuntamiento de Castro de Rei acordó por unanimidad, a petición de la alcaldía y de colectivos culturales y personas individuales, concederle el título de “hijo predilecto” en diciembre de 2004. Ha pronunciado muchos pregones en diferentes eventos como El Carnaval del Ayuntamiento de Lugo o la novena de Gracia en la parroquia de San Francisco Xavier, la fiesta de la música y del Árbol en Mondoñedo, o la “Malla” en “Finca Galea”.
En 2015, 200 amigos y amigas le rindieron un homenaje publicando en su honor el libro 'CERNA DE CARBALLO'.