Il congedo di Martino dalla vita militare fu una sua libera decisione, contrastata in tutti i modi dai superiori. Nella primavera del 356, mentre partecipava alla campagna sul Reno che in quegli anni vedeva impegnato il Cesare Giuliano contro Franchi e Alemanni, alla vigilia di una battaglia, non volendo versare del sangue, rifiutò il donativo che Giuliano stava distribuendo ai soldati e chiese ufficialmente il congedo. Tacciato di viltà, fu posto agli arresti ma Martino si limitò a rispondere che all'indomani si sarebbe posto, solo e senza armi, davanti ai nemici, protetto soltanto dal simbolo della croce. Perché non avesse a pentirsene, fu messo in catene e condotto in carcere: il giorno seguente, i barbari, prima di cominciare la battaglia, chiesero la pace e Martino ebbe così il congedo. Lasciò l’esercito all’età di quaranta anni e si recò a Poitiers, dove era vescovo Ilario, personaggio che Martino aveva già conosciuto qualche anno prima. Questi accolse Martino con estrema benevolenza e fu per lui uno straordinario maestro nello studio delle cose di Dio e nella difesa dell’ortodossia contro l’arianesimo che a quell’epoca aveva anche il sostegno della Corte imperiale.
Ilario avrebbe voluto ordinarlo diacono, ben conoscendo le doti di Martino, ma egli rifiutò ripetutamente, in quanto non si riteneva degno. Ilario lo convinse allora a diventare esorcista, primo passo sulla via del sacerdozio.
A Poitiers Martino sentì la chiamata di Dio, che lo invitava a tornare in patria e convertire i suoi genitori. Tornò così in Pannonia, dove riuscì a convertire soltanto la madre. Qui cominciò la sua battaglia contro l'arianesimo, che era appoggiato dall'imperatore Costanzo II, ma dopo minacce ed oltraggi, venne frustato in pubblico e cacciato dalla città.
Nel 358 fece ritorno in Italia dove apprese la notizia che le Gallie erano turbate dalla diffusione dell’arianesimo e che Ilario era stato mandato in esilio. Si fermò quindi a Milano dove si diede alla vita eremitica. Il soggiorno fu breve, poiché dopo essere stato perseguitato e insultato, fu cacciato dalla città lombarda dal vescovo ariano Assenzio.

Si rifugiò allora a Gallinara, un'isola della costa ligure di fronte ad Albenga, dove condusse vita ascetica in compagnia di un presbitero. Anche il soggiorno a Gallinara fu breve, interrotto nel 360, quando Martino, appresa la notizia del ritorno di Ilario dall’esilio, lo raggiunse a Poitiers. L’anno successivo, fondò a Ligugé, una località sulla riva sinistra del Clain, 8 km a sud di Poitiers, un eremo, che gli studiosi considerano come il primo esempio di fondazione monastica dell’Europa occidentale.
Ordinato prima diacono e successivamente sacerdote, Martino si dedicò ad un’intensa vita ascetica e all’attività pastorale nelle campagne circostanti l’eremo. Ben presto fu circondato da molti discepoli con i quali cominciò ad evangelizzare i contadini che abitavano i villaggi e la campagna circostante, dove ancora resisteva il paganesimo.
Risale, inoltre, a questo periodo il racconto di alcuni miracoli operati da Martino, come la resurrezione di un catecumeno deceduto improvvisamente durante la sua assenza, e di un giovane schiavo suicida.

Martino viveva a Ligugè da circa dieci anni quando morì Liborio, vescovo di Tours; conoscendo la fama di Martino, i fedeli di quella città, lo volevano come suo successore. A quei tempi, infatti, il Vescovo era nominato direttamente dai fedeli interessati e successivamente all’elezione, i vescovi delle diocesi vicine approvavano la scelta, partecipando alla consacrazione episcopale del designato. Martino era però contrario all'idea, per diversi motivi personali, soprattutto per il suo passato da militare.
Gli abitanti di Ligugè, allora, ricorsero ad uno stratagemma. Un certo Rusticio, con il pretesto della malattia della moglie, si recò da Martino e lo supplicò di guarirla. Martino non poté resistere all'appello di carità e si avviò con l’uomo verso la casa dell'ammalata. Lungo la strada erano adunati gruppi di cristiani di Tours che lo condussero nelle loro città quasi a forza. Tutta la popolazione lo acclamò e Martino divenne, suo malgrado, candidato all'episcopato. A nulla servì l'opposizione del clero locale e di alcuni vescovi di città limitrofe: alla fine l'entusiasmo popolare trionfò e Martino venne consacrato Vescovo di Tours il 4 luglio 371.