Dans le texte évangélique, Joseph d'Arimathie est un membre du Sanhédrin secrètement converti à l'enseignement du Christ. Il apparaît pour la première fois après la crucifixion, lorsqu'il demande à Ponce Pilate l'autorisation d'emporter le corps de Jésus. Ensuite, il l'ensevelit dans son propre sépulcre, taillé dans le roc.

D'après la légende, c'est chez Joseph d'Arimathie que se tint le dernier repas du Christ. Joseph conserva le vase de la Cène, dans lequel il recueilli un peu du sang de Jésus avant le déposer dans son sépulcre. Joseph quitta ensuite la Palestine et se rendit en Bretagne où il garda précieusement le Saint-Graal.

La figure de Joseph d'Arimathie fut introduite dans le cycle arthurien par Robert de Boron dans son roman en vers Estoire dou Graal ou Joseph d’Arimathie, écrit entre 1190 et 1199.

Il est question de Joseph d'Arimathie  dans l’Evangile de Nicodème¸ apocryphe du IV^esiècle :

11.3 Survint un homme, appelé Joseph, membre du Conseil, il était d'Arimathie et il avait foi dans le Royaume de Dieu. Il s'approcha de Pilate et lui demanda le corps de Jésus. Puis il le descendit de la croix, le roula dans un linceul tout blanc, et le plaça dans une tombe taillée dans le roc, où personne encore n'avait été mis.

12.1 Quand ils surent que Joseph avait demandé le corps de Jésus, les Juifs le cherchèrent […]

Les Juifs empoignèrent Joseph et décidèrent de le faire garder jusqu'au lendemain du sabbat. « Sache bien, lui dirent-ils, que seule, l'heure nous empêche de te châtier, puisque le sabbat commence. Mais sache-le aussi, tu ne mérites pas même une sépulture. Nous jetterons ta chair aux oiseaux du ciel. » […]

Ils se saisirent de Joseph et l'enfermèrent dans une maison sans fenêtre, postèrent des gardes à l'entrée et scellèrent la porte derrière laquelle Joseph était captif.

12.2 Au sabbat, chefs de la synagogue, prêtres et lévites convinrent de se réunir à la synagogue le jour suivant. Les délibérations commencèrent tôt : quelle mort infligerait-on à Joseph ? Ils décidèrent de le faire comparaître séance tenante. Mais quand ils ouvrirent sa porte, ils ne le trouvèrent pas à l'intérieur. Le peuple entier fut stupéfait et même saisi de terreur quand il s'aperçut que les sceaux étaient intacts et que Caïphe avait gardé la clef. Et ils n'osèrent plus lever la main sur ceux qui devant Pilate avaient pris la défense de Jésus. […]

15.6 Joseph prit la parole : « Vous m'avez enfermé le vendredi, vers la dixième heure, et je suis resté là tout le sabbat. Mais à minuit, tandis que j'étais debout à prier, la maison où vous m'aviez enfermé se souleva par les quatre coins et une sorte d'éclair vint éblouir mes yeux. Épouvanté, je tombai à terre. Alors quelqu'un me prit par la main et m'enleva de l'endroit où je gisais, et une eau fraîche coula sur moi de la tête aux pieds, tandis que des effluves de myrrhe emplissaient mes narines. Il m'essuya le visage, m'embrassa et me dit : « Ne crains pas, Joseph. Ouvre tes yeux et regarde quel est celui qui te parle. » Levant mon regard, je vis Jésus. Mes frayeurs redoublèrent. Je pensai que c'était un fantôme et je me mis à réciter les commandements. Mais il les récita avec moi. Or vous ne l'ignorez pas, quand un fantôme entend réciter près de lui les commandements, il prend la fuite. Voyant qu'il les disait avec moi, je m'écriai : « Rabbi Elie! » Il me dit : « Je ne suis pas Elie. - Qui es-tu, Seigneur, lui dis-je. Et il me dit : - Je suis Jésus. Tu as demandé mon corps à Pilate, puis tu m'as enveloppé dans un pur linceul et tu as couvert mon visage d'un suaire, puis tu m'as déposé dans ton caveau neuf et tu as roulé une grande pierre à l'entrée de la tombe. »

Et je dis à celui qui me parlait : « Viens me montrer l'endroit où je t'ai placé. » Il me conduisit à cet endroit et me le montra. Le linceul y traînait encore, et le suaire qui avait couvert son visage. Alors j'eus la preuve qu'il était Jésus.

Il me prit par la main et toutes portes closes, me transporta au milieu de ma demeure. Il me conduisit auprès de mon lit et me dit : « Paix à toi ! » Il m'embrassa encore et ajouta : « Tu ne sortiras pas de chez toi avant quarante jours. Car voici, je vais rejoindre mes frères, en Galilée.»