Il Cardinale Jorge María Mejía, è nato a Buenos Aires (Argentina) , il 31 gennaio 1923, secondo di cinque figli. La famiglia contava già con alcune religiose, una delle quali missionaria in Giappone. Educato in una scuola privata nella città di San Isidro, vicina a Buenos Aires, ha compiuto poi gli studi secondari nella scuola «Carmen Arriola de Marín», retta allora dai Fratelli delle Scuole Cristiane, dove ha ottenuto il baccellierato. In San Isidro è stato ammesso alla Prima Comunione all'età di cinque anni nonché alla Confermazione. Nel 1939 è entrato nel Seminario Metropolitano di Buenos Aires, la sua Diocesi di origine, dove ha fatto gli studi di filosofia e teologia alla fine dai quali, all' età di 22 anni, è stato ammesso all'ordinazione sacerdotale, il 22 settembre 1945, con una considerevole dispensa dell'età canonica allora prescritta.

Inviato subito dopo in una parrocchia cittadina come vice-parroco, verso la fine del 1946 è partito per Roma per finire i suoi studi ecclesiastici. Iscritto al Pontificio Istituto «Angelicum», oggi Pontificia Università «san Tommaso d'Aquino», ottenne i gradi accademici di licenza e laurea in Sacra Teologia, avendo come compagno di classe don Karol Wojtla. Laureato in teologia con i massimi voti, ha frequentato il Pontificio Istituto Biblico di Roma, dal 1948 e fino al 1950, quando ha ottenuto il grado accademico di licenza negli studi biblici. Studi che dopo qualche anno ha potuto completare a Gerusalemme all'«Ecole Biblique et Archéologique Française» dei Padri Dominicani del Convento di Saint Etienne.

Dal 1951 professore ordinario di Antico Testamento nella Facoltà di teologia dell'Università Cattolica Argentina. Simultaneamente esercitava in Buenos Aires e in altre diocesi dell'Argentina il suo ministero sacerdotale. Nel 1955, ha assunto in collaborazione la direzione della rivista cattolica «Criterio», della quale è rimasto unico responsabile dal 1957 fino alla partenza per Roma nel 1977. Dopo l'apertura del Concilio Vaticano II nel 1962, a partire dalla Seconda Sessione è stato nominato esperto al Concilio, alla cui preparazione aveva contribuito in modo particolare con un gruppo di Vescovi argentini e con alcuni altri Vescovi latino-americani in rapporto col CELAM (Consejo Episcopal Latinoamericano).

Dal 1967 ha avuto l'incarico di Segretario del Dipartimento per l'Ecumenismo del CELAM. In questa veste si è occupato di promuovere i rapporti sia ecumenici che interreligiosi, in modo particolare con l'ebraismo, in America Latina. Nel marzo del 1977 è stato chiamato a Roma per diventare Segretario della Commissione della Santa Sede per i rapporti religiosi con l'ebraismo. Inoltre, nello stesso Dicastero gli è stata affidata la cura dei rapporti con l'Alleanza Biblica Universale e in genere tutto quanto si riferiva alle attività ecumeniche in America Latina. Qualche settimana prima era stato nominato dal Papa Vice Presidente della Pontificia Commissione «Iustitia et Pax», elevato alla dignità episcopale col titolo di Apollonia e ordinato Vescovo il 12 aprile 1986. È stato professore visitante della Pontificia Università della Santa Croce.

Nel marzo 1994 il Santo Padre l'ha nominato Segretario della Congregazione per i Vescovi, incarico che va insieme con la Segreteria del Collegio Cardinalizio, elevandolo nel contempo alla dignità arcivescovile. Dal 1998 al 2003, è stato Archivista e Bibliotecario di Santa Romana Chiesa.