W roku 70 Jerozolima została zdobyta i zburzona przez Rzymian. Nastały wielkie prześladowania religii Chrystusa trwające prawie 300 lat. Dopiero po ustaniu prześladowań, matka cesarza rzymskiego Konstantyna, św. Helena, około 320 roku kazała szukać Krzyża, na którym umarł Pan Jezus.

Po długich poszukiwaniach Krzyż znaleziono 14 września 320 r. W związku z tym wydarzeniem zbudowano w Jerozolimie na Golgocie dwie bazyliki: Męczenników (Martyrium) i Zmartwychwstania (Anastasis). Bazylika Męczenników nazywana była także Bazyliką Krzyża. 13 września 335 r. odbyło się uroczyste poświęcenie i przekazanie miejscowemu biskupowi obydwu bazylik. Na tę pamiątkę obchodzono co roku 13 września uroczystość Podwyższenia Krzyża świętego. Później przeniesiono to święto na 14 września - najpierw dla tych kościołów, które posiadały relikwie Krzyża, potem zaś dla całego Kościoła Powszechnego.

Cześć, jaką świat chrześcijański otaczał osobę Jezusa Chrystusa, dotyczyła również tego wszystkiego, co miało z Nim styczność. Dlatego taką pieczołowitością tradycja chrześcijańska otoczyła miejsca wskazane przez Ewangelie i uświęciła wiele z nich wystawieniem kaplic, a nawet okazałych bazylik.

Szczególną czcią otaczano zawsze Krzyż, na którym Pan Jezus oddał swoje życie dla rodzaju ludzkiego. Według starożytnego podania miała go odnaleźć w 326 roku św. Helena, matka cesarza Konstantyna Wielkiego. Na wiadomość o tym cesarz miał wysłać do Jerozolimy najznakomitszych swoich architektów Zenobiusza i Eustaza, którzy na górze Kalwarii wystawili ku czci św. Krzyża (Ad Crucem) monumentalną Bazylikę: 150 m długości i 60 m szerokości. Obok niej wystawili Bazylikę Zmartwychwstania Pańskiego (Anastasis). Obie świątynie były połączone ze sobą podwórzem.

Na pamiątkę znalezienia Krzyża świętego obchodzić zaczęto osobne święto w Kościele Zachodnim dnia 3 maja (w Polsce przeniesione na 4 maja). Reforma liturgiczna z roku 1969 święto owo połączyła w jedno ze świętem Podwyższenia Krzyża świętego obchodzonego 14 września.

W 614 roku pogański król perski, Chozroez, najechał na Ziemię Świętą. Ograbił wszystkie kościoły i klasztory katolickie i wiele z nich zburzył. Wymordował również i uprowadził do niewoli wielu chrześcijan wraz z patriarchą Jerozolimy, św. Zachariaszem. Wtedy także, według podania, uprowadzona została do Persji relikwia Krzyża świętego. Po zwycięstwie, jakie cesarz Herakliusz odniósł nad Chozroezem, w traktacie pokojowym Persowie zostali zmuszeni do oddania świętej relikwii. Był to rok 628. Pobożne podanie głosi, że kiedy sam cesarz chciał na swoich ramionach zanieść Krzyż Chrystusowy na Kalwarię, mógł to uczynić dopiero wówczas, kiedy zdjął swoje królewskie szaty. Jest to legenda, gdyż ze świadectwa św. Cyryla Jerozolimskiego (+ 387) wiemy, że już za jego czasów czcigodną relikwię podzielono na drobne części i rozesłano je niemal po wszystkich okolicznych kościołach.