Пещерный скит Свято-Григорьевского мужского монастыря был вырезан в известковой породе на кручах Днепра примерно в конце 18 века. И по сей день по обрывистым берегам, покрытым диким кустарником шиповника и боярышника, скрываются узкие тропки, ведущие к пещерам монахов и отшельников. Одна из таких вырубленных в отвесной известняковой скале пещер – место постоянного посещения паломниками. Здесь сохранилась и небольшая пещерная церковь.
После строительства плотины для Каховской ГЭС, обширных вырубок плавней вдоль Днепра и затопления прилегающих земель в с. Червоный Маяк, как и повсюду вокруг, произошли изменения. Стал меняться климат: исчезли щедрые влагой густые утренние туманы и обильные летние ливни. Вода поднялась более чем на десяток метров.
Старожилы рассказывают, что до затопления и поднятия уровня воды пещер и ходов было больше. И выходили они гораздо ниже, к самому Днепру, в плавни. Говорят также, что раньше можно было под землей обойти все село, а кое-где и проехать на лошади. От пристани уходили в береговые недра тоннели к монастырским складам. Оттуда, видимо, после затопления и выплыли в Днепр закупоренные старинные бутылки с монастырским вином, которые обнаружили рыбаки с. Червоный Маяк.
