Печерний скит Свято-Григор’ївського чоловічого монастиря було вирізано у вапняній породі на кручах Дніпра приблизно наприкінці 18 століття. І до цього дня по обривистих берегах, покритих диким чагарником шипшини та глоду, ховаються вузькі стежки, що ведуть до печер ченців та пустельників. Одна з таких вирубаних у вертикальній вапняковій скелі печер – місце постійного відвідування паломниками. Тут збереглася і маленька печерна церква.
Після будівництва греблі для Каховської ГЕС, великих вирубок плавнів уздовж Дніпра та затоплення прилеглих земель у с. Червоний Маяк, як і всюди довкола, відбулися зміни. Почав змінюватися клімат: зникли щедрі вологою густі ранкові тумани та рясні літні зливи. Вода піднялася більш як на десяток метрів.
Старожили розповідають, що до затоплення та підняття рівня води печер та ходів було більше. І виходили вони набагато нижче, до самого Дніпра, у плавні. Кажуть також, що раніше можна було під землею оминути все село, а подекуди й проїхати на коні. Від пристані йшли в берегові надра тунелі до монастирських складів. Звідти, мабуть, після затоплення і випливли до Дніпра закупорені старовинні пляшки з монастирським вином, які виявили рибалки с. Червоний Маяк.