Gergei liegt in einem Tal, das im Norden von der Giara di Gergei und dem Monte Trempi, im Süden und Osten von fruchtbaren Hügeln und im Westen vom Flussbett des Rio Mannu abgeschlossen wird. Die menschliche Besiedlung des Gebiets reicht bis in die Jungsteinzeit zurück, wie die Domus de Janas zeigen . Die konsistenteste Besiedlung der Region geht jedoch auf die Nuraghenzeit zurück, z. B. in den Dörfern rund um die Nuraghen Santu Perdu und Santa Maria, die wahrscheinlich bis ins Mittelalter hinein besiedelt wurden. Der Legende nach entstand aus den Bewohnern dieser Dörfer der erste Stadtkern von Gergei, der sich um die heutige Pfarrkirche und die Kapelle Sant'Impera gruppierte. Die ersten schriftlichen Informationen über das Dorf stammen aus dem Jahr 1358.