Οι σημαντικότερες αρχαιότητες της Βιάννου, βρίσκονται στην Κάτω Σύμη. Πρόκειται για το Νεοανακτορικό (Μέσομινωικής ΙΙΙ-β) Ιερό του Ερμή και της Αφροδίτης στη θέση Κρύα Βρύση. Το Ιερό είναι χτισμένο σε υψόμετρο 1130 μ. και είναι ένα από τα σημαντικότερα της αρχαιότητας καθώς είναι ο μοναδικός γνωστός μέχρι σήμερα χώρος λατρείας στην Κρήτη και στην Ελλάδα που λειτούργησε επί πολλούς αιώνες χωρίς διακοπή. Ιδρύθηκε γύρω στο 2000 π.Χ. και από τα πλούσια ευρήματα που ανασκάφηκαν σε αυτό, εικάζεται ότι η λατρεία γινόταν υπαίθρια, με θυσίες για την πυρά, τελετουργικά δείπνα, υγρές προσφορές κ.α. Η ακτινοβολία και η φήμη του φαίνεται ότι ήταν μεγάλες, γεγονός που καταδεικνύεται τόσο από τα διαφορά δωμάτια που κτίστηκαν γύρω από αυτό για τη φιλοξενία ιερέων και πιστών όσο και από το ότι η θέση του ταυτίζεται με το Ιερόν Όρος, κατά τον Πτολεμαίο, το οποίο βρίσκεται μεταξύ του αρχαίου Τσούτσουρα και της Ιεράπυτνας (σημερινής Ιεράπετρας).
Η λατρεία στο χώρο αυτό άρχισε από τη Μεσομινωική εποχή και συνεχίστηκε μέχρι τα ρωμαϊκά αυτοκρατορικά χρόνια.
Το κύριο σημείο της λατρείας στην αρχαϊκή ελληνική περίοδο (7ος και 6ος αιώνας π.Χ.) ήταν ένας υπαίθριος βωμός, με στρώμα πύρας και οστών γύρω του, από τις θυσίες ζώων.
Μέσα στη στάχτη βρέθηκαν χαρακτηριστικά σωληνοειδή σπονδικά σκεύη, λίθινες τράπεζες προσφορών, πήλινα κύπελλα ιεράς κοινωνίας λάτρεων λαμπρής τέχνης υστερομινωικών χρονών, πολλά χάλκινα ειδώλια και ομοιώματα ζώων, ελάσματα με θαυμάσιες χαράκτες παραστάσεις ανδρών, που οδηγούν ή σηκώνουν αγρίμια και άλλα ζώα, ή μέλη ζώων που προσφέρουν για θυσία, και τρία ξίφη (Υστερομινωικά II), εξαίρετης τέχνης.
Βρέθηκαν επίσης πήλινα ειδώλια γυμνής θεάς, παραστάσεις του Ερμή και άλλα. Υπάρχουν επίσης ενεπίγραφα κεραμίδια του ναού με ονόματα δωρητών. Πεζούλες στις γύρω πλαγίες του βουνού χρησίμευαν κατά τις ημέρες της πανήγυρις για την διαμονή των προσκυνητών.
Κοντά στο βωμό, λίγο νοτιότερα, βρέθηκε παλαιότερο ιερό των Μεσομινωικών χρόνων με διάφορα ευρήματα. Λατρευτικά σκεύη, είδος κερνών για πολλαπλές προσφορές σωληνοειδή σκευή για σπονδές.
Λίγο ανατολικότερα ανακαλύφτηκε σχεδόν ολόκληρος ο μικρός ναός των υστέρων ελληνιστικών χρονών, ειδώλια πήλινα, ως και επιγραφή αναθηματική, ρωμαϊκών χρονών, που αναφέρει τον Ερμή και κάποιον Νικάνορα Θεομνάστου, ο οποίος, ως φαίνεται., είχε κάποτε επισκευάσει το ναό. Άλλα οικήματα στην περιοχή του ιερού χρησιμοποιούνταν ασφαλώς ως κατοικίες των ιερέων.