Ο ιστορικός Γεώργιος Ζολώτας αναφέρει ότι, το πρώτο χωριό που χτίστηκε στη θέση που είναι σήμερα ο Άγιος Γιάννης, ήταν το χωριό Άνω Ολύμποι. Κατά τον ίδιο Ιστορικό το όνομα Ολύμποι ερμηνεύεται από το όνομα του λόφου Όλυμπος που είναι χτισμένο πάνω του το χωριό. Επίσης το όνομα είναι και στον πληθυντικό , όπως και πολλά άλλα χωριά της Χίου(Καρδάμυλα, Διδύμες, κ.ά.). Το σημερινό χωριό λεγόταν παλιότερα κάτω Ολύμποι , επειδή είχε χτιστεί κάτω από το χωριό Άνω Ολύμποι. Ο Ζολώτας αναφέρει μια παράδοση , όπου οι γυναίκες του χωριού ντυμένες με ανδρικές ενδυμασίες έκαναν πόλεμο με τους Βρακανούσους (κατοίκους του σημαντικότερου χωριού από τα κοντινά χωριά των Ολύμπων) , οι οποίοι λέγεται ότι ήταν πειρατές. Κατά τον πόλεμο μια Βρακανούσαινα  ανακάλυψε την παραπλάνηση των γυναικών των Ολύμπων(που παρίσταναν τους άντρες πολεμιστές) και έδωσε θάρρος στους Βρακανούσους λέγοντας:

Σταθείτε και μη τρέχετε , σταθείτε μη φοβάστε.
Γυναικείος είναι ο πόλεμος , αντρίκεια φορεμένος.