Κατήγετο ἐξ Ἀντιοχείας· ἐπωνομάσθη δὲ Ἱεροσολυμίτης, ἐπειδὴ διέμεινε ἀρκετὸ καιρὸ ἐν τῇ ἁγίᾳ Πόλῃ. Ἐκεῖθεν ἀπῆλθε καὶ ἐμόνασε ἐν Κωνσταντινουπόλει. Ὑστεροῦσε μὲν εἰς γραμματικὴ μόρφωσι, ἦτο δὲ πλήρης ἀδόλου εὐσεβείας καὶ βαθείας καὶ εἰλικρινοῦς ἀρετῆς. Ἠτο δὲ ἀγαπητὸς διὰ τὴν εὐθύτητα τοῦ χαρακτῆρος του καὶ τὴν ἁπλότητα τῶν ἠθῶν του.
Ὅταν τῇ 2ᾳ Αὐγούστου 1075 ἀπέθανε ὁ πατριάρχης Ἰωάννης ὁ Η΄, ὁ αὐτοκράτωρ Μιχαὴλ Δούκας ἔφερε εἰς τὸν θρόνο τὸν Κοσμᾶ, ἂν καὶ ἦτο ἤδη πολὺ γέρος. Ἐπὶ τῆς πατριαρχείας του ἡ ἀρχιεπισκοπὴ Πατρῶν προήχθη εἰς Μητρόπολη ἔχουσα τρεῖς ἐπισκοπὰς ὑπὸ τὴν δικαιοδοσία της.
Ἐπίσης ἐχειροτόνησε καὶ ἔστειλε τῷ 1080 Μητροπολίτη Ῥωσίας τὸν Ἕλληνα Ἰωάννη, ἄνδρα κάτοχο μεγάλης μόρφωσεως καὶ πολλῶν ἀρετῶν. Αἱ δυσκολίαι ὅμως τῆς διοικήσεως τῆς πατριαρχείας, ἔκαναν τὸν ἁπλοϊκὸ χαρακτῆρα τοῦ Κοσμᾶ, νὰ ἐπιθυμήσῃ τὴν ἡσυχία καὶ τὴν γαλήνη τῆς πρώην μοναχικῆς του ζωῆς.
Διὰ τοῦτο οὔν, τῇ 8ῃ Μαΐου τοῦ 1081, λειτουργήσας ἐν τῷ ναῷ τοῦ ἁγίου Ἰωάννου τοῦ Θεολόγου, ἔφυγε μετὰ τοῦ ὑπηρέτου του καὶ ἀπεσύρθη εἰς τὴν Μονὴ Καλλίου ἐν Κωνσταντινουπόλει. Τὸν παρεκάλεσαν νὰ ἐπιστρέψῃ, ἀλλὰ ὁ Κοσμᾶς ἔμενε ἀμετάπειστος καὶ ἀπέθανε ἐν τῇ Μονῇ ἐκείνῃ.