W 1279 roku książę pomorski Mściwój II nadał klasztorowi specjalne przywileje.
Kościół klasztorny pw. Zwiastowania Pana
Fundatorami klasztoru byli w XIII w. książęta gdańscy, którzy najpierw ok. 1215 r. nadali wieś oliwskim cystersom, a później kilkakrotnie je potwierdzali.
Murowany zespół klasztorny został zbudowany na przełomie XIV i XV wieku. Należący do kompleksu kościół p.w. Wniebowzięcia NMP wzniesiony jest z cegły z wieżą nad wejściem od zachodu, zwieńczony dachem dwuspadowym posiadający sklepienia gwiaździste.
W 1589 r. decyzją biskupa Hieronima Rozdrażewskiego, żarnowiecki klasztor został przekazany benedyktynkom z Chełmna. Otwarto wówczas szkołę dla dziewcząt, w której uczono m.in. artystycznego haftu.
Najstarszym gotyckim zabytkiem jest drewniana pieta z ok. 1430 r.
W prezbiterium uwagę zwraca bogato zdobiony barokowy ołtarz (datowany na około 1700 r., w polu środkowym przedstawiona jest scena Zwiastowania, której główni bohaterowie – Maria i Archanioł Gabriel – zostali około 1740 r. przybrani w srebrne sukienki, będące zapewne dziełem wybitnego gdańskiego złotnika, Jana Gotfryda Schlaubitza). Równie piękne są ołtarze boczne i pochodząca z XVIII w. chrzcielnica. Po za tym w świątyni znajdują się malowane stalle, rokokowa ambona, a także wsporniki w kształcie ludzkich twarzy i aniołów.
Klasztor przestał istnieć w 1834 r., jednak po II wojnie światowej zakonnice wróciły do Żarnowca i są w nim do dziś.