Pierwszy wybudowano na niewielkim wzgórzu, kilkaset metrów na południe od obecnego kościoła, w XIV wieku i do 1799 roku głoszono w nim kazania w języku słowińskim. Na przykościelnym cmentarzu pochowano wielu obcokrajowców - Szwedów, Holendrów, Hiszpanów, Norwegów, Francuzów, a nawet Maurów. Mówi się, że to również groby rozbitków, których statki rozbijały się o klif sąsiedniej Dębiny. Ten kościół rozebrano w 1850 roku, ale cmentarz służył jeszcze do lat 50-tych XX w. Wtedy to władze nakazały ekshumację tamtejszych grobów. Mieszkańcy mówią, że miało to na celu usunięcie wszelkich śladów niemieckiej bytności w tych rejonach. Obecnie dawne wzgórze kościelne porasta 50-letnia dębina i trudno doszukać się tu śladów po dawnej świątyni i nekropolii.

Dzisiejsza świątynia, w stylu neoromańskim, wybudowana została w połowie XIX wieku (1844-1849), a charakterystyczny wygląd zawdzięcza ciosanym głazom pochodzącym z Kamiennej Wyspy na jeziorze Gardno. Obok kościoła stoi charakterystyczna, drewniana dzwonnica. Historię budowy tego kościoła kryje w sobie wiele legend i podań. Wszyskie jednak legendy mają wspólnego bohatera. Jest nim diabeł. Osią tych podań jest kamienna wyspa na Jeziorze Gardno, z której wykorzystano kamienie do budowy kościoła.

Jedna z legend mówi, że pastor z Gardny Wielkiej, który miał odprawić w Rowach poranne nabożeństwo, zawarł pakt z diabłem. Diabeł w ciągu jednej nocy miał wybudować groble przez jezioro, aby pastor miał krótszą drogę do Rowów. Jednak pastor przeląkł się swojego zobowiązania, powiedział o tym żonie, a ta oszukała diabła budząc koguta, który, piejąc, zmylił diabła niewczesnym świtem. Diabeł porzucił pracę -stąd kamienna wyspa - i uciekł sądząc, że przegrał duszę pastora.

Inna legenda dotycząca kamiennej wyspy mówi, że powstała ona jako niedokończony kościół. Pewien człowiek zapisał duszę diabłu, jeśli ten, przez noc, do pierwszego piania koguta wybuduje kościół na środku jeziora. Diabeł zapędził do pracy wszystkich swoich pomocników i wygrałby zakład, gdyby nie udawane pianie koguta. Diabeł zburzył gotową prawie budowlę, kamienie porzucił na brzegu jeziora i uciekł. Jak wspomniano, kamieni tych użyto do budowy kościoła w Rowach i "dlatego jeden kamień nad wejściem do kościoła krwawi się".