教會論
加爾文的《基督教要義》第四卷說到教會。人為何需要教會呢？他指出：「因為我我們的無知、懈怠，和心思上的虛幻都需要外援，好在我們心中產生信仰，並逐漸增長到完滿的地步，上帝就體恤我們的軟弱，給我們預備了這種援助；且為維持福音的傳揚，祂就將這種寶庫交給了教會。」（4.1.1）加爾文認為這種「援助」就是教會，她成為了信徒的母親，他指出：「上帝的旨意，是要將祂的一切兒女聚集在教會的懷抱中，不但是叫他們在嬰兒和幼年時期，由她的扶助和服務得養育，且由她仁慈的關顧得著管教，直到他們長大成人，至終達到完全的信仰……凡以上帝為父的，便以教會為他們的母。」（4.1.1）在此我們可發現，加爾文是以母親撫育兒女的關係來說明教會與信徒的關係，他又說：「雖然上帝能於頃刻之間，使祂的子民長成，然而祂定意叫他們只在教會的教育之下，方能長成。」（4.1.5）這是因為「我們太軟弱，必須終生受她的管教」（4.1.4），由此可見，加爾文把教會不只視作是我們的母親，也看作是我們的學校。
加爾文把教會分為「有形的教會」和「無形的教會」兩類，也就是「看得見的教會」和「看不見的教會」。「無形教會」是指「在上帝眼中的真教會，而被納入其中的，只是那些蒙了上帝的揀選和恩典作為他兒女，並藉聖靈成聖作基督真肢體的人。這教會所包括的不只是某一個世代住在地上的聖徒，而且是一切從太初以來曾在世上活過的選民。」（4.1.7）「有形的教會」則是指「那些散佈在普世的一群人，這群人自認為崇拜上帝和耶穌基督，由洗禮被納入祂的道理中，從領受聖餐承認他們在真道和愛心上的一致，共同持守主的道，並保存基督為傳道所設立的牧職。」（4.1.7）他認為，我們必須只相信並且追求那看不見的教會，而「有形的教會」最大的問題是：「在這教會內，有許多假冒為善的人，他們沒有基督，祗在名義和外表上有祂；另有許多自大、貪財、嫉妒、誹謗、生活放蕩的人」（4.1.7）。
雖然無形教會才是真正的教會，然而，我們也要重視那肉眼看得見的教會，因為「有形教會」是按上帝的應許而有的（參太十八20），以方便我們聚集。另外，由於我們沒辦法識別出那些人才是上帝的兒女，因此，加爾文認為「凡宣認信仰，有好榜樣，領受聖禮，並同我們一樣承認同一上帝和基督的人，我們都當承認教友。」（4.1.8）
加爾文認為辨別真教會的記號乃是聖道的宣揚，和聖禮的施行，他指出：「無論在那裏，我們若發現上帝的道，被人純正宣講，聽到，而且聖禮也按照基督的吩咐施行，毫無疑問，那裏就有上帝的教會」（4.1.9）。
有些人指出，上帝的教會必須是聖潔的，因此，他們認為世上並沒有真的教會。加爾文指出，教會尚未完全聖潔，而必須以上帝的話來不斷地改革，他說：「主天天工作，將教會的皺紋推平，污點清除；這就是說，教會尚未完全聖潔。所以，教會的聖潔只是日日在改進，但尚未達到完全的地步；它是日日進步，可是尚未達到聖潔的目標」（4.1.17），因此，我們也不能否認一切沒有達到絕對純潔的教會為教會。
教會被稱為「主的教會」，因此，教會必須由主親自來管理統治，然而，由於主並不是有形地住在我們中間，因此，祂委派了人來作為代表。加爾文指出，為了達成教會的聖潔，上帝委派了牧師和教師來教導祂的子民，並且這樣亦更容易使我們學習順服。他說：「因為誰能不因主臨在的權能而生畏呢？誰見了主的無限尊嚴，而不立刻俯伏於地呢？誰見了主懾服人的光榮，而不驚惶呢？但是，當一個可輕視的凡人奉上帝的名來向我們宣講時，若我們樂意受教於祂的僕人，即那不比我們自己優秀的教牧，這就最足以表示我們對上帝的虔誠和尊敬了。」（4.3.2）
加爾文認為教會應該有四種職份，第一是牧師（負責講道和牧養）；第二是教師（只教導聖經而不牧養教會，不同於現今長老教會的教師）；第三是長老（其職責是訓練和督導會友的信仰生活）；第四是執事（其職責是救濟和行政）。在這四種職份中，只有牧師和教師兩種經常性職份，並且牧師和教師的職份是不同的：教師不負執行訓戒，施行聖禮，或發出規勸的職務，而只講解聖經，使信徒保持純正的道理；但是牧師的職份則是包括這一切。
在《基督教要義》第四卷中，加爾文指出，聖禮是「表記，藉此主在我們良心中印上祂對我們善意的應許，來支持我們軟弱的信心；而我們則在上帝和眾天使以及人的面前，證明我們對祂所存的敬虔心。」（4.14.1）聖禮乃為標記，是眼所能見的，是一個印證（就像公文上的印鑑一樣），保證其中所有的內容，也是信仰的公認，因其價值乃在於信仰的本身。聖禮並沒有給我們帶來甚麼新的東西，不過是重新堅定聖經中的應許。我們應當守幾種聖禮？加爾文說兩種，因為基督只設立了兩種聖禮。
當祂在約旦河受洗的時候，祂設立了洗禮（以前人守的是割禮，祂現在以洗禮代之）。洗禮並不能上帝奇地賜給人恩典（有如重生），如天主教所傳授的那樣，加爾文說：「洗禮是准許我們進入教會的起碼標記，為了與基督聯合，我們可以被列在上帝的子民之中」，「是一種工具，藉此上帝保證我們所有的罪都被塗抹，永遠在祂面前消失」。加爾文說，洗禮的方式（或灑水或浸水）並無何重要，根本的意義乃在潔淨。
當主耶穌紀念逾越節的時候，祂設立了聖餐。加爾文說，聖餐乃一「屬靈的筵席，在此筵席中基督證明祂自己乃是生命的餅，我們的靈魂靠此得以餵養，得看真實不朽的祝福」。聖餐並非基督犧牲的重演，乃是救贖的標記，餅與酒向我們說明基督死在十字架上。