Téměř současně začali jihlavští měšťané stavět tři velké kostely (kostel sv. Jakuba, Nanebevzetí Panny Marie a Povýšení sv. Kříže), v nichž po další staletí nashromáždili nesmírné umělecké poklady.Farní kostel za náměstím, jehož věže odevšud dominují městu, byl zasvěcen patronu horníků sv. Jakubovi. Jedná se o gotický kostel s dlouhým kněžištěm, trojlodní halou a dvěma věžemi v západním průčelí, které je prolomeno ústupkovým portálem. Kostel byl několikrát zničen požáry i nepřátelskou palbou za dobývání Jihlavy, ale vždy byl opět obnoven.
Zahájení chrámové stavby spadá do doby po vzniku královského horního města Jihlavy v duchu pozdně románské baziliky. Ta však byla kolem roku 1250 stržena a rychle nahrazena gotickým objektem. V květnu 1257 olomoucký biskup Bruno ze Schaumburku kostel vysvětil a povýšil jej na farní. Do té doby bývala fara u kostelíka sv. Jana Křtitele. První farářem se stal Štěpán, významná postava nejranějších dějin města. Počátkem 14. století byla dokončena stavba severní strážní věže vysoké 63 metrů, která dnes slouží jako věž vyhlídková a odkud se otvírá pohled na město i okolí.
Při přestavbě v letech 1373-1379 byla dokončena stavba trojlodí jeho zaklenutím křížovou klenbou, když sem byl vsazeny čtyři osmiboké sloupy. Zároveň vzniklo šnekové schodiště na jižní straně kostela a patro sakristie. Ve 30.letech 15.století dostává kostel jižní věž - zvonovou. Do historie se zapsal kostel v roce 1436, kdy se zde v průběhu jihlavských kompaktátních jednání 5.července konala za přítomnosti císaře Zikmunda slavnostní mše a vyhlášení kompaktát v češtině. Zajímavostí je, že druhého dne zde byla, k velké nelibosti Jihlavských, sloužena Janem Rokycanou husitská mše s přijímáním pod obojí. Roku 1523 postihl Jihlavu jeden z největších požárů v dějinách města. Tehdy vyhořel i kostel sv. Jakuba včetně obou věží a následná oprava trvala 40 let. V roce 1548 se začala povážlivě vychylovat ze své osy jižní věž, bylo tedy nutné snížit ji na dnešních 54 metrů, neboť hrozilo její zřícení. Významnou událostí bylo roku 1563 slavnostní vysvěcení nového velkého zvonu, tradičně zvaného "Zuzana". Zvon se jmenuje podle bohaté jihlavské lazebnice Zuzany Spiesserové, která na jeho zhotovení přispěla značnou částkou. Je to druhý největší zvon na Moravě, vysoký 1,82 m a vážící 7 086 kg. Poslední změna půdorysu kostela spadá do barokní doby. V roce 1702 byla přistavěna na severní straně kostela kaple Bolestné Panny Marie oddělená od vlastního chrámu barokní mříží.
Kostel byl vždy pokladnicí uměleckých předmětů. Z gotické doby vyniká především unikátní Pieta (1350), překrásná socha sv. Kateřiny (kolem roku 1400) patřící do skupiny tzv. krásných českých madon, okruhu Mistra krumlovské madony. Cenné jsou i pozdně gotické sochy sv. Jakuba a Boha Otce, obě ze začátku 16. století. Největším obrazem je 7,5 m vysoký obraz hlavního oltáře "Stětí sv. Jakuba" od jednoho z dvorních malířů císařovny Marie Terezie, jihlavského rodáka J. N. Steinera. Kněžiště nese výraznou secesní výzdobu, která vznikla v rámci puristické úpravy interiéru v letech 1898 - 1904. V roce 1922 provedla firma August Wolfholz z Berlína náročné statické zajištění severní věže. Roku 1987 byl upraven interiér chrámu, když byla odstraněna nevhodná secesní výzdoba trojlodí.
