十四至十六世紀在歐洲歷史上是從中世紀向近代過渡的時期，史稱文藝復興時期。中世紀束縛人們思想的宗教觀、神學和經院哲學逐步被摧毀，出現了復興古代科學和藝術的文化運動。在自然科學方面，如哥倫布地理上的大發現、哥白尼的日心說、伽利略在數學物理上的創造發明等革命性事件相繼發生。

        這一時期，在數學中首先發展起來的是透視法。藝術家們把描述現實世界作為繪畫的目標，研究如何把三維的現實世界繪製在二維的畫布上。他們研究繪畫的數學理論，建立了早期的數學透視法思想，這些工作成為十八世紀射影幾何的起點。其中最著名的代表人物有：意大利的達•芬奇﹝Leonardo da Vinci﹞、阿爾貝蒂﹝Leone Battista Alberti﹞、弗朗西斯卡﹝Piero della Francesca﹞、德國的丟勒﹝Albrecht Durer﹞等。

        文藝復興時期更出版了一批普及的算術書，內容多是用於商業、稅收測量等方面的實用算術。印度─阿拉伯數碼的使用使算術運算日趨標準化。L•帕奇歐里﹝Pacioli﹞的《算術、幾何及比例性質之摘要》﹝Summa de arithmetica, geometrica, proportioni et proportionalita, 1494﹞是一本內容全面的數學書；J•維德曼﹝Widman﹞的《商業速算法》﹝1489﹞中首次使用符號「+」和「-」表示加法和減法；A•里澤﹝Riese﹞於1522年出版的算術書多次再版，有廣泛的影響；斯蒂文﹝Simon Stevin﹞的《論十進》﹝1585﹞系統闡述了十進分數的理論。

        代數學在文藝復興時期獲得了重要發展。最傑出的成果是意大利學者所建立的三、四次方程的解法。卡爾達諾在他的著作《大術》﹝Ars magna，1545﹞中發表了三次方程的求根公式，但這一公式的發現實應歸功於另一學者塔爾塔利亞﹝Tartaglia﹞。四次方程的解法由卡爾達諾的學生費拉里﹝Ferrari﹞發現，在《大術》中也有記載。稍後，邦貝利﹝Bombelli﹞在他的著作中闡述了三次方程不可約的情形，並使用了虛數，還改進了當時流行的代數符號。 

        符號代數學的最終確立是由16世紀最著名的法國數學家韋達﹝Viete﹞完成的。他在前人工作的基礎上，於1591年出版了名著《分析方法入門》﹝In artem analyticam isagoge﹞，對代數學加以系統的整理，並第一次自覺地使用字母來表示未知數和已知數，使代數學的形式更抽象，應用更廣泛。韋達在他的另一部著作《論方程的識別與訂正》﹝De aequationum recognitione et emendatione, 1615﹞中，改進了三、四次方程的解法，還對n = 2、3的情形，建立了方程根與系數之間的關係，現代稱之為韋達定理。 

        在文藝復興時期，三角學也獲得了較大的發展。德國數學家雷格蒙塔努斯﹝Regiomontanus﹞的《論各種三角形》﹝De triangulis omnimodis﹞是歐洲第一部獨立於天文學的三角學著作。書中對平面三角和球面三角進行了系統的闡述，還有很精密的三角函數表。哥白尼的學生雷蒂庫斯﹝Georg Joachim Rhaeticus﹞在重新定義三角函數的基礎上，製作了更多精密的三角函數表。 

        文藝復興時期在文學、繪畫、建築、天文學各領域都取得了巨大的成就。數學方面則主要是在中世紀大翻譯運動的基礎上，吸收希臘和阿拉伯的數學成果，從而建立了數學與科學技術的密切聯系，為下兩個世紀數學的大發展作了準備。