早期的直線運動軸承形式，就是在一排撬闆下放置一排木杆。現代直線運動軸承使用的是同一種工作原理，隻不過有時用球代替滾子。最簡單的旋轉軸承是軸套軸承，它隻是一個夾在車輪和輪軸之間的襯套。這種設計随後被滾動軸承替代，就是用很多圓柱形的滾子替代原先的襯套，每個滾動體就像一個單獨的車輪。 在意大利奈米湖發現的一艘建造于公元前40年的古羅馬船隻上，發現了早期的球軸承的實例：一個木制球軸承是用來支撐旋轉桌面。據說列昂納多·達·芬奇在1500年左右曾經對一種球軸承進行過描述。球軸承的各種不成熟因素中，有很重要的一點就是球之間會發生碰撞，造成額外的摩擦。但是可以通過把球放進一個個小籠裏防止這種現象。

17世紀，伽利略對“籠裝球”的球軸承做過最早的描述。十七世紀末，英國的C.瓦洛設計制造球軸承，并裝在郵車上試用以及英國的P.沃思取得球軸承的專利。最早投入實用的帶有保持架的滾動軸承是鍾表匠約翰·哈裏遜于1760年爲制作H3計時計而發明的。十八世紀末德國的H.R.赫茲發表關于球軸承接觸應力的論文。在赫茲成就的基礎上，德國的R.施特裏貝克、瑞典的A.帕姆格倫等人進行了大量的試驗，對發展滾動軸承的設計理論和疲勞壽命計算作出了貢獻。随後，俄國的N.P.彼得羅夫應用牛頓粘性定律計算軸承摩擦。第一個關于球溝道的專利是卡馬森的菲利普·沃恩在1794年獲得的。