岳麓書院創始，可追溯到唐末五代僧人辦學。北宋開寶九年（976），譚州太守朱洞正式創院于岳麓山抱黃洞下，咸平二年（999），譚州太守李允則擴建，咸平四年（1001）請下國子監經籍。大中祥符八年（1015）宋真宗聞山長周式辦學成績卓著，便親書“岳麓書院”匾額，即列中國古代四大書院之一。

　　南宋乾道元年（1165）劉珙任湖南安撫使知譚州，重建毀于戰火的岳麓書院，特別聘請南宋著名理學家張栻主教。宋乾道三年（1167）朱熹到長沙，與張栻切磋學術。朱張展開的“中和之辯”，首開了不同學派自由講學的先河。會講對朱熹理學思想的形成和發展，和對湖湘學的發展都產生了深刻的影響。“朱張會講”是岳麓書院史上的一件盛事。紹熙五年（1194）朱熹任湖南安撫使時再興岳麓書院教育，更建書院朱熹、張栻兩位大師的治教，進入到了它的鼎盛時期，名揚海內外，享有“瀟湘洙泗”之譽。培養了一大批經世人才，僅《宋元學案》“岳麓諸儒”就有三十三人之多，所列彭龜年、吳獵、趙方、游九言、游九功、胡大時等岳麓巨子，都是當時的抗金民族英雄。所表現出來的民族氣節、愛國主義精神，反映了岳麓書院愛國主義傳統教育的深刻影響，被后人贊譽為“南軒（張栻）先生岳麓之教，身后不衰”。嘉定十五年（1222）后，陳傅良、真德秀、歐陽道等著名學者先后來書院講學。二十三年（1286）譚州學政劉必太重修岳麓書院，譚州路判官劉安仁再次重修。明代初期，政府對書院教育不予重視，岳麓書院停教達百年之久，直到明成化五年（1469）長沙知府錢澍重修岳麓書院，弘治七年（1494）長沙府通判通陳鋼再增建。正德二年（1507），守道吳世忠對岳麓書院的改向擴建。且首編《岳麓書院志》。隨后王陽明及弟子王喬齡、季本等紛紛來院講學，一度“良知”之學成為岳麓書院自由講學的中心議題。王學與湖湘學相互交流發展，書院再度輝煌，培養了以王夫之為代表的愛國志士群體。
　　
　　康熙二十五年湖南巡撫史丁思孔大規模再復書院，增建御書樓、文昌閣、自卑亭。康熙二十六年（1687），康熙帝御書“學達性天”額，乾隆九年（1744）乾隆帝御書“道南正脈”。清代，岳麓書院已成為全國很有影響的教育中心，其規模之宏大，規制之完備，培養人才之多，在其發展史上是空前的，居于僵前列。在學術上也進入了又一個繁榮時期。主教者多為學術大師，如山長王文清，獨治樸學，卓然為一代鴻儒。山長羅曲、曠敏本、李文炤、王先謙等都是著名的漢學家。漢學取得了很大的成就，仍是繼承和發揚了湖湘學的經世致用的傳統。“中興將相，十九湖湘”，在道光、咸豐、同治年間涌現了一大批經世緯國之才。著名的思想家魏源、改革家陶澍，中國第一個出使外國的大使郭嵩燾，辦洋務興實業的先驅曾國藩、左宗棠等，他們都曾叱咤風云，對中國近代歷史的進程產生過重大影響。

　　晚清，岳麓書院針對時弊，著意變通，實行教育改革，增添“新學”科目，倡導西學，注重時事，致使岳麓書院成為維新變革的活動基地之一。從1903年至1926年，20多年間，岳麓書院完成了從古代書院到現代大學的變革，正式定名為湖南大學。培養了一大批中國之棟梁。其中有變法志士唐才常、熊希齡、沈藎，民主革命先驅蔡鍔、陳天華、程潛，著名教育家楊昌濟、徐特立、范源濂，中國共產黨早期領袖及政界名人蔡和森、何叔衡、鄧中夏及眾多著名學者等。他們在各個領域作出了卓著的貢獻。毛主席也多次到岳麓書院活動。三次寓居半學齋（湖南大學籌備處），問學楊昌濟，與蔡和森等從事革命活動，書院傳統文化對青年毛澤東產生過深刻的影響和啟示。
    
　　岳麓書院在經歷了長時間歷史滄桑之后，作為文物受到了國家的重點保護。1956年公布為省級文物保護單位，1988年又公布為國家級重點文物保護單位。