一九二八年（民國十七年），日本政府在臺灣成立臺北帝國大學，最 初設文政、理農二學部。次年，文政學部「文學科」增設「東洋文學講座 」，以中國文學為主要講授內容，此即本系之前身。久保得二先生為本講 座之首任教授，神田喜一郎先生為助教授，二人於一九二九年四月先後到 任。一九三四年六月，久保得二先生因腦溢血病逝臺北寓所。同年十一月 ，神田喜一郎先生升任講座教授，以迄臺灣光復。此外，另有原田季清先 生曾擔任本講座講師及助教授。
東洋文學講座之必修課程中，與中國文學相關者，初期有「東洋文學 概論」、「東洋文學史」、「東洋文學講讀及演習」等，民國二十年以後 有「東洋文學普通講義」、「東洋文學特殊講義」、「東洋文學講讀及演 習」等。然此類課程猶未及全部必修課程學分之半數，可見就研讀中國文 學之領域而言，本講座之課程尚未臻於完備。此時期主修「東洋文學」之 學生亦少，臺籍畢業生前後僅田大熊、吳守禮、黃得時三人而已。唯久保 與神田二先生均為日本著名漢學家，久保先生在臺任教期間曾籌組「南雅 詩社」，創作大量漢詩漢文；神田先生在臺亦有豐碩之研究成果。凡此皆 為中日學術交流史寫下奇異之一頁。久保先生逝世之後，其在臺藏書由臺 北帝國大學購入，成立「久保文庫」，其中頗多與中國文學有關之古籍， 尤多戲曲善本。又神田先生曾參與購入福州龔氏藏書三萬餘冊，成立「烏 石山房文庫」，其中多四部古籍。此二文庫之圖書今藏於臺灣大學圖書館 特藏組，仍經常為校內師生及海內外學者所參考利用。
民國三十四年（一九四五年），臺灣光復，國民政府接收臺北帝國大學 ，初擬改名「國立臺北大學」，後定名為「國立臺灣大學」。臺灣大學依 我國學制，將原各「學部」改稱「學院」，文政學部分為文學及法學兩學 院，「科」改稱「系」。文學院初設中文、歷史、哲學三系，本系由此乃 正式成立。唯當時百廢待興，乃由北大中文系教授、臺灣省國語推行委員 會主任委員魏建功先生代為邀聘教員，參與規畫。三十六年底至三十七年 中由許壽裳、喬大壯二先生相繼擔任系主任，二先生旋相繼去世。三十七 年八月，臺靜農先生出任系主任，其後主持系務長達二十年，對本系之穩 定與發展貢獻甚鉅。四十六年，本系設立中國文學研究所碩士班，五十六 年復增設博士班。六十一年又於本校夜間部增設中國文學系，八十六年， 夜間部改制為進修學士班。
本系自成立迄今，經歷屆主任及全體教師之共同努力，乃得日益茁壯 。曾掌本系系務者，臺靜農先生以降，有屈萬里、龍宇純、葉慶炳、羅聯 添、黃啟方、齊益壽、周學武、李偉泰、葉國良等先生。諸先生雖所學各 異，處事風格不一，然主持系務無不竭盡心力，對本系之發展各具貢獻。
本系在民國三十四年成立之初，聘吳守禮、黃得時二先生為副教授， 延續部份原臺北帝國大學之學風。三十五年起，魏建功、許壽裳、喬大壯 、臺靜農等學者相繼來臺講學，裴溥言、廖蔚卿、金祥恆諸先生先後受聘 為助教，本系乃得接續大陸中國文學系之學術傳統。三十七年以後，戴君 仁、洪炎秋、劉仲阮、伍𡌅、毛子水、董作賓、董同龢、孫云遐、史次耘 、王叔岷、屈萬里、何定生、牟潤孫、李孝定、蔣復璁、張敬諸先生陸續 至本系任教。諸先生學有專精，望重士林，為本系草創時期奠定良好基礎 。在此基礎上，本系日後乃得在穩定中持續發展。