我国的外语翻译工作始于东汉桓帝建和二年（公元１４８年），西域名僧安世高在洛阳翻译了我国的第一部译著《安般守意经》后，佛经的翻译事业开始起步，晋代已设置译场，有组织地进行佛经翻译工作。到了隋代，长安有了数百名翻译人员的佛经翻译中心，而且有十分细致的分工。如精通汉、梵语文和透彻理解经典教义、能解决翻译上一切疑难的译场负责人“译主”；负责把梵文译成汉语的“译语”；记录译文的“笔授”；对译文进行润色加工使之文笔流畅的“润文”和审校译文、纠错正讹的“证义”等。但由于条件所限，当时的译文质量不高。直到唐代贞观十九年（公元６４５年）之后，佛经翻译家玄奘才开创了融直译和意译为一体，既不损害原著本意，又便于读者了解的“精严凝重”的翻译文体，进入了佛经翻译史上的“新译”时期。玄奘用一生时间译出了他出访印度时带回的佛经７４部，共１３３５卷。他还是我国第一个把中文著作译成梵文的人，为中外文化交流做出了卓越的贡献。
除翻译外，为了适应梵文教育的需要，隋唐还出现了专门讲述梵文音韵、解释辞义的“字书”，如《隋书经籍志》中著录的《婆罗门书》、《扶南胡书》和唐代的《悉昙字记》等。到了明代，编撰刊行了一套收录梵语、阿拉伯语等基本词汇，每个词用汉语标音的外语辞典《华夷译语》。同时，在明代还翻译了一些西方的科技著作，如著名科学家徐光启和意大利传教士利玛窦合作、由拉丁文本翻译成中文的《几何原本》以及李之藻和利玛窦合译的《同文算指》、《浑盖通宪图说》等。
我国最早的外语学校，是成立于清代同治元年（１８６２年）的“同文馆”。它培养出严复、汪凤藻等一批翻译人才，还编译了一些外语辞典和外语文法书籍。