“留学生”一词和唐朝时日本向中国派遣的“遣唐使”有关。
唐朝时，中国经济文化均居于世界先进水平，日本政府为了吸取中国的先进文化，曾经多次派“遣唐使”渡海来到中国。
遣唐使团是外交使节，不能在中国长时间停留，为了得以吸收到中国的先进文化，因此日本政府从第二次派遣唐使起，就同时派遣“留学生”和“还学生”。
所谓“留学生”就是当遣唐使等回国后仍然留在中国学习的学生，“还学生”则指在遣唐使回国时一起回国的学生。
后来，“留学生”这个词就一直沿用下来，其语义也有了变化发展。现在把凡是留居外国学习或研究的学生，都称为“留学生”了。