如果从战国帛画算起，我国的绘画至少有两千三百年以上的历史。但把我国的绘画叫作“中国画”，则是近几百年内的事。这个词的产生是在“西洋画”出现之后，泛指一切非西洋画的中国绘画。“国画”一词晚于“中国画”，于20世纪20年代使用。
我国的绘画，最早叫“丹青”，但到了五代、北宋时期，由于绘画的发展，又改叫“图画”。自从苏东坡提出“诗画结合”的主张后，有些人又把它称为“无声诗”，意思是说，画是一种不能吟咏的诗歌。到了清代，又有人把绘画称为“绘事”。
新中国建立后，继续使用“国画”一词，曾一度把“国画”改名为“彩墨画”，但遭到一些人的反对。1957年，经周恩来总理建议，才改称“中国画”，这是为了避免形成只此一家，别的都不是国画的误解。