日本国立国会图书馆有两个源流。一是设立于1890年、隶属于旧宪法下帝国议会的贵族院众议院图书馆,另一则是设立于1872年、隶属于文部省的帝国图书馆。其中帝国图书馆经历了自书籍馆(1872)、东京书籍馆(1875)、东京府书籍馆(1877)、东京图书馆(1880)至帝国图书馆(1897)的变迁。1947年改称为国立图书馆。

日该国立国会图书馆具有双重职能。它既是日本的国家图书馆,也是国会的图书馆。《国立国会图书馆法》明确指出该馆"以搜集到的图书及其它资料,在帮助国会议员完成公务的同时,对行政和司法部门以及日该国民提供法律上所规定的图书馆服务为目的",由此规定了国立国会图书馆服务的对象为:国会议员、政府机关、普通国民。为国会服务居首要位置,是它服务的重点。

国立国会图书馆是唯一法定接受缴送本的图书馆,它收集的国内出版物作为日本的文化遗产将进行永久性的保存,因此同时具有保存图书馆的作用。在信息化的社会中,作为国家的文献信息中心,对来自国内外各方面的需求,提供迅速准确的服务。