Годом основания Нарвской центральной библиотеки можно считать 1897 год, когда в Нарве была открыта Нарвская бесплатная библиотека-читальня. Мысль о создании библиотеки возникла у группы местных либерально настроенных русских интеллигентов во главе с Василием Ивановичем Надпорожским.
Нарвская городская дума предоставила библиотеке помещение в Ратуше и обещала выделять "дотацию" на покупку книг ежегодно в размере 50 рублей; 25 рублей должны были поступать из Ямбургского земства.

Для читателей пользование библиотекой было бесплатным. Такой возможности не было тогда даже в Таллинне.
Когда денег на покупку книг недоставало, пользовались любой возможностью пополнить средства: устраивали лотереи, благотворительные вечера и т.д. Благодаря этой работе и частным пожертвованиям горожан, книжный фонд значительно вырос. При открытии библиотеки в ней было 635 книг, а в 1905 году - уже 3714. Фонд книг на русском языке в Нарвской библиотеке в начале ХХ века был самым большим в Эстонии.

Библиотекарем Нарвской общедоступной библиотеки стала Александра Надпорожская, педагог по образованию. В библиотеке она работала безвозмездно, если не считать бесплатный пропуск на городской каток, который она получала от городской управы за свой труд.
О заслугах нарвского библиотекаря говорит и то, что в числе шести библиотечных работников Эстонии она принимала участие в I Всероссийском конгрессе библиотек в Петербурге.

Известно, что в 1930-е годы библиотека работала на 3-м этаже здания Биржи. В 1932 году в библиотеке было 16419 книг, из которых на русском языке - 15102, на эстонском - 494, на немецком - 386 и т.д.

После 1944 года библиотека находилась на улице Коммунаров (Вестервалли). В 1945 году в библиотеке было 472 читателя и 650 книг.

С 1948 по 1985 год отдел обслуживания Нарвской городской библиотеки располагался в одноэтажном здании с печным отоплением, на том же самом месте, где находится библиотека сегодня. Поскольку была большая нехватка помещений, детский отдел работал в здании Дворца пионеров, а отдел комплектования - в общежитии на улице Пушкина.

Заведующей библиотекой долгое время была Лидия Иоселевич.

Перед переездом в новое здание (1987 год) в нашей библиотеке было 75041 инфоноситель и 4838 читателей.

Современное здание Нарвской центральной библиотеки вошло в историю эстонского библиотечного дела тем, что оно было первым, которое после Второй мировой войны было спроектировано и построено в Эстонии специально для городской библиотеки.

Нарвская центральная библиотека начала работать в новом здании 23 декабря 1987 года.