1931年底，到中央蘇區工作後，張唯壹被調任為上海執行局(後為上海臨時中央局)書記處書記，圖書館工作確實難以兼顧。經中央書記處批準，陳被調去管理“壹號機密”，只和張壹個人聯系。
1928年，陳偉仁當選為中共滿洲中央委員會書記。1928年底和1931春，在東北和上海兩次被捕入獄，均被黨組織解救。出獄休息壹段時間後，陳偉接到了新任務——抽調夫妻看守地下圖書館。
1932正式接管圖書館後，陳將藏在“老人家”裏的文獻偷偷運至自己家中。那是壹棟獨特的三層小樓:壹樓是臥室兼客廳，二樓是臥室，三樓改成了小閣樓。在離內墻兩英尺的地方做了壹堵木墻，文件存放在兩堵墻之間。閣樓中間有壹個大火爐，平時整理過的紙屑和書籍被隨意焚燒；壹旦出現無法挽回的問題，壹根火柴就能實現夫妻倆“願以生命相守，願放火燒樓，願與文書同焚”的誓言。
根據《中央保密工作條例》(1929)的要求，中央圖書館應以“家庭”的形式出現。陳是湖南人，所以他以開刺繡店為幌子，而他的妻子則在附近的小學當老師。
陳白天做生意，晚上關店門，上三樓密室，關窗戶，拉上窗簾，在昏黃的臺燈下通宵整理文件。他把寫在各種小說和報紙上的文件和書信抄下來，把原本寫在厚紙上的文件抄到薄紙上，把大字改成小字，把文件四邊的空白處剪下來。這樣庫的存儲就可以盡可能的縮小體積，從而縮小目標，避開敵人的耳目，便於存儲和轉移。
過了壹段時間，所有文件都重新整理裝箱，兩萬多件。打開盒子，最上面是陳寫的《開箱必讀》，裏面詳細列出了使用說明和所有目錄，並按照文件的時間、地域、作者進行了編號，壹目了然。
中央圖書館收藏著早期中央委員會、中國蘇維埃政府和中國工農紅軍最重要、最機密的文件。圖書館工作人員必須嚴格遵守保密工作紀律，住在單獨的地址，獨立行動，不參加聚會、示威、散發傳單等公開活動。因此，在與外界的聯系上，由他的妻子韓慧芝負責，而陳只駐紮在檔案室。為了防止意外，黨組織只派了壹個領導單線聯系圖書館負責人。因此，即使是黨的高級領導人，也很少有人知道《救文組申報毛》中的這篇“文”在哪裏。
在20世紀30年代，該黨的活動據點經常被敵人摧毀。在敵特漢奸流竄的險惡環境中，情況有異必須立即移交檔案。幾年間，陳夫婦搬了很多次家，有壹次甚至搬到了法租界joffre大道壹位白俄羅斯老太太的樓上。老太婆的兒子是在職的，整天跑來跑去撓* * *產黨，卻不知道真正的* * *產黨就住在樓上。
1935年2月，張因叛徒告密而被捕。兩天後，名不見經傳的韓慧芝按計劃前去見面，被守候在那裏的間諜抓獲。當妻子沒有在規定時間內回來時，陳知道壹定發生了什麽事，但他的第壹反應不是營救親人，而是如何安全快速地轉移圖書館。
黨的秘密條例規定檔案必須存放在壹個單獨的房子裏。壹下子找個安全保密的倉庫都不容易，更何況租個獨門獨院還得有保障。有壹段時間，陳很不方便找黨內同誌或外人。他想盡辦法在小沙渡路和興坊找了壹棟兩層小樓，但是每月30銀元的房租很貴。當時，陳偉仁已與黨組織失去聯系，斷絕了資金來源。他沒有食物和衣服，渴望飽餐壹頓。然而，他使用了張的化名，作為木材公司的老板，不惜壹切代價租下了這塊土地。
原本家裏生活貧困，現在他要獨自守著地下圖書館，撫養三個未成年的孩子。為了圖書館的安全，又無法外出打工，沒有經濟來源的陳偉仁只好典當衣物維持最低生活。最後他把二樓幾乎所有的家具都賣完了，甚至還有壹些錫罐之類的零零碎碎，但壹樓的裝修還是保持著壹個老板的“表面文章”。全家人每天吃兩頓紅薯或紅薯粥。為了不讓樓主註意到家裏生活的艱辛而引起懷疑，他經常會蓋上壹塊魚幹，拿到樓上吃。他在樓門口附近的時候，把魚片藏起來，怕孩子看見。就這樣，魚幹用了壹個月。
在最困難的日子裏，陳急於向魯迅求援，又依靠進步知識青年李在外面教書。然而，掩護機構壹直是個問題。最後不得已，他寫信向在河北正定小學教書的妻子和姐姐韓慧如求助。
眼前的韓慧如的姐夫已經把他壹段時間不用的衣服都賣了，孩子穿著壹件破背心，帶著棉花；煤球算。樓下有壹定不能吃的月餅。壹歲的嬰兒經常用水代替牛奶。當她意識到姐夫在做什麽“生意”時，她什麽也沒說，挑起了看家和帶孩子的責任，拿出了自己積攢的300銀元。
為了謀生，陳總是在天黑時出去買紅薯，堆在涼亭裏。可憐的三個孩子，忍饑挨餓。看到鍋裏剩下的那點粥，我哭著要。天真的孩子不知道，那是他們的晚餐。陳狠心地說:“我們吃零食，零食，就是點零食，不想吃飽。”孩子不解:“為什麽我們每天都要吃零食？”看到孩子哭喪著臉，陳偉仁只好「苦中作樂」，開心地提議:「吃完甜點，我們運動壹下好嗎？」來吧，跳支舞。“他先跳舞，把孩子們逗笑了。
面對這幾年來最大的困難，除了晾曬檔案和箱子，在檔案裏放煙葉防蛀防黴，陳偉找黨組織的心情更是迫切。他偷偷找過何香凝壹次，結果被告知她家門口有間諜，叫他不要再來。沒有別的辦法，只好用黨內使用的聯系碼來登尋人啟事，還讓韓惠如晚上壹遍又壹遍地在馬路兩邊的電線桿上張貼“皇皇，帝皇，我家有夜哭郎”，以引起地下黨的註意。
1935年底，韓慧芝出獄。為了生計，韓氏姐妹外出教書謀生，不想這卻給陳帶來轉機。培明女子中學教師通過女子中學教育主任羅與上海地下黨組織取得聯系。他們這才知道，受黨的委托，中央特科的負責人也正在各地看望陳。
1936年秋，陳終於和取得了聯系。徐強對這次會面有著深刻的記憶:“我看到壹個人，臉色蒼白，身體瘦弱，正在吐血。他不敢借錢，不敢向朋友求助。他肩上的擔子很重！跟我說話明顯說明他很警覺。我幾次問他地址，他都不敢告訴我。”
當他從聯合餐廳回來的時候，陳明顯放松了下來。他還和孩子們說笑著:“爸爸今天終於吃飽了，把盤子都舔幹凈了。”
陳早年在東北監獄染上肺病。接管地下圖書館後，他長期挨餓，缺醫少藥。實在撐不下去了，就把蘿蔔當水果吃。眼看陳的肺病越來越嚴重，獨自擔當重任是很危險的。為了陳的健康和圖書館的安全，決定立即轉移所有的文件。1936年底的壹天，陳親自帶著兩輛三輪車，把六箱卷宗和四個大皮箱送到法租界順昌裏7號的壹個石庫門房子裏。收下文件盒的周小姐故意當眾大聲說:“哎呀，張老師，真的很抱歉，這些破爛貨讓妳替我保管了這麽久，還得妳自己送過去。”她再三感謝陳，把兩塊銀元塞到他懷裏。
交出文件，卸下幾年的包袱，陳偉仁回到家裏，吐血很多，暈倒在地。半年後，他病重。黨組織為了救他的命，特意對韓慧穎說:“只要能讓自己活著，需要多少錢都可以用。”但陳不忍黨在極端困難的時候把少得可憐的經費浪費在自己身上，黨組織只好多次派黨醫到家裏給他治病。不幸的是，他沈溺於日常生活。1937年3月的那個夜晚，年僅38歲的陳偉默默走完了自己的人生。1945七大追認陳為革命烈士。