日本侵略者在1935年開始吉林省春季“大討伐”,將盤踞齊齊哈爾的日本滿洲派遣軍第十六師團三十八聯隊(亦稱奈良聯隊,聯隊長為田路大佐)調到吉林省參加“討伐”,企圖消滅活動在舒蘭縣一帶的宋德林、周太平兩支抗日武裝。進犯蛟河的三十八聯隊第三大隊大隊長車少佐、翻譯朱子岐得到密探陳生報告:老黑溝沒好人,都是胡子。5月29日帶領日軍600余人及抓來背給養(yǎng)的夫役600余名,由陳生帶路從退摶出發(fā),分三路侵襲老黑溝。除其中一路因迷路未能到達老黑溝外,其它兩路分別從呼蘭嶺和石門子進入有300戶居民的老黑溝。日軍一侵入老黑溝便開始抓人、殺人,遠者槍打,近者刀挑。從5月29日至6月5日,日軍進行了為期八天的血腥大屠殺。屠殺方式主要是集中起來用機槍掃射、排隊用刀挑或活埋等,日軍多以小隊或小組反復搜捕殺戮。共燒毀房屋達千余間,殺害無辜百姓約1017人,F查明有七處較大的殺人場:(一)5月29日,日軍在樺曲柳頂子村多是把村民堵在屋里殺死。村民李顯廷聽到外面有動靜,出門看情況,被日軍殺死。日兵闖進李家后,先把李妻子殺死在炕上,又用刺刀從二三歲的孩子背部刺進去,挑起玩耍,看著孩子在刀尖上掙扎亂動。日軍還把抓到的村民們驅趕到村外林邊,先讓被埋者挖坑,再把人推進坑里,土埋到身體大半截時,用刺刀向胸部、脖子刺進,頓時鮮血飛濺,黑土染成了紅色。僅此處就有七個坑,每坑埋10人左右,李奎江家11口被殺了9口,埋在一個坑內。(二)柳樹河村的胡家店,店房是一個大筒子屋,也成了日軍的殺人場。5月31日上午,日軍把抓到的72名村民上綁,命令他們臉朝南跪下。日頭偏西時,將他們一個個牽到胡家客店,每進屋一名村民,便從屋內傳出“哎呀”一聲慘叫。日軍殺完人就把房子燒著,廢墟上看到的奇形怪狀的尸體,面貌全非,根本無法辨認。(三)青頂子村外的月牙泡是血洗老黑溝時最大的殺人場。5月31日到6月2日,日軍就在這里屠殺了300余人,每天都有百人左右在這里喪生。日軍讓被抓來的村民臉朝月牙泡成排跪下,用機槍掃射后,再將尸體推到泡子里,鮮血把水都染紅了。6月1日下午,又把一部分抓來的村民押到距月牙泡100米的東山樹林中,一棵樹綁上一個人,解開上衣露出胸膛,一個日軍刺殺一名村民。而在月牙泡南200米處,日軍將村民們的手背過去,用鐵絲擰緊,從兩臂之間穿一根水曲柳木桿,每桿穿20人左右,排成兩排,每排三根桿,然后用機槍掃射。殺人場還有榆樹溝北小屯大泡子、榆樹溝東山頭、柳樹河屯西、山東會墳等處。
在大屠殺的日子里,日軍空陸軍配合,天上有飛機撒傳單、送給養(yǎng),地上陸軍使用各種輕重武器殘殺無辜。屠殺路線基本是從溝上部往下進行,但從石門子侵入老黑溝的日軍,經過榆樹溝時,見村民們聞訊大都躲逃山林中,就對沒跑的老人、孩子施以“安撫”,說什么:“苦力的大大的好,殺的沒有。”誘騙跑上山的人回家。不少人便從山上下來回到家中。而這部分日軍在第二天早晨又突然從桂家街往回殺。日軍連孕婦也不放過,榆樹溝屯曹邦的二兒媳懷孕將要臨產,日軍將她衣服扒掉,用刺刀將腹部剖開,把胎兒剝出以此取樂。血洗后的老黑溝從此長期無人敢居往,變得沉寂、恐怖。無人掩埋的尸體腐爛,又造成瘟疫在舒蘭一帶流行,吞噬了許多人的生命。