Tháng 2/1979, đồng chí Phạm Ngọc Yểng là trung úy – Chính trị viên Đại đội 2 (Tiểu đoàn 4, Trung đoàn 12, Sư đoàn 3), chốt giữ đồi Thâm Mô (thị trấn Đồng Đăng, huyện Cao Lộc, tỉnh Lạng Sơn).
Rạng sáng 17/2/1979, quân xâm lược tập trung hỏa – binh lực hòng đánh chiếm Thâm Mô, nhưng đã bị bộ đội ta đánh trả quyết liệt. Mờ sáng ngày 22/2/1979, sau khi tăng lực lượng, Sư đoàn 63 của địch có xe tăng và pháo binh chi viện, mở đợt tiến công toàn diện vào điểm cao Thâm Mô. Những trận chiến đấu giằng co diễn ra quyết liệt. Các chiến sĩ y tá, nuôi quân, liên lạc đã anh dũng chiến đấu với quân thù, đánh địch từ khu nhà văn hóa Đại đội đến hầm chỉ huy. Sau 5 ngày chiến đấu, Đại đội 2 chỉ còn lại 20 chiến sĩ, do chính trị viên Phạm Ngọc Yểng chỉ huy.
Chiều 26/2/1979, địch tập trung đánh chiếm đồi Thâm Mô. Bộ đội ta đánh địch bằng mọi thứ có trong tay, từ súng đạn đến đất đá và tay không. Xẩm tối, địch lại ồ ạt tổ chức đợt tiến công cuối cùng. Trung úy Phạm Ngọc Yểng chỉ huy 10 chiến sĩ còn lại của Đại đội, sau khi bắn hết đạn đã đánh giáp lá cà với quân địch và anh dũng hy sinh.
Đại tá Phan Văn Thắng, người cùng đơn vị với Anh hùng, liệt sĩ Phạm Ngọc Yểng kể lại: “Địch chiếm trận địa, chúng tôi hết đạn, rút về công sự của Yểng, thấy anh ấy ngồi tựa lưng vào vách hào, bàn tay phải còn nắm chặt khẩu K54. Từ đó, chúng tôi gọi đồi Thâm Mô là đồi Phạm Ngọc Yểng”…
Trong tâm thức của bà Phạm Thị Tươi thì anh Yểng rất cao lớn, đi qua cửa nhà cứ phải cúi xuống. “Cuối năm 1978, anh ấy về phép, định cưới vợ, nhưng vì tình hình biên giới căng thẳng, nên anh phải trở về đơn vị, và việc cưới phải hoãn lại sau Tết”, bà Tươi nhớ lại.
Trong niềm xúc động, bà Tươi rơm rớm nước mắt kể: “Sau khi anh tôi hy sinh, đêm nào mẹ tôi cũng xuống bếp ngồi khóc. Đơn vị về đón thân nhân liệt sĩ lên huyện nhận danh hiệu Anh hùng lực lượng vũ trang nhân dân, chỉ có bố tôi đi. Mẹ tôi vì nhớ con trai mà héo hon ốm đau và đến năm 1987 thì bà mất. Trước khi nhắm mắt, mẹ tôi vẫn không quên dặn bố tôi rằng cố gắng đưa hài cốt của anh tôi về quê”.
Thực hiện di nguyện của bà Hoàng Thị Thuế (mẹ liệt sĩ Phạm Ngọc Yểng), năm 1991, gia đình đã lên nghĩa trang Cao Lộc đưa liệt sĩ Phạm Ngọc Yểng về quê nhà mai táng.