Trong thời gian hơn 60 năm có mặt ở Cao Bằng (1884-1945), người Pháp đã chiếm đóng những vị trí quan trọng dọc biên giới Việt-Trung, thủ phủ Cao Bằng cũng như các khu vực giầu có khoáng sản hay điều kiện tự nhiên thuận lợi cho nghỉ dưỡng. Các di tích còn lại đến nay chủ yếu ở dạng đồn bốt, doanh trại, biệt thự, nhà nghỉ..., phân bố ở những nơi có địa hình địa vật, điều kiện đường xá, cấp nước... thuận lợi cho việc phòng thủ, kiểm soát, khống chế, khai thác khoáng sản... Một trong những di tích đó là đồn của quan Hai người Pháp được xây dựng trên núi Phja Rạc, xóm Bằng Ca, xã Lý Quốc, huyện Hạ Lang, ngay sát đường tỉnh lộ 206.
Từ dưới chân núi có thể đi ô tô hoặc đi bộ theo đường xoáy trôn ốc rộng khoảng 5-6m lên tới đỉnh. Trên đó có bề mặt bằng phẳng rộng khoảng 1ha. Dấu tích Đồn Pháp còn lại ngày nay là phần móng đồn còn nguyên vẹn, với 2 hệ thống tường vòng ngoài và vòng trong, một số chỗ vẫn còn sót lại những đoạn tường vòng ngoài cao khoảng 5m, tường vòng trong cao khoảng 3m và một vài đoạn tường nhà ở của các quan Pháp và binh lính.
Đây có thể coi là hệ thống Đồn Pháp khép kín với đầy đủ tiện nghi, đi lại thuận tiện, như các khu nhà làm việc, nhà ở, bể nước, khu trồng rau, khu thể thao, trạm y tế, trạm thông tin, đường xá...
Tương truyền, Nhà Mạc (thế kỷ XVI-XVII) cũng đã từng chọn ngọn núi này để xây chốt và đóng quân.
Đứng trên đỉnh Phja Rạc, bạn sẽ quan sát được bức tranh toàn cảnh độc đáo của cả thung lũng Bằng Ca. Xa hơn một chút là hệ thống núi đá vôi dạng dãy bao quanh thung lũng như một hệ thống phòng thủ tự nhiên bảo vệ sự bình yên cho bản làng nơi đây. Thật là một cơ hội tuyệt vời để nhớ về quá khứ và hòa mình vào với thiên nhiên.