整个大伯公庙依傍着古晋的小山坡，面向河川。1941年日本入侵时，其周围的建筑物多遭日军炸毁，唯有其依然屹立无恙。