กองทัพเรือ ได้ดำเนินการพัฒนาพื้นที่บริเวณป้อมพระจุลจอมเกล้า และจัดทำพื้นแสดงวิวัฒนาการของทหารเรือไทยในการป้องกันประเทศ โดยเชิญผู้ทรงคุณวุฒิทางด้านภูมิสถาปัตย์และประวัติศาสตร์ ตลอดจนด้านการท่องเที่ยวเข้าร่วมหารือ เพื่อกำหนดแนวความคิดในการนำอาวุธเก่าแก่มาตั้งแสดงในรูปแบบพิพิธภัณฑ์ – อาวุธกลางแจ้ง บนพื้นที่ด้านหน้าพระบรมราชานุสาวรีย์ฯ โดยใช้ชื่อว่า "อุทยานประวัติศาสตร์ทหารเรือป้อมพระจุลจอมเกล้า"

ภายในแบ่งการจัดแสดงออกเป็น 5 ส่วน ประกอบด้วย

ส่วนที่ 1 พระบรมราชานุสาวรีย์พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ทรงฉลองพระองค์ในชุดจอมทัพเรือ พระหัตถ์ถือกระบี่ ใต้ฐานพระบรมราชานุสาวรีย์ฯ เป็นพิพิธภัณฑ์แสดงประวัติความเป็นมาของป้อมพระจุลจอมเกล้าฯ และเหตุการณ์ในสมัย ร.ศ.122

ส่วนที่ 2 ส่วนจัดแสดงปืนเสือหมอบ แสดงอาวุธปืนหลุมที่มีประสิทธิภาพสูงสุดในช่วงเวลานั้น

ส่วนที่ 3 พิพิธภัณฑ์เรือรบหลวงแม่กลอง เป็นพิพิธภัณฑ์กลางแจ้ง จัดขึ้นเพื่อน้อมเกล้าฯ ถวาย เพื่อเฉลิมพระเกียรติในวโรกาสที่พระบาทสมเด็จพระปรมินทรมหาภูมิพลอดุลยเดช ทรงครองสิริราชสมบัติครบ 50 ปี ใน พ.ศ.2539 เป็นเรือรบประจำการมีอายุการใช้งานนานที่สุดกว่า 60 ปี ของกองทัพเรือ จนกระทั่งกระทรวงกลาโหมได้พิจารณาเห็นว่ามีสภาพทรุดโทรมมากจึงปลดประจำการ เพื่ออนุรักษ์เป็นพิพิธภัณฑ์ ภายในลำเรือจัดแสดงผ่านห้องต่างๆ อาทิ

• ห้องสะพานเดินเรือ/ห้องควบคุม/ห้องควบคุมการทำงานของเรือ  ซึ่งเป็นห้องที่มีความสำคัญมากที่สุด
• ห้องโถงนายทหารชั้นสัญญาบัตร  จัดแดงเรื่องราวประวัติศาสตร์และรายนามผู้บังคับการเรือในอดีต
• ห้องเรียนในอดีต สำหรับเรียนวิชาการเรือของนักเรียน นายทหาร

ส่วนที่ 4 อุทยานปืนกลางแจ้ง จัดแสดงเนื้อหา การจัดวาง และตั้งแสดงอาวุธยุทโธปกรณ์ รวมทั้งส่วนประกอบต่างๆ ซึ่งมีความสำคัญเกี่ยวกับประวัติศาสตร์ทหารเรือ  อาทิ  กลุ่มปืนและอาวุธในสมัยรัชกาลที่ 5 และกลุ่มอาวุธของเรือหลวงพระร่วงและการจัดหาเรือหลวงพระร่วงของรัชกาลที่ 6 รวมทั้งยุทโธปกรณ์อื่นๆ ,  กลุ่มปืนและอาวุธในช่วงสงครามโลกครั้งที่ 1 และยุทธนาวีที่เกาะช้าง , กลุ่มปืนและอาวุธในช่วงสงครามโลกครั้งที่ 2 โดยมีการจัดแสดงข้อมูลของอาวุธชนิดต่าง ๆ และเรื่องราวทางประวัติศาสตร์ประกอบ

นอกจากนั้น ยังมีการจัดแสดงสิ่งก่อสร้างและส่วนประกอบต่าง ๆ เพื่อแสดงให้เห็นถึงบทบาทของกองทัพเรือในยามสงบ และการรักษาผลประโยชน์ของชาติทางทะเล อาทิ ฐานขุดเจาะก๊าซธรรมชาติในทะเลจำลอง และเรือประมงพร้อมข้อมูลประกอบ

ส่วนที่ 5 เส้นทางศึกษาธรรมชาติป่าชายเลน สำหรับเดินชมพันธุ์ไม้ป่าชายเลน อาทิ โกงกาง ฝาดทะเล ตะบูน แสมดำ และสิ่งมีชีวิตเล็ก ๆ ที่พึ่งพาอาศัยป่าชายเลน