วัดสวนขัน เดิมทีได้สอบถามท่านผู้สูงอายุท่านบอกเล่าว่า วัดเดิมตั้งอยู่ริมคลองคุดด้วน ตั้งอยู่หมู่ที่ ๒ ตำบลสวนขัน เรียกว่า"วัดใต้"(วัดราษฎบำรุง) เดิมเรียกว่า "วัดหลุมป่าหวาย" เพราะ มีหวายขึ้นอยู่เต็มวัด ปัจจุบันนี้ที่ตั้งบ้านเรือน ของราษฎรไปหลายชั่วอายุคนแล้ว ภายหลังเคลื่อนมาตั้งอยู่ห่างจากที่เดิมประมาณ ๕๐๐ เมตร แนวริมคลองเดียวกัน บริเวณนั้นมีต้นมังคุดยอดด้วนแต่ชาวบ้านเรียกสั้นๆว่า "วัดคุดด้วน" ลำคลองซึ่งเกิดมาจากภูเขาหลวงเรียกว่า "คลองใหญ่" ไหลผ่านหน้าวัดก็ถูกเรียกว่า"คลองคุดด้วน" หมู่บ้านในละแวกใกล้เคียง ก็เรียกว่า "บ้านคุดด้วน" ไปด้วย ต่อมาน้ำเซาะตลิ่งทุกที ต้นมังคุดนั้นถูกน้ำพัดหายไป บริเวณวัดแคบลง ประกอบกับตอนนั้นเจ้าพระยานครได้อพยพชาวบ้านหนีศึกพม่ามา (สงคราม ๙ ทัพ) ตีหัวเมืองพังงา ตะกั่วทุ่ง ตะกั่วป่า เมืองถลางเข้าไปติดอยู่ในภูเขาหลวง ชาวบ้านก็อพยพพร้อมนิมนต์พระไปด้วย ได้ตั้งสำนักสงฆ์ขึ้น บริเวณที่ตั้งสำนักสงฆ์นี้เรียกว่า"ทุ่งทัพเจ้าพระยา" ปัจจุบันนี้ชาวบ้านถือกรรมสิทธิ์ปลูกบ้านเรือนและสวนยางพารา หรืออีกอย่างหนึ่งว่า"สวนวัดใน"มีสถานที่แห่งหนึ่งเรียกว่า"ควนวัด"เป็นเนินสูงกว่าที่แห่งอื่น ตามคำบอกเล่าของพระครูนิมมานโกศล ท่านกล่าวว่าเคยเป็นสถานที่ก่อสร้างเจดีย์ มีหลักฐานคือ อิฐ ปูน หลงเหลืออยู่เป็นจำนวนมาก แต่ยังไม่ทันก่อสร้างถูกทิ้งให้เป็น วัดร้างเสียก่อน บริเวณนี้ภายหลังได้โอนให้เป็นราษฎร์พัสดุของโรงเรียนวัดสวนขัน จนถึงปัจจุบันนี้ เมื่อศึกพม่าสงบแล้วราษฎรก็พากัน กลับสู่ที่เดิม เห็นวัดคุดด้วนคับแคบไม่เหมาะสมจึงหาที่ตั้งวัดใหม่ได้บริเวณป่าไม้ขัน เจ้าของเดิมชื่อจันทร์และอินทร์เป็นผู้บริจาคเพิ่มเติม อีกคนละเล็กละน้อย เช่น นายจุน นายแสง นางเอียด สวัสดี นายหมุน นายฉาย วัดที่ตั้งขึ้นในป่าไม้ขัน นี้ให้ชื่อว่า "วัดสวนขัน" ตามชื่อของต้นไม้ที่มีอยู่ เข้าใจว่าวัดสวนขันได้สร้างมาประมาณ ๒๐๐ ปีเศษ ข้อมูลจาก วิทยานิพนธ์ของการศึกษาตามหลักสูตร ศาสนศาสตร์มหาบัณฑิต สาขาวิชา สังคมวิทยา บัณฑิตวิทยาลัย มหาวิทยาลัยมหามงกุฏราชวิทยาลัย พุทธศักราช ๒๕๕๔ โดย พระธวัช สนฺติธมฺโม(ระตะนิล)
อ้างอิงเพจ....วัดสวนขัน พ่อท่านคล้ายวาจาสิทธิ์ นครศรีธรรมราช
https://www.facebook.com/watsuankhann