วัดพระอินทร์เป็นวัดเก่าแก่อยู่ในตัวเมือง ภายในวัดมีซากเจดีย์ปรักหักพัง ปล่อยทิ้งไว้ไม่ได้รับการดูแล ลักษณะเจดีย์เป็นฐานแปดเหลี่ยม มีซุ้มไว้พระพุทธรูปประกอบด้วย ภายปูนปั้น และภาพนูนต่ำ ที่ขอบซุ้มมีลายใบไม้ม้วนเรียงกันไปทางทิศเหนือเป็นแนวเดียวกัน ซุ้มด้านตะวันตกมีพระพุทธรูปยืนปางปฐมเทศนา ที่ปลายของซุ้มทั้งสองข้างทำลวดลาย เป็นรูปพญานาคชูคอขึ้น ที่หัวมีรัศมีแผ่คล้ายพัดใกล้ฐานพระเจดีย์มีพระพุทธรูป องค์หนึ่งมีลักษณะครึ่งองค์ตั้งอยู่บนพื้นดิน นอกจากนี้รอบๆ องค์เจดีย์ยังมีเศษภาชนะดินเผา และชิ้นส่วนของเครื่องสังคโลก กระจัดกระจายอยู่ทั่วไป ปลายปี พ.ศ. 2528 ได้ค้นพบแหล่งเตาเผา เครื่องถ้วยชามบริเวณสองฝั่งของแม่น้ำสุพรรณบุรี บริเวณบ้านค่ายเก่ากับโพธิ์พระยาในเขตตำบลพิหารแดง สนามชัย และรั้วใหญ่ ได้พบเศษภาชนะต่างๆ เช่นเครื่องสังคโลก เครื่องถ้วยจีน ภาชนะดินเผาเนื้อดินและเนื้อหิน จำนวนหมื่นๆ ชิ้น ต้นปี พ.ศ. 2529 ได้ขุดค้นที่แหล่งโบราณคดีเตาบ้านสุมน แหล่งเตาบ้านปูน ตำบลพิหารแดง พบเตาเผาถึง 10 เตา มีความยาว 5 เมตร กว้าง 2 เมตร ซึ่งใช้ผลิตภาชนะเนื้อหิน เช่น ชาม จาน อ่าง แจกัน หม้อ ซึ่งมีลวดลายแปลกแตกต่างกันเช่น ลายเทวดา ลายเทพพนม รูปทรงเรขาคณิต ลายดอกไม้ ฯลฯ