১৮১৩ খ্রিষ্টাব্দে প্রতিষ্ঠিত হয় ‘লালগোলা রাজ কালীবাড়ি’। লালগোলা রাজ কালীবাড়িতে যে মূর্তি রয়েছে সেরকম একটি কালী মূর্তির পুজো করতেন দেবিনগর গ্রামের চাঁই মন্ডল গ্রামবাসীরা। সেখানে যে মূর্তি পূজিত হত সেই মূর্তি বর্ধমান জেলার কাটোয়া মহকুমার মন্ডল গ্রামের বর্ধিষ্ণু ভট্টাচার্য পরিবারের কূলদেবী ছিল। কোন কারণে সেই পরিবারের পূজা বন্ধ হয়ে যায়। আজ থেকে প্রায় আড়াইশো বছর পূর্বে সেই পরিবারের এক পুরুষ সন্ন্যাস ধর্ম গ্রহণ করে গৃহত্যাগী হন।তিনি ভ্রমণ করতে করতে এই দেবীনগর গ্রামে এসে উপস্থিত হন এবং এখানে পারিবারিক কালী মূর্তিটি নতুন করে প্রতিষ্ঠা করে মাতৃ আরাধনা শুরু করেন। কথিত আছে, প্রতিষ্ঠার রাত্রে মা কোন কারণে অসন্তুষ্ট হন এবং রাজাকে স্বপ্ন দেন তিনি মন্দির ত্যাগ করবেন । রাজা তখন ক্রোধ বশত মায়ের মূর্তিকে পেছন থেকে লোহার শেকলে বেঁধে দেন। সাধারণের অনুমান মাটির তৈরি প্রতিমা যাতে সামনে ঝুঁকে পড়ে ভেঙে না যায় সে জন্যই এ ব্যবস্থা।