வாலி குரங்கு உருவிலும், இந்திரன் அணில் உருவிலும், எமன் காகம் (முட்டம்) உருவிலும் இத்தலத்தில் இறைவனை தனித்தனியே வழிபட்டு தங்களது சாபம் நிவர்த்தியடையப் பெற்றதால் இத்தலம் குரங்கனில்முட்டம் என்ற பெயரைப் பெற்றது. இறைவனை வழிபடும் நிலையில் இம்மூன்றின் உருவங்களும் புடைப்புச் சிறபமாக ஆலயவாயிலில் அமைக்கப் பெற்றிருக்கின்றன. வாலி முதலிலும், பிறகு இந்திரனும், பினபு எமனும் இத்தலத்தில் இறைவனை வழிபட்டுள்ளனர். இறைவன் சிறிய லிங்க உருவில் மேற்குப் பார்த்த சந்நிதியில் அருட்காட்சி தருகிறார். கருவறையும் மிகச் சிறியதாக உள்ளது. அம்பாள் சந்நிதி தெற்கு நோக்கி அமைந்திருக்கிறது. இத்தலத்தின் தல விருட்சம் இலந்தை மரம். தீர்த்தம் காக்கை தீர்த்தம் (காக்கை மடு). இது எமன் சிவபூஜை செய்வதற்காக காக்கை உருவில் இருந்தபோது தன் அலகினால் பூமியைக் குத்தி உண்டாக்கிய மடு என்பது ஐதீகம்.
கோவில் அமைப்பு: மதிற்சுவருடன் கூடிய ஒரு முகப்பு வாயிலுடன் ஆலயம் அமைந்திருக்கிறது. வாயிலைக் கடந்தவுடன் பலிபீடமும், நந்தி மண்டபமும் இருக்கக் காணலாம். வெளிப் பிராகாரத்தில் சந்நிதிகள் ஏதுமில்லை. உள்வாயிலைக் கடந்து சென்றால் நேரே மூலவர் வாலீஸ்வரர் சந்நிதி உள்ளது. இறைவன் சுயம்புலிங்கமாக மேற்கு நோக்கி காட்சியளிக்கிறார். உள்பிராகாரத்தில் விநாயகர்,சுப்பிரமணியர், காசிவிஸ்வநாதர், பைரவர், சூரியன், நவக்கிரகம், துர்க்கை, சப்தமாதர்கள், நால்வர் ஆகியோரின் சந்நிதிகள் உள்ளன. சித்திரை மாதத்தில் குறிப்பிட்ட சில நாட்களில் சுவாமி மீது சூரிய ஒளி விழுகிறது என்பது இத்தலத்தின் மற்றொரு சிறப்பம்சம்.
இக்கோவிலுக்கு வடக்கே சுமார் அரை கி.மி. தொலைவில் பல்லவ மன்னன் மகேந்திரவர்மன் காலத்திய குடைவரைக் கோவில் ஒன்றுள்ளது.
திருஞானசம்பந்தர் இயற்றியுள்ள இத்தலத்திற்கான பதிகம் முதலாம் திருமுறையில் இடம் பெற்றுள்ளது.