Kuruluşu kesin olarak bilinmemekte ancak 400-500 yıllık bir tarihi olduğu sanılmaktadır. .Ö. Anadolu’da kurulan medeniyetlerden Hitit Medeniyetinin merkezi olan Alacahöyük'e 15 km Hattuşaş'a ise 40 km mesafededir.
Köy Kadimoğlu, Deli Ali Efendi, Hacı Ali, Değirmencioğlu, Dervişoğlu, İmamgiller, İspirgiller, Zurnacıgiller, Dereli sülaleleri tarafından kurulmuştur. Bu sülalelerden Kadimoğlu, Deli Ali Efendi sülaleleri köyün yerlileri olup, Değirmencioğulları Sivas'tan, İspirgiller Erzurum'dan, İmamgiller Aydın'dan, Dervişoğulları Hacıbektaş’tan, Zurnacıgiller ise Çorum'dan gelmişlerdir. Büyük Mahal, Yozgat'a 20 kilometre mesafede, komşu köyleri Dememum, Dere Kışla, Aktaş, Sarımbeyli olan bir Alevi köyüdür. Osmanlı Mahkeme kayıtlarında 1800'lü yıllara ilişkin bilgiler bulunmaktadır.
Ancak köyde bulunan soyadlarından (Salman, Kayaslan, Altınok, Bektaş vb) faklı Türkmen boylarından oluştuğu kökenin Kızılkocaoğlu döneminden kalan Salmanlı aşiretine mensup üyeler olduğu tahmin edilebilir. Ancak 1800'lü yılların sonundaki Bektaşi etkisini unutmamak gerekir.
Köyün Değirmen ve Bağ olarak adlandırılan mevkilerinde, eski Rum yerleşim alanlarına dair kalıntılar bulunmaktadır.
Çerkez Ethem'in bastırdığı Çapanoğlu ayaklanması sırasında Çapanoğlu'nun köyü Arap Seyfi'ye gelinmeden çatışmalar bu köyün kuzey bölgesi içerisinde gerçekleşmiştir.
Köyün bir İlköğretim Okulu, Postahanesi, Camisi, Cem Evi, Köy odası ve sağlık ocağı bulunmaktadır. Bütün Anadolu köylerinde olduğu gibi köyün nüfusu Almanya, Belçika, Fransa gibi yabancı ülkelere, İstanbul, Ankara, Kayseri, Antalya başta olmak üzere diğer şehirlere göçmüştür.Alevi kültür gelenek ve görenekleri yaşanmaktadır.
Köyde belli başlı tarihi eser olmamasına karşılık; zaman içinde tahrip olmuş, Roma dönemine ait eserler ile Bağ olarak adlandırılan mevkide Rumlardan kaldığı sanılan bir mezarlık ve çanak kalıntıları bulunmaktadır. Güneydeki dere üzerinde eskiden kalma yedi su değirmeni kalıntıları ve köy içerisinde bulgur dövülmesi için soku taşlarını ve seten kalıntıları görmek mümkündür.
Tüm Anadolu köylerinde olduğu gibi yazılı gelenekler yerine sözlü gelenek Büyükmahal'da da hakimdir. Kişiler lakapları ile çağrılır, yakıştırmalar özgün kişiliklerle yapılır. Her yerin meşhur birşeyi olduğu gibi Büyükmahal'ın da çayı meşhur olduğu kabul edilir. İyi çay Çamcı denilen kaynak sudan yapılıp, Ortalık kaynak suyuna itibar edilmez.
Köyde Gobel(erkek çocuk), Ka(Ağa), Bıldır(Geçen Yıl), Go(Gök), Sındı(Makas), Urelüğün(Önceki Gün), Bibi(Hala), Kırmızı(Domates) gibi yerel sözcükler kullanılır. Öz Türkçe yapısına uygun olarak R, L vb. harflerle başlayan sözcükler başına sesli harf getirilerek değiştirilir.(Örneğin Rıza yerine Irıza, Rus Buğday yerine Urus Buğday, Limon yerine İlimon gbi).
Tekke adı verilen tepeye bir tür kutsallık atfedilmiştir. Kurbanlar orada kesilir, bayramlarda toplu olarak Tekke'ye çıkılır. Tekke'den ağaç kesilmesi günah olarak kabul edilip, ağaç kesenlerin başına gelen kötü hikâyeler anlatılır.
Köyde genel olarak Alevi kültürü hakimdir. Şamanizm inançları genel olarak yaşamaktadır. Nazar, ağaçlara çaput bağlama, canlıların kutsallığı, çocukların kötü ruhlardan etkilenmemeleri için değersiz gösterme duygusuyla konulan Satı, Satılmış, Garip benzeri isimler bunlardan bir kaçıdır. Çoğunlukla mevcut durumda konulan isimler gerçek konuluş amaçlarını yitirmiş çoğunlukla aile büyüklerinin adını yaşatma amacına kaymıştır.Yozgat merkezine 23 km uzaklıkta, Yozgat/Alaca yolu üzerindedir. İrili ufaklı tepeler genel arazi yapısını oluşturmaktadır.
Köyün iklimi, karasal iklimi etki alanı içerisindedir.
Köyün ekonomisi tarım ve hayvancılığa dayalıdır.
Köyün ilköğretim okulu, içme suyu şebekesi,kanalizasyonu, PTT acentesi, sağlık ocağı,Tarım Kredi Kooperatifi sadece ana yolu üzerinde asfaltı, elektriği, telefon hizmeti vardır. Kayda değer adli olay çıkmadığından Jandarma karakolu 1990 tarihinde kapatılmıştır.