本校は国立高専第１期校として、機械工学科、電気工学科（現電子メディア工学科）、 土木工学科（現環境都市工学科）の３学科をもって、昭和３７年４月に発足しました。 その後、昭和４１年４月に工業化学科（現物質工学科）が増設され、 昭和６２年４月に電子情報工学科が増設され、現在の５学科体制が確立しました。 また、平成７年４月には専攻科が設置されました。
群馬高専発足時以来、クラスは学科別編成でしたが、 平成１８年度入学生からは混合学級が導入され、 現在は１〜２年次は混合学級制で運用されています。
