扫描电子显微镜由三大部分组成：真空系统，电子束系统以及成像系统。
一、真空系统
真空系统主要包括真空泵和真空柱两部分。真空柱是一个密封的柱形容器。
真空泵用来在真空柱内产生真空。有机械泵、油扩散泵以及涡轮分子泵三大类，机械泵加油扩散泵的组合可以满足配置钨枪的SEM的真空要求，但对于装置了场致发射枪或六硼化镧枪的SEM，则需要机械泵加涡轮分子泵的组合。
成像系统和电子束系统均内置在真空柱中。真空柱底端即为密封室，用于放置样品。
之所以要用真空，主要基于以下两点原因：
（1）电子束系统中的灯丝在普通大气中会迅速氧化而失效，所以除了在使用SEM时需要用真空以外，平时还需要以纯氮气或惰性气体充满整个真空柱。
（2）为了增大电子的平均自由程，从而使得用于成像的电子更多。
二、电子束系统
电子束系统由电子枪和电磁透镜两部分组成，主要用于产生一束能量分布极窄的、电子能量确定的电子束用以扫描成像。
1.电子枪
电子枪用于产生电子，主要有两大类，共三种。
一类是利用场致发射效应产生电子，称为场致发射电子枪。这种电子枪极其昂贵，在十万美元以上，且需要小于10-10torr的极高真空。但它具有至少1000小时以上的寿命，且不需要电磁透镜系统。
另一类则是利用热发射效应产生电子，有钨枪和六硼化镧枪两种。钨枪寿命在30～100小时之间，价格便宜，但成像不如其他两种明亮，常作为廉价或标准SEM配置。六硼化镧枪寿命介于场致发射电子枪与钨枪之间，为200～1000小时，价格约为钨枪的十倍，图像比钨枪明亮5～10倍，需要略高于钨枪的真空，一般在10-7torr以上；但比钨枪容易产生过度饱和和热激发问题。
2.电磁透镜
热发射电子需要电磁透镜来成束，所以在用热发射电子枪的SEM上，电磁透镜必不可少。通常会装配两组：
汇聚透镜：顾名思义，汇聚透镜用汇聚电子束，装配在真空柱中，位于电子枪之下。通常不止一个，并有一组汇聚光圈与之相配。但汇聚透镜仅仅用于汇聚电子束，与成像会焦无关。
物镜：物镜为真空柱中最下方的一个电磁透镜，它负责将电子束的焦点汇聚到样品表面。
三、成像系统
电子经过一系列电磁透镜成束后，打到样品上与样品相互作用，会产生二次电子、背散射电子、欧革电子以及X射线等一系列信号。所以需要不同的探测器譬如二次电子探测器、X射线能谱分析仪等来区分这些信号以获得所需要的信息。虽然X射线信号不能用于成像，但习惯上，仍然将X射线分析系统划分到成像系统中。
有些探测器造价昂贵，比如Robinsons式背散射电子探测器，这时，可以使用二次电子探测器代替，但需要设定一个偏压电场以筛除二次电子。