基因的分子基础是脱氧核糖核酸（DNA）。DNA由核苷酸相互连接而形成的链分子，其中的核苷酸有四类：腺苷酸（A）、胞嘧啶（C）、鸟苷酸（G）和胸腺嘧啶（T）。遗传信息就储存在这些核苷酸序列中，而基因则以连续的核苷酸序列存在于DNA链中。病毒是唯一的例外，有一些病毒利用核糖核酸（RNA）分子来代替DNA作为它们的遗传物质。
DNA通常以双链分子的形式存在，并卷曲形成双螺旋结构。DNA中的每一个核苷酸都有自己的配对核苷酸在相反链（对应另一条链）上，其配对规则为：A与T配对，C与G配对。因此，双链中的每一条链都包含了所有必要的遗传信息。这种DNA结构就是遗传的物理基础：DNA复制通过将互补配对的双链分开并利用每条链作为模板来合成新的互补链，从而达到复制遗传信息的目的。
不同基因沿着DNA链线性排列形成了染色体。在细菌中，每一个细胞都有一个单一的环状染色体；而真核生物（包括动物和植物）则具有多个线形染色体。这些染色体中的DNA链常常会非常长；例如，人类最长的染色体的长度大约为247百万个碱基对。染色体DNA上结合有能够组织和压缩DNA并控制DNA可接触性的结构蛋白，从而形成染色质；在真核生物中，染色质通常是以核小体为单位组成，每一个核小体由DNA环绕一个组蛋白核心而形成。一个生物体中的全套遗传物质（通常包括所有染色体中DNA的序列）被称为基因组。
仅含有一套染色体的生物被称为单倍体生物；大多数的动物和许多植物为双倍体生物，它们含有两套染色体（姐妹染色体），即含有每个基因的两个拷贝。一个基因的两个等位基因分别位于姐妹染色体上的等同的基因座，每一个等位基因遗传自不同亲本。
华尔瑟·弗莱明1882年的著作《细胞基质、细胞核以及细胞分裂》中描述真核细胞分裂的插图。染色体被复制、聚集和组织。随后，当细胞分裂开始时，复制后的染色体分别被分离进入两个子细胞中。性染色体是双倍体生物中染色体的一个例外，它是许多动物中的一种特异化的染色体，决定了一个生物体的性别。在人类和其他一些哺乳动物中，性染色体分为X和Y两类。Y染色体只含有很少量的基因，能够触发雄性特征的发育；而X染色体与其他染色体类似，也含有大量与性别决定无关的基因。雌性具有两个X染色体，而雄性具有一个Y染色体和一个X染色体。这种X染色体拷贝数的差别是性连锁的遗传病具有特殊遗传规律的原因。
