从1946年世界上第一台计算机ENIAC的诞生，计算机网络的发展大体可分为以下4个阶段。
一、第一代计算机网络——面向终端的计算机网络
第一代计算机网络也称面向终端的计算机网络，它是以主机为中心的通信系统。这样的系统中，除一台中心计算机（主机）外，其余终端均不具备自主处理功能。面向终端的计算机网络在结构上有3种形式。
第一种结构是主机与终端直接相连，在这种结构中，主机负载较重，且一条通信线路只能与一个终端相连，通信线路的利用率较低。
第二种结构是终端共享通信线路。这种结构有效提高了通信线路的利用率，但当多个终端同时要求与主机通信时，主机无法确定与哪一个终端进行通信。为解决这一问题主机需要增加相应的设备和软件完成相应的通协议转换，但是这样会使得主机工作负荷加重。
为了减轻主机负荷，在主机前增加通信处理机（CCP）或前端机（FEP），在终端云集的地方增加集中器或多路器，这就是第三种结构。CCP或EFP专门负责通信控制，而主机专门进行数据处理。
二、第二代计算机网络——以通信子网为中心的计算机网络
为了克服第一代计算机网络的缺点，提高网络的可靠性和可用性，人们开始研究将多台计算机相互连接的方法。
早期的面向终端的计算机网络是以单个主机为中心的星型网，各终端通过电话网共享主机的硬件和软件资源。但分组交换网则以由接口信息处理机构成的通信子网为中心，主机和终端都处在网络的边缘，构成了用户资源子网。用户不仅可以共享通信子网的资源，还可以共享用户资源子网中丰富的硬件和软件资源。这种以通信子网为中心的计算机网络称为第二代计算机网络。
三、第三代计算机网络——标准化网络
在网络中，相互通信的计算机必须高度协调的工作，而这种协调是相当复杂的。为了降低网络设计的复杂性，有专家提出了分层的方法。分层设计方法可以将庞大而复杂的问题转化为若干较小且易处理的子问题。
国际标准化组织（ISO）于1997年设立了专门的机构研究解决不同公司之间的网络不能互连互通的问题，并与不久后提出了一个使各种计算机能够互连的标准框架——开放式系统互连参考模型，简称OSI参考模型。
OSI参考模型是一个开放体系结构，它将网络分为7层，并规定每层的功能。在开放式的环境下，所有计算机设备和通信设备只要遵循共同定制的国际标准，就可以实现不同产品在同一网络中的顺利通信。
四、第四代计算机网络——以Internet为中心的新一代网络
第四代计算机网络是从20世纪80年代末开始出现的。当时局域网技术已经逐步发展成熟，光纤、高速网络技术、多媒体技术、智能网络技术等相继出现，整个网络就像一个对用户透明的巨大的计算机系统，并逐步发展为以Internet为代表的互联网。20世纪90年代，微电子技术、大规模集成电路技术、光通信技术和计算机技术不断发展，为网络的发展提供了进一步有力的支持。
如今的计算机网络将无数个具有独立工作能力的计算机系统通过通信设备和线路相连，并由功能完善的网络软件实现资源共享和数据通信。随着人们对网络应用要求的日益提高，计算机网络正迅速朝着高速化、实时化、智能化、集成化和多媒体化的方向不断深入，它的快速发展和广泛应用对全球的经济、教育、科技、文化等的发展已经产生并且仍将发挥重要影响。