服务（service）这个极普通的术语在计算机网络中无疑是一个极重要的概念。在网络体系结构中，服务就是网络中各层向其相邻上层提供的一组操作，是相邻两层之间的界面。由于网络分层结构中的单向依赖关系，使得网络中相邻层之间的界面也是单向性的：下层是服务提供者，上层是服务用户。而服务的表现形式是原语（primitive），比如库函数或系统调用。为了更好地讨论网络服务，我们先解释几个术语。在网络中，每一层中至少有一个实体（entity）。实体既可是软件实体（比如一个进程），也可以是硬件实体（比如一块网卡）。在不同机器上同一层内的实体叫做对等实体（peerentity）。n层实体实现的服务为n+ 1层所利用，而n层则要利用n-1层所提供的服务。n层实体可能向n+1层提供几类服务，如快速而昂贵的通信或慢速而便宜的通信。n+1层实体是通过n层的服务访问点（service access point，sap）来使用n层所提供的服务。n层sap就是n+ 1层可以访问n层服务的地方。每一个sap都有一个唯一地址。为了使读者更清楚，我们可以把电话系统中的sap看成标准电话插孔，而sap地址是这些插孔的电话号码。要想和他人通话，必须知道他的sap地址（电话号码）。在伯克利版本的unix系统中，sap是“socket”，sap地址是socket号。邻层间通过接口要交换信息。n+1层实体通过sap把一个接口数据单元（interface data unit，idu）传递给n层实体。idu由服务数据单元（service data unit，sdu）和一些控制信息组成。为了传送s d u，n层实体可以将sdu分成几段，每一段加上一个报头后作为独立的协议数据单元（protocol data unit，pdu）送出，如“分组”就是pdu。pdu报头被同层实体用来执行它们的同层协议，用于辨别哪些pdu包含数据，哪些包含控制信息，并提供序号和计数值等。
在网络中，下层向上层提供的服务分为两大类：面向连接服务（connection-oriented service）和无连接服务（connectionless service）。面向连接服务是电话系统服务模式的抽象。每一次完整的数据传输都必须经过建立连接、数据传输和终止连接三个过程。在数据传输过程中，各数据包地址不需要携带目的地址，而是使用连接号。连接本质上类似于一个管道，发送者在管道的一端放入数据，接收者在另一端取出数据。其特点是接收到的数据与发送方发出的数据在内容和顺序上是一致的。无连接服务是邮政系统服务模式的抽象。其中每个报文带有完整的目的地址，每个报文在系统中独立传送。无连接服务不能保证报文到达的先后顺序，原因是不同的报文可能经不同的路径去往目的地，所以先发送的报文不一定先到。无连接服务一般也不对出错报文进行恢复和重传。换句话说，无连接服务不保证报文传输的可靠性。在计算机网络中，可靠性一般通过确认和重传（acknowledgement and retransmission）机制实现。大多数面向连接服务都支持确认重传机制，但确认和重传将带来额外的延迟。有些对可靠性要求不高的面向连接服务（如数字电话网）不支持重传；因为电话用户宁可听到带有杂音的通话，也不喜欢等待确认所造成的延迟。大多数无连接服务不支持确认重传机制，所以无连接传输服务往往可靠性不高。