응용 프로그램 관점에서 보는 I/O

평상시 사용하는 printf, System.out.println, Scanner 같은 간단한 API 호출이 실제로 운영체제와 하드웨어 사이에서 어떻게 동작하는지를 단계적으로 알아보자.

---

1. 사용자 공간 vs 커널 공간

1-1. 경계의 정의

현대 OS는 메모리를 사용자 공간과 커널 공간으로 분리한다. 커널 공간은 특권(privilege) 모드(Ring 0)에서 실행되며 하드웨어와 민감한 자료구조에 접근할 수 있다. 사용자 공간은 애플리케이션과 라이브러리가 실행되는 비특권 모드다. 이는 안정성, 보안의 핵심이 된다.

 

1-2. 왜 중요한가

사용자 코드가 하드웨어를 직접 조작하면 시스템 전체가 불안정해진다. 따라서 I/O 같은 특권 작업은 사용자 → 커널로 통제된 요청(시스템 콜) 형태로만 이루어진다. 이 전환은 컨텍스트/모드 스위치 비용을 발생시키므로 고성능 설계에서는 해당 오버헤드를 줄이는 것이 중요하다.

---

2. 통일된 추상화: Everything is a file

2-1. 파일 디스크립터와 VFS

UNIX 계열의 핵심 철학은 “모든 것은 파일”이라는 것이다. 디스크 파일, 소켓, 터미널, 파이프, 가상 파일시스템(/proc, /sys) 등 대부분의 자원이 파일 디스크립터(fd)로 표현된다. 프로그램은 fd라는 정수만 알면 어떤 자원에도 동일한 read/write API로 접근할 수 있다.

 

2-2. 표준 스트림(0,1,2)

프로세스는 시작 시 fd=0(stdin), fd=1(stdout), fd=2(stderr)를 가진다. 터미널에서 실행하면 0은 키보드, 1, 2는 화면으로 연결된다. Shell은 이 파일 디스크립터를 리다이렉션, 파이프 등으로 재설정할 수 있다.

---

3. 시스템 콜의 생명 주기(read/write/open)

3-1. 라이브러리 래퍼(Wrapper) → 트랩 → 커널 핸들러

애플리케이션은 보통 C 라이브러리의 래퍼 함수를 호출한다. 래퍼는 syscall 번호와 인자를 레지스터에 배치하고 syscall(또는 아키텍처별 트랩)을 실행한다. CPU는 사용자 모드에서 커널 모드로 전환되고 커널은 sys_call_table에서 대응하는 sys_read/sys_write를 호출한다. 작업이 끝나면 커널은 반환값을 레지스터에 넣고 다시 사용자 모드로 복귀시킨다.

3-2. open의 기능

open()은 파일을 식별 가능한 핸들로 연결해주는 시스템 콜이다. 성공하면 소수의 음이 아닌 정수(fd)를 반환한다. fd는 이후 read/write/close 등에서 해당 자원을 가리키는 키이다. 표준 입출력은 별도 open() 없이도 0, 1, 2로 접근 가능하다.

 

3-3. read/write의 동작

read(fd, buf, n)은 커널 공간의 자원에서 데이터를 읽어 사용자 공간 buf로 복사한다. write(fd, buf, n)은 사용자 공간 데이터를 커널 버퍼로 복사하고 이후 장치/파일 시스템으로 전달한다. 핵심은 버퍼 간의 안전한 복사(copy_to_user / copy_from_user)고, 이중 복사는 흔한 구조다(장치 → 커널 버퍼(DMA) → 사용자 버퍼).

---

4. 실제 데이터 흐름: Hello World와 키보드 입력 예시

4-1. Hello World 출력 흐름

1. 애플리케이션이 printf/System.out.println을 호출하면 라이브러리는 내부 버퍼에 문자열을 쓴다.
2. 출력 타이밍(개행, 버퍼가가득찬 경우 등)에서 라이브러리는 write(fd=1, ptr, len) 시스템 콜을 호출한다.
3. sys_write는 사용자 버퍼의 내용을 커널 버퍼로 안전하게 복사한다.
4. 터미널 드라이버/그래픽 서브시스템이 이를 디바이스에 전달해 화면에 렌더링한다.
5. 호출자는 쓰여진 바이트 수를 반환받는다. 

4-2. 키보드 입력 흐름

1. 애플리케이션이 read(fd=0, buf, n)을 호출하면 커널은 커널 내부 버퍼 상태를 확인한다.
2. 만약 커널 버퍼에 입력이 없다면 현재 실행 중인 쓰레드(task)를 해당 자원의 wait queue에 등록하고 잠들게(sleep)한다. 
3. 사용자가 키를 누르면 키보드 인터럽트가 발생해 입력이 커널 버퍼에 채워진다.
4. 커널은 wait queue에 등록된 해당 쓰레드를 깨운다(다시 실행).
5. 이후 커널이 copy_to_user()로 데이터를 사용자 버퍼로 복사하면 read() 호출이 반환된다.

---

5. (성능 관점) 복사 비용과 제로-카피(zero-copy) 옵션

5-1. 왜 두 번 복사되는가

장치가 직접 사용자 버퍼에 쓰도록 허용하면 보안, 동기화, 페이지 부재(page-fault) 문제를 일으킬 수 있다. 따라서 일반적인 I/O는 장치→커널(DMA) → 커널→사용자(copy_to_user) 식으로 최소 두 단계가 발생한다. 이중 복사가 성능 병목이 되므로 고성능 경로에서는 복사를 줄이는 기술이 요구된다.

 

5-2. 제로-카피(예: sendfile, mmap)

sendfile()은 커널 내부에서 "파일(디스크)에서 소켓으로 직접 전송"하는 경로를 제공해 사용자 공간으로 한 번 더 복사하는 단계를 제거한다. mmap()은 파일을 프로세스 주소 공간에 매핑해 파일 내용을 직접 메모리처럼 접근하게 하여 복사 비용을 낮춘다. 이러한 기법은 높은 처리량을 요구하는 네트워크 서버에서 중요하다.

---

6. I/O 모델 비교: 블로킹, 논블로킹, 멀티플렉싱

6-1. 블로킹 I/O

read()/write()가 데이터 준비 또는 공간 확보를 기다리는 동안 호출 스레드는 대기한다.

구현이 간단하지만 다수의 동시 연결을 처리할 때 스레드 수가 급격히 늘어나고 컨텍스트 전환 비용이 커진다.

 

6-2. 논블로킹 I/O

fd를 논블로킹 모드로 설정하면 read()는 준비되지 않았을 때 EAGAIN/EWOULDBLOCK을 반환한다.

애플리케이션이 폴링으로 준비 상태를 확인하면 쓰레드는 대기하지 않지만 반복 폴링은 CPU 낭비를 초래한다.

 

6-3. 멀티플렉싱(I/O 이벤트 모델)

select → poll → epoll로 발전해왔다.

• select는 비트마스크 방식으로 FD 수 제한과 O(n) 스캔 비용이 있다.
• poll은 구조체 배열로 FD 수 제한을 없앴지만 여전히 O(n)이다.
• epoll은 리눅스 전용으로 커널이 준비된 FD 목록을 유지해 준비된 것만 반환하므로 확장성이 우수하다(대규모 동시성 환경에서 중요). 이 모델은 단일 스레드로 수천 개의 연결을 효율적으로 처리할 수 있다.

---

7. 우리가 고려 할 수 있는 것

7-1. 시스템 콜 횟수를 줄이자

작은 조각을 자주 읽는 대신 버퍼를 크게 잡아 한 번에 처리하면 syscall 오버헤드를 줄일 수 있다. 라이브러리 수준의 버퍼링(예: stdio, BufferedInputStream)을 적절히 활용하자.

 

7-2. 문제가 네트워크인지 디스크인지 확인하자

I/O 병목 진단은 패킷 캡처, iostat, strace 같은 툴로 시스템 콜 빈도와 대기 시간을 확인할 수 있다. syscall 빈도, 블록 시간, 컨텍스트 스위치 비용을 함께 보면 원인을 빠르게 좁힐 수 있다.

 

7-3. 고성능 서버는 이벤트 기반을 기본으로 설계하자

네트워크 서버라면 epoll 또는 비동기 I/O(AIO), 또는 프레임워크(예: Netty)의 추상화를 고려하자. 또한 zero-copy 가능 경로(sendfile, splice, mmap)를 찾아 적절히 활용하자.

---

 

 

참고자료:

http://www.jidum.com/jidums/view.do?jidumId=470#:~:text=DMA%EC%9D%98%20%ED%8A%B9%EC%A7%95%20*%20%ED%94%84%EB%A1%9C%EA%B7%B8%EB%9E%A8%20%EC%88%98%ED%96%89%20%EC%A4%91%20%EC%9D%B8%ED%84%B0%EB%9F%BD%ED%8A%B8%EC%9D%98,%EC%9E%85%EC%B6%9C%EB%A0%A5%EC%9E%A5%EC%B9%98%EC%99%80%20%EC%A3%BC%20%EA%B8%B0%EC%96%B5%20%EC%9E%A5%EC%B9%98%EC%99%80%EC%9D%98%20%EB%8D%B0%EC%9D%B4%ED%84%B0%20%EC%A7%81%EC%A0%91%20%EC%A0%84%EC%86%A1

지식덤프

https://en.wikipedia.org/wiki/User_space_and_kernel_space#:~:text=A%20modern%20computer%20operating%20system,malicious%20or%20errant%20software%20behaviour.

User space and kernel space - Wikipedia

https://www.geeksforgeeks.org/operating-systems/introduction-of-system-call/

System Call - GeeksforGeeks

https://medium.com/@kaixin667689/zero-copy-principle-and-implementation-9a5220a62ffd

Zero-copy: Principle and Implementation

https://www.howtogeek.com/435903/what-are-stdin-stdout-and-stderr-on-linux/

What Are stdin, stdout, and stderr on Linux?