GPU 토폴로지
홈 화면 > 프로젝트 선택 > GPU > GPU 토폴로지
여러 GPU를 하나의 학습이나 추론 작업에 묶을 때, GPU 사이의 연결 경로는 작업 속도를 크게 좌우합니다. NVLink로 직접 이어진 GPU끼리는 빠르게 통신하지만, CPU 소켓을 건너는 PCIe 경로로 이어진 GPU끼리는 통신이 느려집니다. GPU 토폴로지는 서버 한 대의 GPU 간 연결을 판정 카드와 N×N 매트릭스로 보여 줍니다. 작업에 배정할 GPU 조합을 고르거나, 같은 기종인데 특정 서버만 느린 원인을 찾을 때 사용합니다.
지원 에이전트 버전
Linux 에이전트 2.9.25 이상에서만 지원합니다. Windows 서버와 버전 정보를 확인할 수 없는 서버는 서버 선택 목록에 나타나지 않습니다. 화면에 표시하는 데이터는 에이전트가 수집하는 server_gpu_topology 인벤토리 항목입니다. 수집 필드와 옵션은 서버 인벤토리 수집 항목을 참조하세요.
화면 구성
| Area | Description |
|---|---|
| 헤더 | 서버 선택, 지원 에이전트 정보, 에이전트 상태, 마지막 구성 변경 시각, 활용 가이드, 새로고침 |
| 판정 카드 | 연결 종류별 GPU 쌍 수. 카드를 클릭하면 해당 종류의 칸만 진하게 표시 |
| 매트릭스 | GPU 쌍마다 한 칸. 칸에 연결 경로 코드 표시 |
| 오른쪽 패널 | 선택한 연결, 읽는 법, GPU 목록 세 구역 |
헤더
- 서버 선택: 드롭다운에서 서버를 선택하세요. 목록은 「호스트명 (공인 IP)」 형식이며 둘째 줄에 사설 IP를 표시합니다. 호스트명, 공인 IP, 사설 IP 어느 것으로도 검색할 수 있습니다.
- 지원 에이전트 정보: 아이콘에 마우스를 올리면 지원 OS와 최소 버전을 확인할 수 있습니다.
- 마지막 구성 변경: GPU 연결 구성이 마지막으로 바뀐 시각입니다. 데이터를 수집한 시각이 아닙니다.
- 에이전트가 비활성 상태이면 헤더 아래에 노란 경고 띠로 마지막 수집 시점을 안내합니다. 이후의 구성 변경은 화면에 반영되지 않습니다.
- 활용 가이드 버튼을 클릭하면 GPU 배정, 학습 속도 비교, MIG 설정 확인 같은 상황별 활용 방법을 확인할 수 있습니다.
판정 카드
| Card | Description |
|---|---|
| 전체 | 전체 GPU 쌍. 보조 문구에 GPU 수와 MIG가 켜진 GPU 수 표시 |
| NVLink 연결 | NVLink로 직접 연결된 쌍 |
| PCIe 경유 | PCIe로 통신하는 쌍. 두 GPU 모두 MIG가 켜져 있으면 「PCIe 경유 (MIG 켜진 GPU끼리)」로 표시 |
| MIG 직접 통신 불가 | 한쪽 GPU만 MIG가 켜져 있는 쌍 |
| MIG 비대칭 | P2P를 지원하는 MIG 비대칭 쌍 |
| 확인 필요 | 두 방향 조회 결과가 다르지만 MIG 설정으로 설명되지 않는 쌍 |
카드를 클릭하면 해당 종류의 칸만 진하게 남고 나머지 칸은 흐려집니다. 같은 카드를 다시 클릭하면 전체로 돌아갑니다.
매트릭스
행과 열이 GPU 번호이고, 두 GPU가 만나는 칸에 연결 경로 코드를 표시합니다. 같은 GPU끼리 만나는 대각선 칸은 -로 표시합니다. MIG가 켜진 GPU는 머리글에 MIG 배지가 붙습니다.
| Code | Description |
|---|---|
NVn | NVLink로 직접 연결. n은 링크 수이며 클수록 빠름 |
PIX | PCIe 브릿지 하나를 거쳐 연결. PCIe 경로 중 가장 가까움 |
PXB | PCIe 브릿지 여러 개를 거쳐 연결 |
PHB | CPU의 PCIe 호스트 브리지를 거쳐 연결 |
NODE | 같은 NUMA 노드 안에서 호스트 브리지 사이를 거쳐 연결 |
SYS | CPU 소켓 사이를 건너 연결. 가장 느린 경로 |
PCIe 경로는 PIX에서 SYS 방향으로 갈수록 두 GPU가 물리적으로 멀고 통신이 느려집니다. 두 GPU 사이에 직접 통신(P2P)을 지원하지 않으면 칸 오른쪽 위에 P2P 불가 배지가 붙습니다.
칸을 클릭하면 오른쪽 선택한 연결 구역에 결과를 고정합니다. 같은 칸을 다시 클릭하거나 키보드의 Esc 키를 누르면 선택을 해제합니다. 매트릭스 안에서는 방향키로 칸을 옮길 수 있습니다.