GPU 토폴로지
홈 화면 > 프로젝트 선택 > GPU > GPU 토폴로지
여러 GPU를 하나의 학습이나 추론 작업에 묶을 때, GPU 사이의 연결 경로는 작업 속도를 크게 좌우합니다. NVLink로 직접 이어진 GPU끼리는 빠르게 통신하지만, CPU 소켓을 건너는 PCIe 경로로 이어진 GPU끼리는 통신이 느려집니다. GPU 토폴로지는 서버 한 대의 GPU 간 연결을 판정 카드와 N×N 매트릭스로 보여 줍니다. 작업에 배정할 GPU 조합을 고르거나, 같은 기종인데 특정 서버만 느린 원인을 찾을 때 사용합니다. GPU 서버를 운영하며 GPU 배치와 연결 상태를 점검해야 하는 운영자를 대상으로 합니다.
지원 에이전트 버전
Linux 에이전트 2.9.25 이상에서만 지원합니다. Windows 서버와 버전 정보를 확인할 수 없는 서버는 서버 선택 목록에 나타나지 않습니다. 화면에 표시하는 데이터는 에이전트가 수집하는 server_gpu_topology 인벤토리 항목입니다. 수집 필드와 옵션은 서버 인벤토리 수집 항목을 참조하세요.
화면 구성
| Area | Description |
|---|---|
| 헤더 | 서버 선택, 지원 에이전트 정보, 에이전트 상태, 마지막 구성 변경 시각, 활용 가이드, 새로고침 |
| 판정 카드 | 연결 종류별 GPU 쌍 수. 카드를 클릭하면 해당 종류의 칸만 진하게 표시 |
| 매트릭스 | GPU 쌍마다 한 칸. 칸에 연결 경로 코드 표시 |
| 오른쪽 패널 | 선택한 연결, 읽는 법, GPU 목록 세 구역 |
헤더
- 서버 선택: 드롭다운에서 서버를 선택하세요. 목록은 「호스트명 (공인 IP)」 형식이며 둘째 줄에 사설 IP를 표시합니다. 호스트명, 공인 IP, 사설 IP 어느 것으로도 검색할 수 있습니다.
- 지원 에이전트 정보: 아이콘에 마우스를 올리면 지원 OS와 최소 버전을 확인할 수 있습니다.
- 마지막 구성 변경: GPU 연결 구성이 마지막으로 바뀐 시각입니다. 데이터를 수집한 시각이 아닙니다.
- 에이전트가 비활성 상태이면 헤더 아래에 노란 경고 띠로 마지막 수집 시점을 안내합니다. 이후의 구성 변경은 화면에 반영되지 않습니다.
- 활용 가이드 버튼을 클릭하면 GPU 배정, 학습 속도 비교, MIG 설정 확인 같은 상황별 활용 방법을 확인할 수 있습니다.
판정 카드
| Card | Description |
|---|---|
| 전체 | 전체 GPU 쌍. 보조 문구에 GPU 수와 MIG가 켜진 GPU 수 표시 |
| NVLink 연결 | NVLink로 직접 연결된 쌍 |
| PCIe 경유 | PCIe로 통신하는 쌍. 두 GPU 모두 MIG가 켜져 있으면 「PCIe 경유 (MIG 켜진 GPU끼리)」로 표시 |
| MIG 직접 통신 불가 | 한쪽 GPU만 MIG가 켜져 있는 쌍 |
| MIG 비대칭 | P2P를 지원하는 MIG 비대칭 쌍 |
| 확인 필요 | 두 방향 조회 결과가 다르지만 MIG 설정으로 설명되지 않는 쌍 |
카드를 클릭하면 해당 종류의 칸만 진하게 남고 나머지 칸은 흐려집니다. 같은 카드를 다시 클릭하면 전체로 돌아갑니다.
매트릭스
행과 열이 GPU 번호이고, 두 GPU가 만나는 칸에 연결 경로 코드를 표시합니다. 같은 GPU끼리 만나는 대각선 칸은 -로 표시합니다. MIG가 켜진 GPU는 머리글에 MIG 배지가 붙습니다.
| Code | Description |
|---|---|
NVn | NVLink로 직접 연결. n은 링크 수이며 클수록 빠름 |
PIX | PCIe 브릿지 하나를 거쳐 연결. PCIe 경로 중 가장 가까움 |
PXB | PCIe 브릿지 여러 개를 거쳐 연결 |
PHB | CPU의 PCIe 호스트 브리지를 거쳐 연결 |
NODE | 같은 NUMA 노드 안에서 호스트 브리지 사이를 거쳐 연결 |
SYS | CPU 소켓 사이를 건너 연결. 가장 느린 경로 |
PCIe 경로는 PIX에서 SYS 방향으로 갈수록 두 GPU가 물리적으로 멀고 통신이 느려집니다. 두 GPU 사이에 직접 통신(P2P)을 지원하지 않으면 칸 오른쪽 위에 P2P 불가 배지가 붙습니다.
칸을 클릭하면 오른쪽 선택한 연결 구역에 결과를 고정합니다. 같은 칸을 다시 클릭하거나 키보드의 Esc 키를 누르면 선택을 해제합니다. 매트릭스 안에서는 방향키로 칸을 옮길 수 있습니다.
오른쪽 패널
- 선택한 연결: 선택한 두 GPU의 판정과 설명, 두 GPU를 한 작업에 함께 쓸 때의 활용 방법을 표시합니다. 세부 값으로 연결 경로, 연결 방식(NVSwitch·NVLink·PCIe), NVLink 수, P2P 지원 여부, BDF(PCI 주소)를 확인할 수 있습니다.
- 읽는 법: 칸 색과 코드의 뜻을 안내합니다. 현재 서버에 없는 항목은 흐리게 표시합니다. 제목을 클릭하면 접거나 펼칠 수 있으며, 접은 상태는 브라우저에 기억합니다.
- GPU 목록: GPU별 번호와 NVLink 연결 수를 표시합니다. MIG가 켜진 GPU는 NVLink 연결 칸에 「MIG로 사용 안 함」을 표시합니다.
판정 해석하기
확인 필요는 설정 점검이 필요합니다
두 방향 조회 결과가 다르지만 MIG 설정으로 설명되지 않으면 확인 필요로 표시합니다. 서버의 ACS, IOMMU, GPU 드라이버 설정을 확인하세요. 같은 기종의 다른 서버와 매트릭스를 비교하면 NVLink여야 할 쌍이 PCIe로 보이는지 확인할 수 있습니다.
화면에 데이터가 없는 경우
| Message | Cause |
|---|---|
| 토폴로지를 수집하는 서버가 없습니다 | GPU 서버가 모두 Windows이거나 에이전트 버전이 2.9.25 미만 |
| 지원하지 않는 OS입니다 | URL로 지정한 서버가 Linux가 아님 |
| 지원하지 않는 에이전트 버전입니다 | URL로 지정한 서버의 에이전트가 2.9.25 미만. 에이전트 업데이트 필요 |
| 아직 수집된 토폴로지가 없습니다 | 에이전트가 처음 수집하기 전. 최초 수집까지 최대 1시간 소요 |
GPU가 한 장인 서버는 비교할 GPU 쌍이 없어 매트릭스가 비어 있습니다. 프로젝트에 GPU 서버가 하나도 없으면 GPU 모니터링 기능 활성화 안내를 표시합니다. 자세한 설정 방법은 GPU 기능 설정을 참조하세요.