AI Compute가 필요한 데이터를 필요한 순간에 전달합니다.

File Transfer

AI Compute가 필요한 데이터를 필요한 순간에 전달합니다.

AI Infrastructure에는 이미 각자의 역할을 수행하는 전문 시스템이 있습니다. Kubernetes와 GPU Scheduler는 Compute Resource와 Workload Placement를 관리하고, Kubeflow와 같은 ML Orchestrator는 Training, Evaluation의 실행 순서와 조건, Artifact 관계를 관리합니다. AI Data Delivery가 해결하려는 문제는 이러한 Orchestration을 다시 만드는 것이 아니라, Dataset, Model, Checkpoint와 Result를 구성하는 실제 파일을 Storage와 Compute 사이에서 필요한 시점에 이동시키는 것입니다.

File Transfer

Storage와 AI Compute 사이의 Data Path를 하나의 Transfer Layer로 연결합니다.

AI Compute가 준비되어 있다는 것과 그 Compute가 사용할 Dataset이 준비되어 있다는 것은 같은 문제가 아닙니다. Dataset은 Object Storage에 있지만 Training은 On-Prem GPU Cluster에서 실행될 수 있고, 기업 내부 Storage의 데이터를 Cloud GPU로 전달하거나 Cloud에서 생성된 결과를 Private Storage로 회수해야 할 수도 있습니다.

AI Infrastructure가 Multi-Cloud, On-Prem, Object Storage와 여러 Region으로 확장될수록 각 조합마다 Download, Temporary Staging과 Copy Script를 추가하면 Data Movement 방식도 함께 늘어납니다. INNORIX는 가능한 구간에서 Source와 Target을 직접 Transfer 관계로 구성하고 Control은 Platform에서 관리하면서, 현재 데이터가 있는 곳과 실제 Compute가 실행되는 곳 사이의 Data Path를 재사용 가능한 Transfer Layer로 운영합니다.

File Transfer

TB급 Dataset과 수많은 파일을 AI Data Path에서 함께 처리합니다.

AI Dataset의 Transfer Profile은 일정하지 않습니다. 하나의 거대한 Model이나 TB급 Dataset일 수도 있고, 수백만 개의 Image와 Sample로 구성될 수도 있으며, 대형 Video와 수많은 Metadata File이 함께 움직이거나 새로운 데이터가 지속적으로 추가될 수도 있습니다.

INNORIX는 AI만을 위한 별도의 Copy 방식을 만드는 대신 기존 High-Speed, Large File, High-Volume과 Automated Transfer Capability를 AI Infrastructure의 Data Path에 적용합니다. 따라서 하나의 Large Artifact부터 수많은 Small File, Mixed Dataset과 반복 생성되는 Checkpoint까지 데이터의 크기와 개수에 맞는 Transfer Capability를 같은 AI Data Delivery에서 사용할 수 있습니다.

File Transfer

기존 AI Orchestrator가 필요한 시점에 Data Delivery를 호출합니다.

AI Data Delivery는 새로운 AI Workflow Engine이 아닙니다. 기존 Orchestrator는 Pipeline Component, 실행 순서와 조건, Retry, Resource Request와 Artifact 관계를 계속 관리하고, INNORIX는 그 Workflow 안에서 필요한 Data Transfer를 실행하는 독립적인 단계로 연결됩니다.

Orchestrator가 Workload와 Target Compute를 결정한 뒤 API를 통해 Data Delivery를 요청하면 INNORIX는 Source와 Target 사이의 Transfer를 실행하고 Status와 Result를 반환합니다. 어떤 Job을 실행할지, Training을 언제 시작할지와 성공 이후 어떤 Component를 실행할지는 기존 Orchestrator가 결정하므로 이미 구축된 AI Pipeline을 다시 정의하지 않고 Data Path만 확장할 수 있습니다.

File Transfer

Compute가 동적으로 바뀌어도 결정된 Endpoint로 같은 Data Delivery를 적용합니다.

AI Compute는 고정된 Server 하나가 아니라 Workload에 따라 생성되거나 선택되는 Resource일 수 있습니다. 이 경우 Scheduler와 Orchestrator는 Compute Provisioning, Workload Placement와 실제 Target을 결정하고, INNORIX는 그 결정 이후 해당 Compute에 필요한 Dataset과 Model을 전달합니다.

이 구조에서 AI Data Delivery와 Dynamic Endpoint Transfer의 역할도 분명해집니다. AI Data Delivery는 어떤 Dataset, Model, Checkpoint, Result를 전달할 것인가에 집중하고, Dynamic Endpoint Transfer는 변화하는 Infrastructure에서 결정된 Endpoint를 실제 Transfer Target으로 연결하는 범위를 확장합니다. INNORIX가 Scheduling에 개입하는 것이 아니라 기존 Infrastructure의 결정을 Data Movement로 실행하는 관계입니다.

File Transfer

AI Infrastructure는 그대로 유지하고 Data Delivery를 하나의 운영 모델로 연결합니다.

AI Data Delivery의 범위는 Training 전 Dataset Copy 하나에 한정되지 않습니다. Object Storage, Data Center, Cloud와 Private Storage에 존재하는 데이터를 필요한 Compute로 전달하고, Training과 Inference에서 생성되는 Model, Checkpoint와 Result를 다시 다음 목적지로 연결하는 전체 Data Movement에 같은 Transfer Capability를 적용할 수 있습니다.

기존 AI Platform은 GPU Provisioning, Resource Scheduling, Training Job, Pipeline Dependency, Artifact Metadata와 Model Lifecycle을 계속 담당합니다. INNORIX는 그 사이에서 Large, High-Volume Transfer, Recovery, Result Collection과 Monitoring을 담당함으로써 AI Infrastructure의 역할을 바꾸지 않고 Storage ↔ Compute ↔ Storage 사이의 실제 Data Delivery만 하나의 방식으로 운영합니다.