거북이의 쉼터

DC 네트워킹과 인터넷은 차이가 있다. density, bandwidth, connectivity의 복잡성은 인터넷보다 더한 것은 쉽게 예상할 수 있다. 시스템을 벗어나더라도 인근의 서버를 건들일 일이 빈번하다. 자기들간의 communication이 많다. 바로 옆의 서버와의 통신이 optimize되어야 한다. 서버 차원에서는 NIC 카드 많이 꽂고 선 많이 연결하면 되겠지만 이를 어떻게 cost effective하게 하는가가 문제일 것이다. 모든 도로를 8차선으로 뚫을 필요가 없듯이 어떻게 최적화하여 연결하는가 네트워킹 종류 CPU가 또다른 CPU를 GPU가 또다른 GPU를 CPU가 원격에 있는 SSD를 DMA를 가능하게 하는 가장 기본적인 기술 Memory Mapped IO Virtual - Phys..

다시 상기할 것들 : - JBOD (Just Bunch of Disks) : 세로로 꽂는 디스크들의 집합체 예시 Project Olympus - flash storage에서 케이블링을 통한 expansion (마치 한 보드 안에서 PCIe 케이블 상으로 연결된 것처럼 느끼게 함) JBOF (Just a bunch of flash disks) - Disaggregated Rack JBOD, JBOF 처럼 나머지 부품들을 나눠서 전체 서버를 구성 Software defined Hardware라고도 한다. 2U sled에 1 PetaByte 용량의 디스크 확보, 요즘은 단일 rack 하나로 20 PB 정도의 디스크 사용이 가능하다. rough comparison (DRAM : Flash : Disk) 비용은 ..

SRAM vs DRAM SRAM -> 지속적 전류 유지 DRAM -> 전류 leak으로 인해 수10ms 정도마다 값 유지를 위해 refresh 필요 DRAM에서 row를 통째로 읽어오는 이유? spatial locality로 인해 row memory는 SRAM이기 때문에 실질적으로는 모두 SRAM access이다. 왜 64pin을 안쓰고 8pin만 쓰는가? 쓰는 경우도 있다. GDDR -> 그래픽용 CPU 쪽을 생각해보면 이러한 칩이 굉장히 많이 붙는다. DRAM은 여러개인데 CPU가 1개이기 때문에 normal한 경우에는 CPU 핀 제한에 맞추기 위해 DRAM의 output 핀 수를 줄인다. -> 64 bit을 slicing 해서 보낸다. 8bit 씩 burst해서 보낸다. DQ에서 8번의 burst로..

다시 상기 Datacenter Metric : - Throughput - Tail Latency : 일정 이상만 빠르면 된다. 무조건 빠르기만 한것이 능사는 아님 - Total Cost of Ownership - Availability & reliability - Power Usage Efficiency -> TCO에 포함되어 있는데 왜 다시 강조하는가? 비용을 깎자 이상의 의미가 있다. 전기 자원은 끌어올 수 있는 절대양이 한정되어있기 때문이다. 돈이 많으면, 서버든 사람이든 바로 구할 수 있으나, DC에 들어가는 전기양은 돈을 낸다고 해서 바로바로 구할 수 있는 것이 아니다. -> 변전 설비 추가 구축 등 생각할 것이 많다. 저장 장치도 단기적으로는 HDD보다 비싸지만 전기 소모가 적은 SSD 같은 ..