Distributed System toàn tập

Series bài viết trình bày chi tiết các thành phần trong Distributed System và cách triển khai:

Distributed System là gì?

Hệ thống phân tán (distributed system) là hệ thống phần mềm mà các thành phần cấu tạo nên nó nằm ở trên các máy tính khác nhau được kết nối thành mạng lưới (network). Các máy tính này phối hợp hoạt động với nhau để hoàn thành một nhiệm vụ chung bằng cách trao đổi qua lại các thông điệp (message).

Nói nôm na là hệ thống phân tán là việc hệ thống bạn có nhiều quá trình xử lý độc lập trên nhiều nhiều server vật lý khác nhau.

Với các hệ thống doanh nghiệp lớn (enterprise) đòi hỏi sự linh hoạt trong mở rộng bảo trì thì distributed system là một lựa chọn hoàn hảo nhờ các ưu điểm của nó.

Các tính chất chính để hình thành một hệ thống phân tán (distributed system) là:

  • Khả năng mở rộng(Scalability).
  • Độ tin cậy (Reliability).
  • Tính sẵn sàng (Availability).
  • Hiệu suất (Efficiency).
  • Tính mở rộng và khả năng bảo trì (Manageability).

Bạn có thể xem chi tiết về các tính chất chính của hệ thống phân tán (Distributed System) tại bài viết này:

Distributed System là gì?
Hệ thống phân tán (Distributed System) là gì? Vì sao các hệ thống của doanh nghiệp lớn lại sử dụng Distributed System?

Load Balancing là gì?

Load Balancing (cân bằng tải) là một thành phần cực kỳ quan trọng trong một distributed system. Nó giúp cho hệ thống có thể phân tải các request tới các Server khác nhau (Application hoặc Database), giúp cho hệ thống có tính sẵn sàng cao (high availability).

Load Balancing sẽ liên tục kiểm tra (health checks) tình trạng của các server trong hệ thống. Nếu trạng thái của server là khỏe mạnh (healthy) thì nó sẽ gửi request tới. Ngược lại, nếu trạng thái của server là không sẵn sàng (not available) hoặc không có response trả về (not healthy) thì Load Balancing sẽ không gửi request tới server đó nữa cho tới khi server đó hoạt động trở lại.

Các mô hình Load Balancing

Single Load Balancing

Chỉ sử dụng một Load Balancer để cân bằng tải, giúp tiết kiệm chi phí và nâng cao tính sẵn sàng của hệ thống. Tuy nhiên sẽ có nguy cơ dẫn tới tình trạng thắt cổ chai (bottleneck) ngay tại Load Balancer. Và nếu Load Balancer này gặp sự cố thì không thể truy cập hệ thống được.

Single Load Balancing

Load Balancing nhiều lớp

Để hệ thống có tính high availability, thì ta có thể áp dụng Load Balancing nhiều lớp (layer). Ví dụ: áp dụng Load Balancing cho Website, web API server, ... Tuy nhiên Load Balancing nhiều lớp vẫn có nguy cơ dẫn tới tình trạng thắt cổ chai (bottleneck) ngay tại Load Balancer. Và nếu Load Balancer này gặp sự cố thì không thể truy cập hệ thống được.

Load Balancing nhiều lớp

Active-Standby Load Balancing

Để khắc phục các nhược điểm ở hai mô hình trên tốt nhất nên có 2 Load Balancer kết hợp với nhau thành một cụm Load Balancing chạy dưới dạng active-standby. Điều này có nghĩa là luôn có một Load Balancer backup cho Load Balancer chính.

Active-Standby Load Balancing

Bạn có thể xem thêm về các lợi ích của Load Balancing, các giao thức mà Load Balancing hỗ trợ, Health Checks và các thuật toán Load Balancing tại bài viết:

Distributed System: Load balancing trong Distributed System
Load Balancing là gì? Load Balancing đóng vai trò như thế nào trong hệ thống phân tán (Distributed System).

Cache trong Distributed System

Load balancing giúp hệ thống mở rộng theo chiều ngang bằng cách ngày càng tăng số lượng các máy chủ, nhưng Caching lại là cách để sử dụng tài nguyên (resource) hiệu quả hơn từ đó resource cần cung cấp giảm đi, nhằm tiết kiệm resource và giảm chi phí của hệ thống.

Để làm được điều này, hệ thống sẽ cung cấp một vùng nhớ đệm (cache) để chứa những dữ liệu được request nhiều lần mà không thường xuyên thay đổi vào đó, từ đó hệ thống sẽ lấy dữ liệu từ bộ nhớ cache mà không truy cập vào bộ nhớ chính. Điều này giúp bộ nhớ chính sẽ được giảm tải đi từ đó năng lực của nó tăng lên.

Bộ nhớ cache được sử dụng rất rộng rãi trong mọi thành phần của hệ thống như trong phần cứng (hardware) như RAM/CPU Cache, hệ điều hành (operating systems), trình duyệt web (web browsers), web applications v.v… Bộ nhớ cache giống như một bộ nhớ ngắn hạn (short- term memory) nó có giới hạn về kích cỡ, nhưng thường nhanh hơn rất nhiều lần bộ nhớ chính

Về kiến trúc phần mềm thì Cache có thể tồn tại ở hầu hết các thành phần, nhưng chủ yếu nó tồn tại ở phần thao tác với dữ liệu như Database Layer, giúp trả về dữ liệu nhanh hơn mà không cần tốn chi phí để truy cập vào Database, hay ở phần Front-end để Cache những resource tĩnh như js, css, image file bằng cách dùng CDN.

Cache tầng Backend (Application Server Cache)

Ở tầng backend Cache được áp dụng như một bản sao hoặc một phần của DB/Storage, mỗi lần ứng dụng request dữ liệu từ DB/Storage nó sẽ tìm trong bộ nhớ Cache, nếu có ứng sẽ trả về dữ liệu tức thì mà không tốn tài nguyên để query xuống DB/Storage.

Tuy nhiên nó chỉ có tác dụng với những dữ liệu được truy cập nhiều lần nhưng ít được thay đổi, ví dụ thông tin cá nhân của người dùng (tên, quê quán/quốc tịch, ngày tháng năm sinh, địa chỉ, số điện thoại…).

Nếu ta có nhu cầu gia tăng khả năng chịu tải bộ nhớ Cache theo mô hình horizontal scaling, khi đó ta sẽ có thêm nhiều node và mỗi node sẽ chứa các dữ liệu của riêng nó. Tuy nhiên điều này sẽ dẫn đến số lượng “cache miss” tăng cao vì LB sẽ tùy chọn ngẫu nhiên 1 node mỗi request từ đó một request sẽ tới nhiều “cache node” khác nhau. Và để giải quyết điều này ta có hai sự lựa chọn là sử dụng duy nhất một nhớ Cache lớn, hoặc phân chia dữ liệu cache trên cụm server với Consistent Hashing

Cache tầng Frontend

CDN được sử dụng để caching những resource tĩnh trên các website như js, css, images… (static media) mạng lưới CDN sẽ được đặt ở nhiều vùng địa lý khác nhau và dựa theo địa chỉ của từng request mà các static media sẽ được trả về từ trên các máy chủ CDN ở gần nó nhất, nếu không có trên tất cả các máy chủ CDN thì nó sẽ lấy dữ liệu đó từ Back-end Server để trả về và đồng thời cached dữ liệu vừa lấy lên CDN. Nhờ vậy ta có thể tăng tốc khả năng chịu tải cũng như tốc độ của website.

Nếu hệ thống của bạn không đủ lớn để xây dựng một CDN riêng của mình thì bạn cũng có thể sử dụng các dịch vụ CDN sẵn có như như ‎Cloudflare, ‎BootstrapCDN hay ‎Amazon CloudFront v.v…

Bạn có thể xem thêm về cách cập nhật dữ liệu và xóa dữ liệu trong Cache tại bài viết sau:

Distributed System: Cache trong Distributed System
Caching là cách giúp sử dụng tài nguyên hiệu quả hơn từ đó giảm chi phí của hệ thống phân tán (Distributed System).
Software ArchitectureDistributed System
Bài Viết Liên Quan:
Distributed System: Cơ sở dữ liệu phân tán trong Distributed System
Trung Nguyen 20/11/2020
Distributed System: Cơ sở dữ liệu phân tán trong Distributed System

Sharding là một giải pháp chia nhỏ một database lớn thành nhiều database nhỏ đặt ở nhiều server khác nhau.

Distributed System: Cache trong Distributed System
Trung Nguyen 18/11/2020
Distributed System: Cache trong Distributed System

Caching là cách giúp sử dụng tài nguyên hiệu quả hơn từ đó giảm chi phí của hệ thống phân tán (Distributed System).

Distributed System: Load balancing trong Distributed System
Trung Nguyen 17/11/2020
Distributed System: Load balancing trong Distributed System

Load Balancing là gì? Load Balancing đóng vai trò như thế nào trong hệ thống phân tán (Distributed System).

Distributed System là gì?
Trung Nguyen 17/11/2020
Distributed System là gì?

Hệ thống phân tán (Distributed System) là gì? Vì sao các hệ thống của doanh nghiệp lớn lại sử dụng Distributed System?