Nhu cầu xử lý dữ liệu khổng lồ của trí tuệ nhân tạo (AI) đang thúc đẩy sự phát triển vượt bậc của công nghệ phần cứng. Nắm bắt được xu hướng này, Broadcom, một trong những nhà sản xuất chip hàng đầu thế giới, đang tiên phong trong việc phát triển một giải pháp đột phá là kết nối quang học trực tiếp trên GPU. Công nghệ này hứa hẹn sẽ giải quyết “nút thắt cổ chai” về băng thông, mở ra một kỷ nguyên mới cho hiệu năng AI.
Theo thông tin từ hội nghị Hot Chips, Broadcom đang nghiên cứu tích hợp các thành phần kết nối quang học trực tiếp vào GPU, sử dụng công nghệ đóng gói quang học đồng bộ (CPO). “Động cơ quang học” mới này có khả năng cung cấp băng thông kết nối lên tới 1.6 TB/giây, gấp nhiều lần so với khả năng của các kết nối đồng truyền thống.
Với băng thông 1.6 TB/giây, tương đương 800 GB/giây theo mỗi chiều, công nghệ kết nối quang học của Broadcom vượt xa giới hạn của kết nối đồng truyền thống. Điều này cho phép GPU truy xuất và xử lý dữ liệu với tốc độ “ánh sáng”, giải phóng sức mạnh tiềm ẩn của AI.
Không chỉ mang lại tốc độ truyền dữ liệu vượt trội, công nghệ CPO còn giúp giảm thiểu đáng kể năng lượng tiêu thụ, một vấn đề nan giải với các hệ thống AI hiện nay. Broadcom đã đạt được điều này bằng cách sử dụng công nghệ đóng gói CoWoS của TSMC, cho phép đặt các bộ thu phát quang học trực tiếp lên GPU.
Manish Mehta, Phó chủ tịch bộ phận hệ thống quang học của Broadcom, cho biết công nghệ CPO có thể kết nối tới 512 GPU trên 8 rack, tạo thành một hệ thống tính toán thống nhất mạnh mẽ. Điều này cho thấy tiềm năng vượt trội của giải pháp này trong việc xử lý các tác vụ AI đòi hỏi băng thông và sức mạnh tính toán khổng lồ.
Mặc dù công nghệ này chưa được tích hợp vào các sản phẩm thương mại, nhưng những bước tiến mới nhất của Broadcom đã mở ra một hướng đi đầy hứa hẹn cho tương lai của kết nối dữ liệu trong lĩnh vực AI. Kết nối quang học trực tiếp trên GPU hứa hẹn sẽ tạo ra một cuộc cách mạng về hiệu năng, mở ra những khả năng mới cho việc ứng dụng AI trong nhiều lĩnh vực, từ xe tự lái đến y tế và khoa học.
Broadcom đang tiên phong trong việc định hình tương lai của AI, và công nghệ kết nối quang học trực tiếp trên GPU là minh chứng cho tầm nhìn và khả năng đổi mới của họ. Chúng ta hãy cùng chờ đợi những bước tiến tiếp theo của Broadcom và sự bùng nổ của AI trong tương lai gần!
