Theo Google, TPU 8t là “siêu chip huấn luyện mạnh mẽ”, được thiết kế đặc biệt cho việc xử lý khối lượng công việc AI thông lượng cao. Hiệu năng tính toán cũng cao hơn gần ba lần so với các thế hệ trước.
Cụ thể, TPU 8t tích hợp 9.600 chip trong một siêu cụm duy nhất, cung cấp khả năng tính toán 121 exaflop (một tỷ tỷ phép tính dấu phẩy động mỗi giây, là ngưỡng sức mạnh điện toán cao nhất hiện nay) và hai petabyte bộ nhớ dùng chung liên kết với nhau thông qua kết nối liên chip tốc độ cao (ICI). Băng thông ICI được tăng gấp đôi giúp đảm bảo ngay cả những mô hình phức tạp nhất cũng đạt được khả năng mở rộng gần như tuyến tính và tối đa hóa hiệu suất hệ thống.
💥 ĐỌC RỒI, XEM RỒI > chán mắt quá rồi , tìm hiểu ngay đây >> Video chủ đề AI với các đề tài nóng nhất cùng Công nghệ AI đỉnh cao << tại đây nhé !
“Giờ đây, chúng tôi có thể rút ngắn thời gian huấn luyện từ nhiều tháng xuống còn vài tuần với sức mạnh của hơn một triệu chip TPU trong một cụm máy chủ duy nhất, được điều phối bởi Pathways và JAX”, đại diện Google cho biết.
Hai mẫu chip TPU 8t (trái) và TPU 8i. Ảnh: Google
Trong khi đó, TPU 8i là hệ thống suy luận đột phá của Google dành cho suy luận và học tăng cường (RL). Chip mang lại độ trễ cực thấp cho quy trình làm việc dựa trên tác nhân AI và Mô hình hỗn hợp chuyên gia (MoE). Bằng cách tăng gấp ba bộ nhớ SRAM trên chip lên 384 MB và tăng bộ nhớ băng thông cao (HBM) lên 288 GB, chip được đánh giá phá vỡ rào cản bộ nhớ, lưu trữ bộ nhớ đệm hoàn toàn trên chip.
TPU 8i cũng được Google tăng gấp đôi băng thông ICI lên 19,2 Tb/giây, giảm đường kính mạng ICI hơn 50%. Công ty cũng giới thiệu công cụ tăng tốc mới có tên Collectives Acceleration Engine (CAE) giúp giảm độ trễ trên chip đến 5 lần, giảm thiểu độ trễ trong nhiều tác vụ được vận hành đồng thời. Với thiết kế này, TPU 8i mang lại hiệu suất trên mỗi USD tốt hơn 80% so với thế hệ trước cho suy luận, cho phép trải nghiệm người dùng nhanh chóng, tương tác và tiết kiệm chi phí.
Google cho biết hai chip TPU mới dự kiến sớm được tích hợp vào các hệ thống trung tâm dữ liệu Google Cloud. Tuy nhiên, công ty chưa đưa ra lộ trình chi tiết.
Theo TechCrunch, với loạt thông số ấn tượng, hai mẫu chip mới có thể là mối đe dọa đối với Nvidia ở lĩnh vực chip huấn luyện các mô hình AI. Tuy nhiên, trang này cũng cho rằng nhiều khả năng Google sẽ không tấn công trực diện vào công ty của Jensen Huang, hoặc ít nhất là chưa, nhất là khi cả hai đang có mối quan hệ đối tác.
Giống như Microsoft hay Amazon, Google hiện sử dụng chip tự phát triển để bổ sung sức mạnh tính toán cho các hệ thống dựa trên Nvidia đang có trong cơ sở hạ tầng của mình, thay vì cố gắng thay thế hoàn toàn. Cuối năm ngoái, CEO Google Sundar Pichai hứa hẹn dịch vụ đám mây của hãng sẽ có chip Vera Rubin mới nhất của Nvidia. Điều này đã trở thành hiện thực, khi trong công bố ngày 23/4, công ty cũng trình làng máy chủ vật lý A5X được trang bị chip Vera Rubin NVL72.
Ngoài hai TPU mới, Google cũng giới thiệu một loạt sản phẩm khác. Trong đó, công ty ra máy ảo Axion N4A được trang bị CPU Axion dựa trên kiến trúc Arm tự phát triển; máy ảo Google Compute Engine thế hệ thứ 4 được trang bị CPU Intel và AMD dựa trên kiến trúc x86; nền tảng trung tâm dữ liệu dành cho các tác vụ AI Virgo Network; máy ảo Z4M với bộ nhớ SSD cục bộ dung lượng cao và RDMA cho hệ thống tệp song song mở; hay Google Kubernetes Engine (GKE) – dành cho việc điều phối khối lượng công việc dựa trên tác nhân.
Bảo Lâmtổng hợp
- Người Việt có thể kết nối dữ liệu Gmail, YouTube để cá nhân hóa Gemini
- Google cho dịch cuộc nói chuyện trực tiếp bằng iPhone
- Google công bố thuật toán nén ‘siêu hiệu quả’ cho AI
Google ra hai chip AI mới cạnh tranh với Nvidia Đón đọc những tin tức mới nhất về trí tuệ nhân tạo: Cập nhật các đột phá công nghệ, ứng dụng thực tiễn, và tác động sâu rộng của AI đến các ngành công nghiệp và đời sống.
Tin mới nhất hiện nay AI: Đột Phá Công Nghệ và Định hướng tương lai
Trí thông minh nhân tạo đang chiếm lĩnh trong các xu hướng công nghệ hiện nay, với những bước nhảy vọt và khả năng ứng dụng rộng rãi. Tin mới nhất về AI luôn gây chú ý của cộng đồng công nghệ và các công ty. Google ra hai chip AI mới cạnh tranh với Nvidia Các phát minh mới nhất trong ngành AI bao gồm những đột phá đáng kể trong học máy, xử lý ngôn ngữ tự nhiên, và thị giác nhân tạo. Các công ty công nghệ lớn như Google Inc., Microsoft Corporation, và IBM đang rót vốn lớn vào R&D AI, mang lại những sản phẩm và dịch vụ đột phá như trợ lý kỹ thuật số, công nghệ tự động và phân tích thông minh.
Như bạn đang đọc Google ra hai chip AI mới cạnh tranh với Nvidia!
[nguồn: VNEXPRESS] Hân hoan bạn đến với Google ra hai chip AI mới cạnh tranh với Nvidia Thông Tin Mới Tổng Hợp Khoa Học và Công Nghệ AI Tương Lai, môi trường chúng tôi khám phá và phổ biến những thị trường mới và đột phá tiến bộ trong ngành AI. Với tiến bộ rất nhanh của khoa học và công nghệ, Trí Tuệ Nhân Tạo đang trở thành một yếu tố mạnh mẽ định hình tương lai. tác phẩm Google ra hai chip AI mới cạnh tranh với Nvidia Bản quyền báo điện tử vnexpress theo giấy phép chia sẻ phi lợi nhuận số (003-2024/Vnexpress-net) – Tuân thủ Giấy phép Creative Commons (CC = BY-SA-NC)
– Chuyên trang tin tức Tin mới công nghệ AI phân phối tin nhanh công nghệ / kỹ thuật tương lai – bài viết này có quyền tác giả GHI tại đầu hoặc/và cuối chân mỗi trang/bài viết – phi lợi nhuận và không chịu bất cứ trách nhiệm nào với nội dung đang phân phối – có ghi nguồn.
Có thể bạn chưa biết ! Chuyên cung cấp thiết bị, phụ kiện cân điện tử chuyên dụng cân điện tử chính xác nhà cung cấp cân điện tử uy tín và giá tốt nhất tại thành phố Hồ Chí Minh. Với nhiều năm trong nghề và đội ngủ sửa chữa cân, kinh doanh năng động.
Chào đón bạn đến với thế giới của cân điện tử tiên tiến, được cung cấp bởi CTY Hoa Sen Vàng! Đội ngũ chúng tôi tự hào giới thiệu những thông tin mới nhất về công nghệ cân điện tử Bình Thạnh, mang lại những giải pháp hiệu quả và đáng tin cậy cho nhu cầu đo lường và kiểm tra trong môi trường sản xuất.
Điều này áp dụng cho cân điện tử đã đánh bại được sự tiến bộ đáng kể, và chúng tôi, Công ty cân Hoa Sen Vàng tại Tp.HCM, cam kết cung cấp cho khách hàng những thiết bị và dịch vụ hàng đầu đối với lĩnh vực này. Nhờ sự hòa trộn của các công nghệ tiên tiến, các sản phẩm của chúng tôi không chỉ đảm bảo sự chính xác cao mà còn tối ưu hóa tính hiệu quả và tiện ích sử dụng.
* Quảng cáo chất lượng cao !
