Dojo của Tesla, một bản đồ thời gian

Elon Musk không muốn Tesla chỉ là một công ty sản xuất ô tô. Ông muốn Tesla trở thành một công ty trí tuệ nhân tạo, một công ty mà đã tìm ra cách để làm cho ô tô tự lái. Quan trọng đối với nhiệm vụ đó là Dojo, siêu máy tính tùy chỉnh của Tesla được thiết kế để huấn luyện các mạng nơ-ron Full Self-Driving (FSD) của mình. FSD thực ra không hoàn toàn tự lái; nó có thể thực hiện một số nhiệm vụ lái xe tự động, nhưng vẫn cần có một người luôn chú ý sau vô-lăng. Nhưng Tesla tin rằng với thêm dữ liệu, sức mạnh tính toán và đào tạo nhiều hơn, nó có thể vượt qua ngưỡng từ tự lái gần như đến tự lái hoàn toàn.

Và đó là lý do Dojo được ra đời.

Musk đã lần lượt nhá hàng về Dojo trong một thời gian dài, nhưng giám đốc điều hành đã tăng cường cuộc thảo luận về siêu máy tính này suốt năm 2024. Tầm quan trọng của Dojo đối với Tesla có thể là tồn tại - với doanh số bán xe điện giảm sút, các nhà đầu tư muốn có sự đảm bảo rằng Tesla có thể đạt được tính tự động. Dưới đây là bản đồ thời gian của những lời nhắc và cam kết về Dojo.

2019

Những lời nhắc đầu tiên về Dojo

Ngày 22 tháng 4 - Tại Ngày tự động hóa của Tesla, hãng sản xuất ô tô đã đưa đội AI của mình lên sân khấu để nói về Autopilot và Full Self-Driving, và AI điều khiển cả hai. Công ty chia sẻ thông tin về các vi mạch do Tesla tự thiết kế để dành riêng cho các mạng nơ-ron và các xe tự lái.

Trong sự kiện, Musk nhá hàng về Dojo, tiết lộ rằng đó là một siêu máy tính để huấn luyện AI. Ông cũng lưu ý rằng tất cả các mẫu ô tô Tesla đang được sản xuất vào thời điểm đó đều có tất cả phần cứng cần thiết cho việc tự lái hoàn toàn và chỉ cần một cập nhật phần mềm.

2020

Musk bắt đầu chương trình Dojo

Ngày 2 tháng 2 - Musk cho biết Tesla sẽ sớm có hơn một triệu xe kết nối trên toàn thế giới với cảm biến và tính toán cần thiết cho việc tự lái hoàn toàn — và công nhận khả năng của Dojo.

“Dojo, siêu máy tính huấn luyện của chúng tôi, sẽ có khả năng xử lý một lượng lớn dữ liệu huấn luyện video & hiệu quả chạy mảng không gian siêu với một lượng tham số lớn, đủ bộ nhớ & băng thông siêu cao giữa các nhân. Sẽ có thêm thông tin về điều này sau.”

Ngày 14 tháng 8 - Musk lặp lại kế hoạch của Tesla phát triển một máy tính huấn luyện mạng nơ-ron gọi là Dojo “để xử lý một lượng lớn dữ liệu video thực sự,” gọi nó là "một con quái vật." Ông cũng cho biết phiên bản đầu tiên của Dojo sẽ “cách đây khoảng một năm,” điều này sẽ đưa ngày ra mắt của nó vào khoảng tháng 8 năm 2021.

Ngày 31 tháng 12 — Elon nói rằng Dojo không cần thiết, nhưng nó sẽ làm cho tự lái tốt hơn. “Chưa đủ chỉ cần an toàn hơn tài xế con người, Autopilot cuối cùng cần phải an toàn hơn tài xế con người tối đa 10 lần.”

2021

Tesla công bố Dojo chính thức

Ngày 19 tháng 8 - Hãng sản xuất ô tô công bố chính thức Dojo tại Ngày AI đầu tiên của Tesla, một sự kiện nhằm thu hút kỹ sư vào đội AI của Tesla. Tesla cũng giới thiệu vi mạch D1 của mình, mà hãng xe cho biết sẽ sử dụng — cùng với GPU của Nvidia — để cung cấp năng lượng cho siêu máy tính Dojo. Tesla lưu ý cụm AI của họ sẽ chứa 3.000 vi mạch D1.

Ngày 12 tháng 10 - Tesla phát hành một tài liệu trắng về Công nghệ Dojo, “một hướng dẫn về các định dạng & phép tính điểm động của Tesla.” Tài liệu trắng này đề xuất một tiêu chuẩn kỹ thuật cho một loại phép tính điểm động nhị phân mới được sử dụng trong các mạng nơ-ron học sâu và có thể được triển khai “hoàn toàn trong phần mềm, hoàn toàn trong phần cứng hoặc trong bất kỳ sự kết hợp nào giữa phần mềm và phần cứng.”

2022

Tesla tiết lộ tiến triển của Dojo

Ngày 12 tháng 8 – Musk nói rằng Tesla sẽ “triển khai Dojo theo từng giai đoạn. Sẽ không cần mua nhiều vi xử lý đồ họa bổ sung trong năm sau.”

Ngày 30 tháng 9 – Tại Ngày AI thứ hai của Tesla, công ty công bố rằng họ đã lắp đặt tủ đầu tiên của Dojo, thử nghiệm phát 2.2 megawatts tải. Tesla nói rằng họ đang xây dựng một khối ngói mỗi ngày (bao gồm 25 vi mạch D1). Tesla trình diễn Dojo trên sân khấu chạy một mô hình Diffusion ổn định để tạo ra một hình ảnh được tạo ra bởi trí tuệ nhân tạo về một “Xe tải Cyber trên sao Hỏa.”

Quan trọng là công ty đặt một mục tiêu hoàn tất một cụm Exapod đầy đủ vào quý 1 năm 2023, và cho biết họ dự định xây dựng tổng cộng bảy Exapod tại Palo Alto.

2023

Một ‘cá cược khó’

Ngày 19 tháng 4 – Musk nói với các nhà đầu tư trong Báo cáo quý đầu năm đầu tiên của Tesla rằng Dojo “có khả năng cải thiện chi phí huấn luyện một cách vượt bậc,” và cũng “có khả năng trở thành một dịch vụ bán được mà chúng tôi sẽ cung cấp cho các công ty khác theo cách mà Amazon Web Services cung cấp dịch vụ web.”

Musk cũng lưu ý rằng ông “xem Dojo như một cá cược khó,” nhưng là “một cá cược đáng giá.”

Ngày 21 tháng 6 — Tài khoản Tesla AI X đăng rằng các mạng nơ-ron của công ty đã xuất hiện trên các xe khách hàng. Loạt bài đăng bao gồm một biểu đồ với một bản đồ thời gian về sức mạnh tính toán hiện tại và dự kiến của Tesla, đặt lịch trình sản xuất Dojo vào tháng 7 năm 2023, mặc dù không rõ liệu điều này ám chỉ đến các vi mạch D1 hay siêu máy tính chính. Musk nói cùng ngày đó rằng Dojo đã trực tuyến và đang chạy các nhiệm vụ tại trung tâm dữ liệu của Tesla.

Công ty cũng dự đoán rằng sức mạnh tính toán của Tesla sẽ ở trong top 5 trên thế giới vào khoảng tháng 2 năm 2024 (không có biểu hiện rằng điều này thành công) và rằng Tesla sẽ đạt 100 exaflops vào tháng 10 năm 2024.

Ngày 19 tháng 7 - Tesla ghi nhận trong báo cáo lợi nhuận quý 2 rằng họ đã bắt đầu sản xuất Dojo. Musk cũng cho biết Tesla dự định chi hơn 1 tỷ đô la vào Dojo thông qua năm 2024.

Ngày 6 tháng 9 – Musk đăng trên X rằng Tesla bị hạn chế bởi sức mạnh tính toán huấn luyện trí tuệ nhân tạo, nhưng Nvidia và Dojo sẽ khắc phục điều đó. Ông nói rằng việc quản lý dữ liệu từ khoảng 160 tỉ khung video mà Tesla nhận từ các xe của mình mỗi ngày là cực kỳ khó khăn.

2024

Kế hoạch mở rộng

Ngày 24 tháng 1 – Trong cuộc gọi lợi nhuận quý 4 và cả năm của Tesla, Musk lại một lần nữa thừa nhận rằng Dojo là một dự án cao rủi do cao lợi nhuận. Ông cũng nói rằng Tesla đang theo đuổi “con đường kép của Nvidia và Dojo,” rằng “Dojo đang hoạt động,” và đang “thực hiện các công việc huấn luyện.” Ông lưu ý rằng Tesla đang mở rộng nó và có “kế hoạch cho Dojo 1.5, Dojo 2, Dojo 3 và những thứ khác.”

Ngày 26 tháng 1 – Tesla thông báo kế hoạch chi 500 triệu đô la để xây dựng một siêu máy tính Dojo tại Buffalo. Musk sau đó giảm bớt đầu tư một chút, đăng trên X rằng trong khi 500 triệu đô la là một số lớn, nó “chỉ tương đương với một hệ thống 10k H100 từ Nvidia. Tesla sẽ chi nhiều hơn số đó vào phần cứng Nvidia trong năm nay. Mức cược cơ bản để cạnh tranh trong trí tuệ nhân tạo hiện tại ít nhất là vài tỷ đô la mỗi năm.”

Ngày 30 tháng 4 – Tại Hội nghị Công nghệ Bắc Mỹ của TSMC, công ty nói rằng của Dojo thế hệ tiếp theo — D2, đưa toàn bộ ô vuông Dojo vào một lớp silic nổi, thay vì kết nối 25 vi mạch để tạo thành một ô vuông — đã được sản xuất, theo IEEE Spectrum.

Ngày 20 tháng 5 - Musk lưu ý rằng phần sau của bổ sung nhà máy Giga Texas của Giga sẽ bao gồm việc xây dựng “một cụm siêu máy tính siêu mật độ, tản nước.”

Ngày 4 tháng 6 - Một bài báo của CNBC tiết lộ rằng Musk đã chuyển hướng hàng ngàn vi mạch Nvidia được dự trữ cho Tesla sang X và xAI. Sau khi ban đầu nói rằng bài báo đó là sai, Musk đăng trên X rằng Tesla không có địa điểm để gửi các vi mạch Nvidia để kích hoạt chúng, do việc xây dựng liên tục trên phần mở rộng phía nam của Giga Texas, “vì vậy chúng sẽ chỉ đứng trong kho.” Ông lưu ý rằng bổ sung đó sẽ “chứa 50k H100s cho việc huấn luyện FSD.”

Ông cũng đăng:

“Trong khoảng 10 tỷ đô la chi phí liên quan đến trí tuệ nhân tạo mà tôi nói Tesla sẽ chi trong năm nay, khoảng một nửa là nội bộ, chủ yếu là máy tính suy luận AI của Tesla thiết kế và cảm biến có sẵn trong tất cả các xe của chúng tôi, cộng với Dojo. Đối với việc xây dựng các siêu cụm huấn luyện AI, phần cứng NVidia chiếm khoảng 2/3 chi phí. Ước lượng tốt nhất của tôi hiện tại cho các mua sắm của NVidia bởi Tesla là từ 3 đến 4 tỷ đô la trong năm nay.”

Ngày 1 tháng 7 - Musk tiết lộ trên X rằng các xe hiện tại của Tesla có khả năng không có phần cứng phù hợp cho mô hình AI thế hệ tiếp theo của công ty. Ông nói rằng việc tăng khoảng 5 lần số tham số với AI thế hệ tiếp theo “rất