Lợi tức đầu tư (ROI) của AI có thể rất lớn tại chỗ

Theo McKinsey, AI đang ngày càng trở nên phổ biến với 78% tổ chức sử dụng AI trong ít nhất một chức năng kinh doanh, trong đó 92% có kế hoạch đầu tư nhiều hơn vào AI trong ba năm tới.

Với sự áp dụng rộng rãi như vậy, CNTT có nhiệm vụ phải đánh giá giá trị của việc triển khai AI, thường được thể hiện bằng một số liệu quan trọng được gọi là lợi tức đầu tư (ROI).

Việc tính toán ROI thực sự đã được chứng minh là một quá trình khó nắm bắt, thậm chí không đồng đều, như các báo cáo đã chứng minh . Điều này không có gì đáng ngạc nhiên; việc mở rộng quy mô AI thường chậm, phức tạp và tốn kém.

Để khai thác tối đa tiềm năng của AI, các tổ chức phải cân bằng đầu tư giữa con người, quy trình và công nghệ. Những tổ chức thành thạo việc cân bằng này có thể đạt được năng suất cao hơn, thời gian tạo giá trị nhanh hơn và hiệu quả hoạt động tốt hơn, đồng thời giảm thiểu rủi ro bảo mật.

ROI tại chỗ có khả năng thay đổi cuộc chơi

Nghiên cứu mới cho thấy một phương pháp triển khai AI có thể mang lại tỷ suất hoàn vốn (ROI) ấn tượng lên đến 1.225% và hàng triệu đô la tiết kiệm cùng lợi ích trong bốn năm. Phương pháp đó là gì? Triển khai tại chỗ với cơ sở hạ tầng hàng đầu, khả năng tính toán nhanh chóng và dịch vụ chuyên nghiệp từ các nhà cung cấp AI uy tín như Dell và NVIDIA.

Chúng ta hãy cùng đi sâu vào chi tiết.

Enterprise Strategy Group (ESG) đã tiến hành phân tích kinh tế định lượng theo yêu cầu của Dell để ước tính ROI tiềm năng mà các doanh nghiệp vừa và lớn hoặc các tổ chức khu vực công có thể đạt được bằng cách triển khai Dell AI Factory với NVIDIA để mở rộng khối lượng công việc AI tạo ra trong sản xuất.

Dell AI Factory hợp tác với NVIDIA kết hợp cơ sở hạ tầng AI được tối ưu hóa của Dell với phần mềm và công nghệ tăng tốc của NVIDIA để đơn giản hóa việc triển khai và quản lý AI. Nhà máy được xây dựng để giải quyết những thách thức của khách hàng liên quan đến chi phí cao, quản lý dữ liệu phức tạp và rủi ro bảo mật liên quan đến việc triển khai AI doanh nghiệp vào sản xuất.

Kịch bản này ước tính rằng một tổ chức chi 1,96 triệu đô la để triển khai Dell AI Factory với NVIDIA có thể tiết kiệm chi phí và hưởng lợi tổng cộng 25,9 triệu đô la trong bốn năm, mang lại lợi ích ròng là 23,9 triệu đô la và ROI là 1.225%.

Kiểm tra kết quả:

Mô hình này cũng phát hiện ra rằng khách hàng có thể thu hồi vốn đầu tư vào Dell AI Factory với NVIDIA trong năm đầu tiên . Điều này khó có thể vượt qua trong bất kỳ triển khai nào.

Việc triển khai mô hình hóa suy luận mô hình ngôn ngữ lớn (LLM) với thế hệ tăng cường truy xuất (RAG), giả định 10.000 người dùng, mỗi người chạy 50 truy vấn mỗi ngày với 3.000 mã thông báo cho mỗi truy vấn. Mô hình này phản ánh việc triển khai ổn định trong bốn năm cho các tổ chức có hoạt động AI bền vững và bao gồm chi phí quản lý giải pháp AI đang diễn ra.

Kết quả thực tế sẽ khác nhau tùy thuộc vào các yếu tố như quy mô tổ chức, mức độ trưởng thành của AI và loại khối lượng công việc. Tìm hiểu thêm về phương pháp luận và lợi ích, chẳng hạn như tăng năng suất, thời gian tạo giá trị nhanh hơn, hiệu quả hoạt động tốt hơn và giảm thiểu rủi ro, trong phần phân tích đầy đủ .

Làm thế nào để đám mây tại chỗ tốt hơn đám mây công cộng về mặt chi phí

Kịch bản này được thiết kế để đánh giá mức tiết kiệm chi phí và giá trị kinh doanh mà Dell AI Factory hợp tác với NVIDIA có thể mang lại so với các phương pháp thay thế để triển khai và quản lý cơ sở hạ tầng AI, chẳng hạn như đám mây công cộng.

Khi ngày càng nhiều tổ chức vận hành AI, rõ ràng là việc vận hành cơ sở hạ tầng tại chỗ mang lại cho các tổ chức khả năng kiểm soát mọi khía cạnh triển khai, phù hợp với khối lượng công việc lớn, có thể dự đoán được cũng như các môi trường nhạy cảm coi trọng bảo mật dữ liệu và các yêu cầu về chủ quyền dữ liệu.

Để đạt được mục đích đó, mô hình của ESG được xây dựng dựa trên các nghiên cứu khác mà công ty đã thực hiện trước đó thay mặt cho Dell, nghiên cứu này phát hiện ra rằng việc triển khai khối lượng công việc AI với Dell AI Factory có thể tiết kiệm chi phí hơn tới 62% so với đám mây công cộng và tiết kiệm chi phí hơn tới 75% so với dịch vụ dựa trên API.

Bất kể tổ chức chọn địa điểm nào để chạy khối lượng công việc AI, việc triển khai như vậy đều đặt ra những thách thức mới ngay cả đối với các nhóm CNTT giàu kinh nghiệm.

Với tư cách là cố vấn đáng tin cậy cho AI doanh nghiệp, Dell và NVIDIA giúp lấp đầy khoảng trống bằng cách cung cấp công nghệ và dịch vụ hàng đầu, kết nối với hệ sinh thái mở của các nhà cung cấp phần mềm và các đối tác khác có thể hỗ trợ các trường hợp sử dụng AI của bạn hiện tại và trong tương lai.