Năm hiểu biết sâu sắc để áp dụng AI doanh nghiệp thông minh hơn

Trí tuệ nhân tạo không còn là khái niệm tương lai hay công cụ dành riêng cho các công ty tiên tiến nhất. Đối với các doanh nghiệp trên toàn cầu, AI đang trở thành một phần trung tâm của quá trình chuyển đổi kinh doanh, cho phép đưa ra quyết định thông minh hơn, hiệu quả hơn và tăng cường lợi thế cạnh tranh. Nhưng các doanh nghiệp đang áp dụng AI như thế nào và họ phải đối mặt với những thách thức nào trong việc mở rộng quy mô hiệu quả?

Để trả lời những câu hỏi này, chúng tôi đã tiến hành Khảo sát áp dụng AI doanh nghiệp của Dell Technologies , bao gồm 3.800 người ra quyết định CNTT (ITDM) và các chuyên gia AI trên năm quốc gia. Những phát hiện của chúng tôi cung cấp cái nhìn sâu sắc về tình trạng sử dụng AI toàn cầu hiện tại và các công cụ tăng tốc giúp các doanh nghiệp hoàn thành mục tiêu kinh doanh AI và nhận ra giá trị. Hãy tiếp tục đọc để tìm hiểu về năm hiểu biết chính xuất hiện từ nghiên cứu của chúng tôi.

1. Dữ liệu là chìa khóa để sắp xếp ngôi nhà AI của bạn

AI chỉ tốt bằng dữ liệu mà nó chạy trên đó và các doanh nghiệp đang phải vật lộn để quản lý và tận dụng dữ liệu của mình một cách hiệu quả. Các doanh nghiệp đã nêu chất lượng dữ liệu, tính khả dụng, quản lý và bảo mật là những rào cản kỹ thuật hàng đầu đối với việc triển khai AI.

Nếu không có dữ liệu sạch, được tổ chức tốt và dễ tiếp cận, ngay cả các mô hình AI tiên tiến cũng sẽ hoạt động kém. Những thách thức này cho thấy các tổ chức nên tập trung vào việc phát triển các chiến lược ưu tiên tích hợp dữ liệu liền mạch, các biện pháp bảo mật nâng cao và các giải pháp có thể mở rộng cho các tập dữ liệu lớn.

2. Tính linh hoạt là điều bắt buộc đối với việc bố trí khối lượng công việc AI

Nghiên cứu của chúng tôi cho thấy phương pháp đa đám mây là một lựa chọn hấp dẫn cho các doanh nghiệp muốn chạy khối lượng công việc AI của mình:

• 79%  trường hợp sử dụng AI trong sản xuất đang chạy bên ngoài đám mây công cộng
• 98%  các tổ chức đã tính toán tổng chi phí sở hữu (TCO) cho các trường hợp sử dụng AI trên nền tảng đám mây công cộng

Khối lượng công việc AI có tác động lớn nhất thường gắn liền với dữ liệu vẫn nằm trong bốn bức tường của bạn. Đám mây công cộng mang lại sự tiện lợi để thử nghiệm, nhưng đi kèm với mức giá khá cao: một phân tích ESG năm 2024 cho thấy suy luận tại chỗ có thể tiết kiệm chi phí hơn tới 75% so với đám mây công cộng. Đối với các khoản đầu tư AI dài hạn có thể mở rộng, các giải pháp tại chỗ thường mang lại ROI tốt hơn, điều mà hầu hết các tổ chức đã khám phá ra sau khi tính toán TCO của họ. Nhưng không phải tất cả đều là đô la và xu: các triển khai tại chỗ cũng cung cấp bảo mật và quản trị tốt hơn, điều này đặc biệt hữu ích cho các lĩnh vực có nhu cầu tuân thủ nghiêm ngặt như tài chính và chăm sóc sức khỏe. Điều này nhấn mạnh đến nhu cầu cân nhắc cẩn thận TCO cho các trường hợp sử dụng khác nhau và đặt khối lượng công việc AI với sự cân bằng phù hợp giữa hiệu suất, bảo mật và khả năng mở rộng.

3. Tăng hiệu quả của trung tâm dữ liệu bằng cách khai thác nguồn điện có sẵn

Bất chấp những cuộc thảo luận ngày càng tăng về nguồn điện và hệ thống làm mát như một nút thắt cổ chai đối với việc áp dụng AI, khảo sát của chúng tôi chỉ ra rằng các doanh nghiệp có thể bỏ qua nguồn điện bị kẹt và các giải pháp hiện có:

• 39% năng lượng của trung tâm dữ liệu không được sử dụng
• 67% máy chủ GPU sẽ sử dụng hệ thống làm mát bằng chất lỏng trực tiếp vào chip trong ba năm tới

Trong khi các nhà điều hành trung tâm dữ liệu lo lắng về nhu cầu năng lượng để mở rộng AI, họ đang bỏ lỡ rất nhiều năng lượng. Các doanh nghiệp nên tối đa hóa công suất năng lượng hiện có của trung tâm dữ liệu trước khi đầu tư vào việc cải tạo tốn kém hoặc xây dựng mới. Nguồn điện bị kẹt bổ sung cũng có thể được giải phóng bằng cách nâng cấp cơ sở hạ tầng hiện có từ máy chủ rack 14G lên 16/17G.

Nhìn về phía trước, việc áp dụng ngày càng nhiều các cải tiến như làm mát bằng chất lỏng trực tiếp vào chip sẽ là yếu tố chính trong việc giải quyết các hạn chế về hiệu suất và công suất GPU, đồng thời giảm chi phí làm mát trung tâm dữ liệu và tăng khả năng mở rộng cho các triển khai AI của doanh nghiệp.

4. Khuynh hướng thiên về mã nguồn mở và nhu cầu hỗ trợ trong việc triển khai khối lượng công việc AI tại chỗ

Các tổ chức đang hướng tới sự minh bạch và linh hoạt hơn trong hệ sinh thái AI của họ, cũng như các nhà cung cấp dịch vụ trọn gói:

• 63% trường hợp sử dụng AI dự kiến ​​sẽ sử dụng các mô hình nguồn mở trong 12 tháng tới
• 77% các tổ chức muốn các nhà cung cấp cơ sở hạ tầng của họ cung cấp các khả năng trên mọi khía cạnh của hành trình áp dụng AI
• 83% các tổ chức muốn các nhà cung cấp PC AI của họ cung cấp các khả năng trên mọi khía cạnh của hành trình áp dụng AI

Sự chuyển dịch này hướng tới các khuôn khổ mã nguồn mở làm nổi bật nhu cầu về các giải pháp có thể tùy chỉnh, minh bạch và tiết kiệm chi phí . Các hệ sinh thái mở cung cấp các khả năng rộng lớn vượt xa những gì bất kỳ nhà cung cấp đơn lẻ nào có thể cung cấp. Để đáp ứng các nhu cầu cụ thể của mình, những người ra quyết định về CNTT đang tìm kiếm các nhà cung cấp có giải pháp AI đầu cuối có thể giúp họ tích hợp hoàn toàn AI trên toàn bộ hệ thống CNTT của mình.

5. Các mô hình nhỏ chạy trên thiết bị cung cấp một cấp độ linh hoạt khác cho các trường hợp sử dụng AI

Máy tính AI là một lựa chọn hấp dẫn để dân chủ hóa khả năng tiếp cận AI, đặc biệt là bằng cách tận dụng các mô hình ngôn ngữ nhỏ (SLM):

• 35% các tổ chức có kế hoạch thử nghiệm SLM (mô hình ngôn ngữ nhỏ) trên máy tính AI trong 12 tháng tới

Không giống như các đối tác lớn hơn, SLM tiết kiệm chi phí và năng lượng hơn, đòi hỏi ít công suất tính toán hơn nhưng vẫn đủ cho nhiều ứng dụng như trợ lý mã hóa.

Điều này có thể có ý nghĩa gì đối với doanh nghiệp? SLM cho phép xử lý AI theo thời gian thực trên thiết bị, không chỉ giảm độ trễ mà còn cải thiện năng suất và giảm thiểu tác động đến môi trường. Việc doanh nghiệp áp dụng PC AI có thể tăng cường hơn nữa khả năng tiếp cận các giải pháp AI cho các nhóm ở mọi quy mô, trao quyền cho nhân viên bằng các công cụ mạnh mẽ để cộng tác và tự động hóa.

Tự tin trao quyền cho hành trình AI của bạn

Điều này có ý nghĩa gì đối với các doanh nghiệp ngày nay? Dựa trên những phát hiện của chúng tôi, các yếu tố thúc đẩy chính của việc áp dụng AI là:

• Đánh giá TCO để tối ưu hóa sự kết hợp triển khai đám mây, tại chỗ và biên dựa trên trường hợp sử dụng
• Cải thiện chất lượng dữ liệu, khả năng truy cập và quản lý
• Tận dụng tốt hơn năng lực điện của trung tâm dữ liệu hiện có cho khối lượng công việc AI
• Áp dụng các mô hình và khuôn khổ nguồn mở để cộng tác và đổi mới
• Chạy SLM trên PC AI để nâng cao hiệu quả và khả năng truy cập

AI đã trở nên thiết yếu, không phải là tùy chọn, để thúc đẩy lợi thế cạnh tranh và sự xuất sắc trong hoạt động trong bối cảnh kinh doanh ngày nay. Mặc dù AI có tiềm năng thúc đẩy hiệu quả rộng rãi và những đổi mới đột phá, nhưng thành công của một tổ chức sẽ được xác định bởi những lựa chọn mà tổ chức đó đưa ra ngay bây giờ.

Bạn muốn thực hiện bước tiếp theo? Tại Dell Technologies, chúng tôi ở đây để giúp bạn xây dựng chiến lược AI phù hợp với doanh nghiệp của bạn. Liên hệ với chúng tôi để tìm hiểu thêm về các giải pháp AI của chúng tôi và cách chúng có thể trao quyền cho nhóm của bạn để đạt được nhiều thành tựu hơn.