Nâng cao trải nghiệm của nhà phát triển trên Windows bằng các công cụ AI và công cụ năng suất mới

Với bản cập nhật Windows 11 mới nhất vào ngày 26 tháng 9, chúng tôi đã phát hành một loạt tính năng dành cho nhà phát triển làm thành phần cốt lõi của hệ điều hành Windows với mục đích giúp mọi nhà phát triển làm việc hiệu quả hơn trên Windows. Hôm nay, chúng tôi rất vui mừng được công bố Windows AI Studio, một trải nghiệm AI mới nhằm giúp các doanh nghiệp và nhà phát triển bắt đầu quá trình phát triển và triển khai AI cục bộ trên Windows, cùng với các bản cập nhật mới cho Dev Home và các tính năng mới dành cho doanh nghiệp trong Windows Subsystem for Linux (WSL) giúp tăng cường bảo mật và đơn giản hóa việc triển khai.

Windows AI Studio đơn giản hóa việc phát triển ứng dụng AI tổng quát

Nhiều nhà phát triển và doanh nghiệp muốn mang lại trải nghiệm khác biệt về AI cho ứng dụng của họ và chúng tôi đã nghe từ những nhà phát triển này rằng họ cần một cách dễ dàng và đáng tin cậy hơn để bắt đầu phát triển AI tại địa phương. Với nhiều công cụ, khung và mô hình nguồn mở có sẵn, thật khó để chọn đúng bộ công cụ để kiểm tra, tinh chỉnh và tối ưu hóa mô hình hoặc chọn mô hình đáng tin cậy nhất phù hợp nhất với nhu cầu kinh doanh đa dạng. Đó là lý do tại sao chúng tôi rất vui mừng được công bố Windows AI Studio, một trải nghiệm mới dành cho các nhà phát triển, giúp mở rộng công cụ của Azure AI Studio để khởi động quá trình phát triển AI cục bộ trên Windows.

Bắt đầu phát triển AI cục bộ trên Windows dễ dàng và nhanh chóng hơn bao giờ hết

Windows AI Studio đơn giản hóa việc phát triển ứng dụng AI tổng quát bằng cách tập hợp các công cụ và mô hình phát triển AI tiên tiến từ Azure AI Studio và các danh mục khác như Hugging Face, cho phép các nhà phát triển tinh chỉnh, tùy chỉnh và triển khai các mô hình ngôn ngữ nhỏ hiện đại hoặc SLM để sử dụng cục bộ trong các ứng dụng Windows của họ. Điều này bao gồm thiết lập không gian làm việc có hướng dẫn e2e bao gồm giao diện người dùng cấu hình mô hình và hướng dẫn từng bước để tinh chỉnh các SLM phổ biến như Phi. Sau đó, các nhà phát triển có thể nhanh chóng kiểm tra mô hình đã tinh chỉnh của mình bằng cách sử dụng các mẫu Rapid Flow và Gradio được tích hợp vào không gian làm việc.

Windows AI Studio đưa chúng ta đến gần hơn với việc hỗ trợ các mẫu phát triển Vòng lặp kết hợp và hỗ trợ các kịch bản AI kết hợp trên Azure và các thiết bị khách. Điều này mang lại cho các nhà phát triển nhiều lựa chọn hơn để chạy mô hình của họ trên đám mây trên Azure hoặc ở biên cục bộ trên Windows (hoặc trên cả hai) để đáp ứng nhu cầu của họ. Dòng nhắc nhở giúp việc triển khai mẫu kết hợp này dễ dàng hơn bao giờ hết bằng cách chuyển đổi giữa SLM cục bộ và LLM đám mây.

Hình ảnh trên cho thấy một quy trình tinh chỉnh điển hình. Các nhà phát triển sẽ mang bộ dữ liệu của riêng họ để tinh chỉnh. Xem hướng dẫn tinh chỉnh của chúng tôi để biết chi tiết về cách bắt đầu. Lưu ý rằng các bước tinh chỉnh + đánh giá mô hình sẽ được lặp lại cho đến khi mô hình đáp ứng được tiêu chí đánh giá của nhà phát triển.

Trong những tuần tới, các nhà phát triển có thể truy cập Windows AI Studio dưới dạng Tiện ích mở rộng Mã VS , một giao diện quen thuộc và liền mạch để giúp bạn bắt đầu phát triển AI. Giao diện được hướng dẫn cho phép bạn tập trung vào những gì bạn làm tốt nhất, viết mã, trong khi chúng tôi thực hiện tất cả những công việc nặng nhọc bằng cách thiết lập môi trường nhà phát triển của bạn với tất cả các công cụ cần thiết. Tìm hiểu thêm về Windows AI Studio.

Các mô hình hiện đại được tối ưu hóa cho Windows

Ngoài khả năng tinh chỉnh, Windows AI Studio cũng sẽ nêu bật các mô hình hiện đại (SOTA) được tối ưu hóa riêng cho GPU và NPU Windows trong tương lai, bắt đầu với Llama 2-7B, Mistral-7B, Falcon-7B và Khuếch tán ổn định XL. Đầu năm nay, chúng ta đã nói về việc ONNX Runtime là cổng vào Windows AI như thế nào . DirectML là API máy học gốc của Windows và chúng cùng nhau cung cấp cho các nhà phát triển quyền truy cập vào trải nghiệm phát triển AI đơn giản nhưng hiệu suất cao. Với Olive , một công cụ tối ưu hóa mạnh mẽ dành cho mô hình ONNX, các nhà phát triển có thể đảm bảo rằng mô hình của họ chạy hiệu quả nhất có thể với sự kết hợp DirectML+ONNX Runtime.

Tại Inspire năm nay, chúng tôi đã chia sẻ thông tin chi tiết về cách các nhà phát triển có thể chạy Llama 2 với DirectML và ONNX Runtime và chúng tôi đã làm việc chăm chỉ để biến điều này thành hiện thực. Bây giờ chúng tôi có một mẫu cho thấy tiến trình của chúng tôi với Llama 2 7B; sau khi vượt qua tối ưu hóa Olive, mẫu của chúng tôi cho thấy cách các nhà phát triển hiện có thể chạy LLM linh hoạt này cục bộ và hiệu quả trên các phần cứng Windows khác nhau. Chúng tôi rất vui mừng về cột mốc quan trọng này và đây chỉ là cái nhìn đầu tiên. Hãy theo dõi các cải tiến trong tương lai để hỗ trợ các mô hình lớn hơn, các loại dữ liệu tinh chỉnh và có độ chính xác thấp hơn.  Tìm hiểu thêm.

Hệ thống con Windows cho Linux (WSL) cung cấp nền tảng mạnh mẽ để phát triển AI trên Windows bằng cách giúp dễ dàng chạy đồng thời khối lượng công việc Windows và Linux. Nhà phát triển có thể dễ dàng chia sẻ tệp, ứng dụng GUI, GPU, v.v. giữa các môi trường mà không cần thiết lập bổ sung. WSL hiện đã được cải tiến để đáp ứng các yêu cầu bảo mật cấp doanh nghiệp để khách hàng doanh nghiệp có thể tự tin triển khai WSL cho các nhà phát triển của mình nhằm tận dụng cả hệ điều hành Windows và Linux trên cùng một thiết bị Windows và tăng tốc phát triển AI một cách hiệu quả.

Hệ thống con Windows dành cho Linux hiện cung cấp các tính năng doanh nghiệp mới giúp tăng cường bảo mật và đơn giản hóa việc triển khai

Giờ đây, việc triển khai WSL một cách an toàn cho công ty của bạn trở nên dễ dàng hơn bao giờ hết với các tính năng doanh nghiệp mới nhất. Bao gồm các:

• Bộ bảo vệ Microsoft dành cho Điểm cuối đã phát hành một phần bổ trợ mới cho WSL cho phép các nhóm bảo mật liên tục giám sát các sự kiện trong tất cả các bản phân phối đang chạy – mang lại khả năng hiển thị tuyệt vời cho các hệ thống từng được coi là điểm mù quan trọng.
• Giờ đây, bạn có thể kiểm soát quyền truy cập vào WSL và các cài đặt bảo mật chính của nó bằng Intune. Quản trị viên có thể định cấu hình toàn bộ quyền truy cập vào WSL hoặc đi sâu vào quyền truy cập vào các cài đặt bảo mật cụ thể như kernel tùy chỉnh, ảo hóa lồng nhau, v.v. để đảm bảo tính bảo mật khi sử dụng WSL.
• Các điều khiển mạng nâng cao trong WSL cho phép bạn chỉ định các quy tắc tường lửa áp dụng cho máy ảo WSL và cải thiện khả năng tương thích mạng trong môi trường doanh nghiệp phức tạp. Tìm hiểu thêm để bắt đầu với WSL ngay hôm nay!

Chúng tôi muốn đảm bảo Windows được tối ưu hóa cho các nhà phát triển và giúp bạn làm việc hiệu quả trên mọi hoạt động phát triển mà bạn thực hiện – máy tính để bàn, web, AI hoặc đa nền tảng. Đó là lý do tại sao chúng tôi giới thiệu Dev Home, người bạn đồng hành nâng cao năng suất tối ưu của bạn tại Build 2023. Dev Home là một trải nghiệm mới dành cho các nhà phát triển trên Windows 11, giúp bạn quay lại khu vực làm việc và hợp lý hóa quy trình công việc, tăng năng suất của bạn. Dev Home hỗ trợ bạn thiết lập môi trường nhà phát triển bằng cách tải xuống ứng dụng, gói hoặc kho lưu trữ, đồng thời cho phép bạn kết nối với các tài khoản và công cụ dành cho nhà phát triển của mình như GitHub. Ngày nay, Dev Home thậm chí còn trở nên tốt hơn cho bạn.

Dev Home hiện có tiện ích mở rộng Azure DevOps để bạn có thể cập nhật các công việc hàng ngày của mình

Chúng tôi rất vui mừng được phát hành Dev Home v0.7 với sự hỗ trợ Azure DevOps (ADO) được hỗ trợ bởi tiện ích mở rộng Dev Home Azure mới. Tiện ích mở rộng này cho phép bạn dễ dàng sao chép kho lưu trữ Azure của mình bằng Dev Home để đưa máy của bạn về trạng thái sẵn sàng mã, quản lý các dự án ADO của bạn và làm việc hiệu quả ngay từ màn hình Windows. Ngoài ra, bạn có thể ghim các tiện ích ADO để hiển thị kết quả truy vấn và ô truy vấn nhằm cung cấp thông tin dễ xem cho các dự án mà bạn quan tâm nhất. Các doanh nghiệp có thể tận dụng Dev Home để đào tạo các thành viên nhóm và dự án mới nhanh hơn, đồng thời các nhà phát triển có thể cập nhật các dự án, truy vấn và nhiệm vụ liên quan từ Dev Home.

Với trọng tâm của chúng tôi là trao quyền cho mọi nhà phát triển trở thành nhà phát triển AI và tiếp tục đầu tư vào năng suất của nhà phát triển, chúng tôi tin rằng Windows hiện cung cấp nền tảng tốt nhất để bạn bắt đầu phát triển AI cục bộ và tạo ra những trải nghiệm tiên tiến cho khách hàng của mình. Chúng tôi rất khiêm tốn và vui mừng khi được tham gia cuộc hành trình này cùng bạn.