Giới thiệu chi tiết về Azure AI Foundry

Azure AI Foundry là một nền tảng để phát triển AI trên Microsoft Azure. Mặc dù bạn có thể cung cấp các tài nguyên dịch vụ Azure AI riêng lẻ và xây dựng các ứng dụng sử dụng chúng mà không cần nó, nhưng khả năng tổ chức dự án, quản lý tài nguyên và phát triển AI của Azure AI Foundry khiến nó trở thành cách được đề xuất để xây dựng tất cả trừ các giải pháp đơn giản nhất.

Azure AI Foundry cung cấp cổng thông tin Azure AI Foundry, một giao diện trực quan dựa trên web để làm việc với các dự án AI. Nó cũng cung cấp SDK Azure AI Foundry mà bạn có thể sử dụng để xây dựng các giải pháp AI theo chương trình.

Trung tâm và dự án

Trong Azure AI Foundry, bạn quản lý tài nguyên, tài sản, mã và các yếu tố khác của giải pháp AI trong các trung tâm và dự án. Hub cung cấp một vùng chứa cấp cao nhất để quản lý tài nguyên, dữ liệu, kết nối và cấu hình bảo mật được chia sẻ để phát triển ứng dụng AI. Một trung tâm có thể hỗ trợ nhiều dự án, trong đó các nhà phát triển cộng tác để xây dựng một giải pháp cụ thể.

Hubs

Một trung tâm cung cấp một bộ sưu tập được quản lý tập trung các tài nguyên được chia sẻ và cấu hình quản lý để phát triển giải pháp AI. Bạn cần ít nhất một trung tâm để sử dụng tất cả các tính năng và khả năng phát triển giải pháp của AI Foundry.

Trong một trung tâm, bạn có thể xác định các tài nguyên được chia sẻ để sử dụng trên nhiều dự án. Khi bạn tạo một trung tâm bằng cổng thông tin Azure AI Foundry, một tài nguyên Azure Azure AI Hub được tạo trong một nhóm tài nguyên được liên kết với trung tâm. Ngoài ra, các tài nguyên sau được tạo cho trung tâm:

• Tài nguyên dịch vụ Azure AI đa dịch vụ để cung cấp quyền truy cập vào Azure OpenAI và các dịch vụ Azure AI khác.
• Kho khóa trong đó dữ liệu nhạy cảm như kết nối và thông tin đăng nhập có thể được lưu trữ an toàn.
• Tài khoản Lưu trữ cho dữ liệu được sử dụng trong trung tâm và các dự án của nó.
• Tùy chọn, tài nguyên Azure AI Search có thể được sử dụng để lập chỉ mục dữ liệu và hỗ trợ nền tảng cho lời nhắc AI tổng quát.

Bạn có thể tạo thêm tài nguyên theo yêu cầu (ví dụ: tài nguyên Azure AI Face) và thêm tài nguyên đó vào trung tâm (hoặc một dự án riêng lẻ) bằng cách xác định tài nguyên được kết nối. Khi bạn tạo thêm các mục trong trung tâm của mình, chẳng hạn như phiên bản điện toán hoặc điểm cuối, sẽ có nhiều tài nguyên hơn được tạo cho chúng trong nhóm tài nguyên Azure.

Quyền truy cập vào tài nguyên trong trung tâm được điều chỉnh bằng cách tạo người dùng và gán họ cho vai trò. Quản trị viên CNTT có thể quản lý quyền truy cập vào tài nguyên tập trung ở cấp trung tâm và các dự án liên kết với trung tâm kế thừa tài nguyên và phân công vai trò; Cho phép các nhóm phát triển sử dụng các tài nguyên họ cần mà không cần yêu cầu quyền truy cập trên cơ sở từng dự án.

Project

Một trung tâm có thể hỗ trợ một hoặc nhiều dự án, mỗi dự án được sử dụng để tổ chức các tài nguyên và tài sản cần thiết cho một nỗ lực phát triển AI cụ thể.

Người dùng có thể cộng tác trong một dự án, chia sẻ dữ liệu trong các vùng chứa lưu trữ dành riêng cho dự án và các tài nguyên được kết nối, đồng thời sử dụng các tài nguyên được chia sẻ được xác định trong trung tâm được liên kết với dự án. Azure AI Foundry cung cấp các công cụ và chức năng trong một dự án mà các nhà phát triển có thể sử dụng để xây dựng các giải pháp AI một cách hiệu quả, bao gồm:

• Danh mục mô hình trong đó bạn có thể tìm và triển khai các mô hình máy học từ nhiều nguồn, bao gồm Azure OpenAI và thư viện mô hình Hugging Face.
• Sân chơi trong đó bạn có thể kiểm tra lời nhắc bằng các mô hình AI tổng hợp.
• Truy cập vào các dịch vụ Azure AI, bao gồm các giao diện trực quan để thử nghiệm và đặt cấu hình các dịch vụ cũng như các điểm cuối và khóa mà bạn có thể sử dụng để kết nối với chúng từ các ứng dụng khách.
• Các vùng chứa Visual Studio Code xác định môi trường phát triển được lưu trữ trong đó bạn có thể viết, kiểm tra và triển khai mã.
• Chức năng tinh chỉnh cho các mô hình AI tổng quát mà bạn cần tùy chỉnh dựa trên lời nhắc và phản hồi đào tạo tùy chỉnh.
• Prompt Flow, một công cụ điều phối nhắc nhở mà bạn có thể sử dụng để xác định logic cho tương tác của ứng dụng AI tổng quát với mô hình.
• Các công cụ để đánh giá, đánh giá và cải thiện các ứng dụng AI của bạn, bao gồm theo dõi, đánh giá và quản lý an toàn và bảo mật nội dung.
• Quản lý tài sản dự án, bao gồm mô hình và điểm cuối, dữ liệu và chỉ mục cũng như ứng dụng web đã triển khai.

Những điều cần lưu ý đối với Azure AI Foundry

Khi lập kế hoạch giải pháp AI được xây dựng trên Azure AI Foundry, có một số cân nhắc bổ sung đối với những giải pháp đã thảo luận trước đây liên quan đến các dịch vụ Azure AI.

Tổ chức trung tâm và dự án

Lập kế hoạch tổ chức trung tâm và dự án của bạn để quản lý hiệu quả nhất các nguồn lực và hiệu quả quản trị. Sử dụng Hub để quản lý tập trung người dùng và tài nguyên được chia sẻ có liên quan đến các dự án liên quan, sau đó thêm các tài nguyên dành riêng cho dự án khi cần thiết. Ví dụ: một tổ chức có thể có các nhóm phát triển phần mềm riêng biệt cho từng lĩnh vực kinh doanh, vì vậy có thể hợp lý khi tạo các trung tâm riêng biệt cho từng lĩnh vực kinh doanh (chẳng hạn như Tiếp thị, Nhân sự, v.v.) trong đó có thể tạo các dự án phát triển ứng dụng AI cho từng lĩnh vực kinh doanh. Các tài nguyên được chia sẻ trong mỗi trung tâm sẽ tự động có sẵn trong các dự án được tạo trong các trung tâm đó.

 Mẹo

Để biết thêm thông tin về các trung tâm và dự án, hãy xem Quản lý, cộng tác và tổ chức với các trung tâm.

Tài nguyên được kết nối

Ở cấp trung tâm, quản trị viên CNTT có thể tạo kết nối tài nguyên dùng chung trong trung tâm sẽ được sử dụng trong các dự án xuôi dòng. Các dự án truy cập các tài nguyên được kết nối bằng proxy thay mặt cho người dùng dự án, vì vậy người dùng trong các dự án đó không cần truy cập trực tiếp vào các tài nguyên đó để sử dụng chúng trong ngữ cảnh của dự án. Các kết nối trong trung tâm tự động có sẵn trong các dự án mới trong trung tâm mà không cần yêu cầu thêm cho quản trị viên CNTT. Nếu một dự án riêng lẻ cần quyền truy cập vào một tài nguyên cụ thể mà các dự án khác trong cùng một trung tâm không sử dụng, bạn có thể tạo thêm tài nguyên được kết nối ở cấp dự án.

Khi bạn lập kế hoạch cho các trung tâm và dự án Azure AI Foundry của mình, hãy xác định các tài nguyên được kết nối được chia sẻ mà bạn nên thêm vào mỗi trung tâm để chúng được kế thừa bởi các dự án trong trung tâm đó, đồng thời cho phép các ngoại lệ cấp dự án.

 Mẹo

Để biết thêm thông tin về các tài nguyên được kết nối, hãy xem Kết nối trong cổng thông tin Azure AI Foundry.

Bảo mật và ủy quyền

Đối với mỗi trung tâm và dự án, xác định người dùng sẽ cần quyền truy cập và vai trò mà họ sẽ được chỉ định.

Vai trò cấp trung tâm có thể thực hiện các tác vụ quản lý cơ sở hạ tầng, chẳng hạn như tạo tài nguyên được kết nối cấp trung tâm hoặc dự án mới. Các vai trò mặc định trong trung tâm là:

• Chủ sở hữu: Toàn quyền truy cập vào trung tâm, bao gồm khả năng quản lý và tạo các trung tâm mới cũng như gán quyền. Vai trò này được tự động gán cho người tạo trung tâm
• Người đóng góp: Toàn quyền truy cập vào trung tâm, bao gồm khả năng tạo trung tâm mới, nhưng không thể quản lý quyền của trung tâm đối với tài nguyên hiện có.
• Azure AI Developer: Tất cả các quyền ngoại trừ tạo trung tâm mới và quản lý quyền trung tâm.
• Trình điều hành triển khai suy luận Azure AI: Tất cả các quyền cần thiết để tạo triển khai tài nguyên trong một nhóm tài nguyên.
• Người đọc: Quyền truy cập chỉ đọc vào trung tâm. Vai trò này được tự động gán cho tất cả các thành viên dự án trong trung tâm.

Vai trò cấp dự án xác định các nhiệm vụ mà người dùng có thể thực hiện trong một dự án riêng lẻ. Các vai trò mặc định trong dự án là:

• Chủ sở hữu: Toàn quyền truy cập vào dự án, bao gồm khả năng gán quyền cho người dùng dự án.
• Người đóng góp: Toàn quyền truy cập vào dự án nhưng không thể gán quyền cho người dùng dự án.
• Azure AI Developer: Quyền thực hiện hầu hết các hành động, bao gồm cả việc tạo triển khai, nhưng không thể gán quyền cho người dùng dự án.
• Trình điều hành triển khai suy luận Azure AI: Quyền thực hiện tất cả các hành động cần thiết để tạo triển khai tài nguyên trong nhóm tài nguyên.
• Người đọc: Quyền truy cập chỉ đọc vào dự án.

 Mẹo

Để biết thêm thông tin về cách quản lý vai trò trong các trung tâm và dự án Azure AI Foundry, hãy xem Kiểm soát truy cập dựa trên vai trò trong cổng thông tin Azure AI Foundry.

Tính khả dụng trong khu vực

Như với tất cả các dịch vụ Azure, tính khả dụng của các chức năng cụ thể của Azure AI Foundry có thể khác nhau tùy theo khu vực. Khi bạn lập kế hoạch giải pháp của mình, hãy xác định tính khả dụng theo khu vực cho các khả năng bạn yêu cầu.

 Mẹo

Để biết thêm thông tin về tính khả dụng theo khu vực của Azure AI Foundry, hãy xem tính khả dụng của tính năng Azure AI Foundry trên các khu vực đám mây.

Chi phí và hạn ngạch

Ngoài chi phí của các dịch vụ Azure AI mà giải pháp của bạn sử dụng, còn có các chi phí liên quan đến Azure AI Foundry liên quan đến các tài nguyên hỗ trợ các trung tâm và dự án cũng như lưu trữ và điện toán cho tài sản, phát triển và các giải pháp được triển khai. Bạn nên xem xét các chi phí này khi lên kế hoạch sử dụng Azure AI Foundry để phát triển giải pháp AI.

Ngoài chi phí tiêu thụ dịch vụ, bạn nên xem xét hạn ngạch tài nguyên cần thiết để hỗ trợ các ứng dụng AI mà bạn dự định xây dựng. Hạn ngạch được sử dụng để hạn chế sử dụng và đóng vai trò quan trọng trong việc quản lý chi phí và quản lý dung lượng Azure. Trong một số trường hợp, bạn có thể cần yêu cầu hạn ngạch bổ sung để tăng giới hạn tốc độ cho các hoạt động mô hình AI hoặc điện toán có sẵn để phát triển và triển khai giải pháp.

Mẹo

Để biết thêm thông tin về cách lập kế hoạch và quản lý chi phí cho Azure AI Foundry, hãy xem Lập kế hoạch và quản lý chi phí cho Azure AI Foundry. Để biết thêm thông tin về cách quản lý hạn ngạch cho Azure AI Foundry, hãy xem Quản lý và tăng hạn ngạch cho tài nguyên với Azure AI Foundry.

Bài đọc tiếp theo: Công cụ và SDK dành cho nhà phát triển