Azure AI Foundry là một nền tảng để phát triển AI trên Microsoft Azure. Mặc dù bạn có thể cung cấp các tài nguyên dịch vụ Azure AI riêng lẻ và xây dựng các ứng dụng sử dụng chúng mà không cần nó, nhưng khả năng tổ chức dự án, quản lý tài nguyên và phát triển AI của Azure AI Foundry khiến nó trở thành cách được đề xuất để xây dựng tất cả trừ các giải pháp đơn giản nhất.
Azure AI Foundry cung cấp cổng thông tin Azure AI
Foundry, một giao diện trực quan dựa trên web để làm việc với các dự án AI.
Nó cũng cung cấp SDK Azure AI Foundry mà bạn có thể sử dụng để
xây dựng các giải pháp AI theo chương trình.
Trung tâm và dự án
Trong Azure AI Foundry, bạn quản lý tài nguyên, tài sản, mã
và các yếu tố khác của giải pháp AI trong các trung tâm và dự án. Hub cung
cấp một vùng chứa cấp cao nhất để quản lý tài nguyên, dữ liệu, kết nối và cấu
hình bảo mật được chia sẻ để phát triển ứng dụng AI. Một trung tâm có thể hỗ trợ
nhiều dự án, trong đó các nhà phát triển cộng tác để xây dựng một
giải pháp cụ thể.
Hubs
Một trung tâm cung cấp một bộ sưu tập được quản lý tập trung
các tài nguyên được chia sẻ và cấu hình quản lý để phát triển giải pháp AI. Bạn
cần ít nhất một trung tâm để sử dụng tất cả các tính năng và khả năng phát triển
giải pháp của AI Foundry.
Trong một trung tâm, bạn có thể xác định các tài nguyên được
chia sẻ để sử dụng trên nhiều dự án. Khi bạn tạo một trung tâm bằng cổng thông
tin Azure AI Foundry, một tài nguyên Azure Azure AI Hub được tạo
trong một nhóm tài nguyên được liên kết với trung tâm. Ngoài ra, các tài nguyên
sau được tạo cho trung tâm:
- Tài
nguyên dịch vụ Azure AI đa dịch vụ để cung cấp quyền truy
cập vào Azure OpenAI và các dịch vụ Azure AI khác.
- Kho
khóa trong đó dữ liệu nhạy cảm như kết nối và thông tin đăng nhập
có thể được lưu trữ an toàn.
- Tài khoản
Lưu trữ cho dữ liệu được sử dụng trong trung tâm và các dự án của
nó.
- Tùy chọn,
tài nguyên Azure AI Search có thể được sử dụng để lập chỉ
mục dữ liệu và hỗ trợ nền tảng cho lời nhắc AI tổng quát.
Bạn có thể tạo thêm tài nguyên theo yêu cầu (ví dụ: tài
nguyên Azure AI Face) và thêm tài nguyên đó vào trung tâm (hoặc một
dự án riêng lẻ) bằng cách xác định tài nguyên được kết nối. Khi bạn
tạo thêm các mục trong trung tâm của mình, chẳng hạn như phiên bản điện toán hoặc
điểm cuối, sẽ có nhiều tài nguyên hơn được tạo cho chúng trong nhóm tài nguyên
Azure.
Quyền truy cập vào tài nguyên trong trung tâm được điều chỉnh
bằng cách tạo người dùng và gán họ cho vai trò. Quản
trị viên CNTT có thể quản lý quyền truy cập vào tài nguyên tập trung ở cấp
trung tâm và các dự án liên kết với trung tâm kế thừa tài nguyên và phân công
vai trò; Cho phép các nhóm phát triển sử dụng các tài nguyên họ cần mà không cần
yêu cầu quyền truy cập trên cơ sở từng dự án.
Project
Một trung tâm có thể hỗ trợ một hoặc nhiều dự án, mỗi dự án
được sử dụng để tổ chức các tài nguyên và tài sản cần thiết cho một nỗ lực phát
triển AI cụ thể.
Người dùng có thể cộng tác trong một dự án, chia sẻ dữ liệu
trong các vùng chứa lưu trữ dành riêng cho dự án và các tài nguyên được kết nối,
đồng thời sử dụng các tài nguyên được chia sẻ được xác định trong trung tâm được
liên kết với dự án. Azure AI Foundry cung cấp các công cụ và chức năng trong một
dự án mà các nhà phát triển có thể sử dụng để xây dựng các giải pháp AI một
cách hiệu quả, bao gồm:
- Danh mục
mô hình trong đó bạn có thể tìm và triển khai các mô hình máy học
từ nhiều nguồn, bao gồm Azure OpenAI và thư viện mô hình Hugging Face.
- Sân
chơi trong đó bạn có thể kiểm tra lời nhắc bằng các mô hình AI tổng
hợp.
- Truy cập
vào các dịch vụ Azure AI, bao gồm các giao diện trực quan để
thử nghiệm và đặt cấu hình các dịch vụ cũng như các điểm cuối và khóa mà bạn
có thể sử dụng để kết nối với chúng từ các ứng dụng khách.
- Các
vùng chứa Visual Studio Code xác định môi trường phát triển
được lưu trữ trong đó bạn có thể viết, kiểm tra và triển khai mã.
- Chức
năng tinh chỉnh cho các mô hình AI tổng quát mà bạn cần tùy chỉnh
dựa trên lời nhắc và phản hồi đào tạo tùy chỉnh.
- Prompt
Flow, một công cụ điều phối nhắc nhở mà bạn có thể sử dụng để xác định
logic cho tương tác của ứng dụng AI tổng quát với mô hình.
- Các
công cụ để đánh giá, đánh giá và cải thiện các ứng dụng AI của bạn, bao gồm theo
dõi, đánh giá và quản lý an toàn và bảo mật nội
dung.
- Quản
lý tài sản dự án, bao gồm mô hình và điểm cuối, dữ liệu
và chỉ mục cũng như ứng dụng web đã triển khai.
Những điều cần lưu ý đối với Azure AI Foundry
Khi lập kế hoạch giải pháp AI được xây dựng trên Azure AI
Foundry, có một số cân nhắc bổ sung đối với những giải pháp đã thảo luận trước
đây liên quan đến các dịch vụ Azure AI.
Tổ chức trung tâm và dự án
Lập kế hoạch tổ chức trung tâm và dự án của bạn để quản lý
hiệu quả nhất các nguồn lực và hiệu quả quản trị. Sử dụng Hub để quản lý tập
trung người dùng và tài nguyên được chia sẻ có liên quan đến các dự án liên
quan, sau đó thêm các tài nguyên dành riêng cho dự án khi cần thiết. Ví dụ: một
tổ chức có thể có các nhóm phát triển phần mềm riêng biệt cho từng lĩnh vực
kinh doanh, vì vậy có thể hợp lý khi tạo các trung tâm riêng biệt cho từng lĩnh
vực kinh doanh (chẳng hạn như Tiếp thị, Nhân sự, v.v.) trong đó có thể tạo các
dự án phát triển ứng dụng AI cho từng lĩnh vực kinh doanh. Các tài nguyên được
chia sẻ trong mỗi trung tâm sẽ tự động có sẵn trong các dự án được tạo trong
các trung tâm đó.
Mẹo
Để biết thêm thông tin về các trung tâm và dự án, hãy xem Quản lý, cộng tác và tổ chức với các trung tâm.
Tài nguyên được kết nối
Ở cấp trung tâm, quản trị viên CNTT có thể tạo kết nối tài
nguyên dùng chung trong trung tâm sẽ được sử dụng trong các dự án xuôi dòng.
Các dự án truy cập các tài nguyên được kết nối bằng proxy thay mặt cho người
dùng dự án, vì vậy người dùng trong các dự án đó không cần truy cập trực tiếp
vào các tài nguyên đó để sử dụng chúng trong ngữ cảnh của dự án. Các kết nối
trong trung tâm tự động có sẵn trong các dự án mới trong trung tâm mà không cần
yêu cầu thêm cho quản trị viên CNTT. Nếu một dự án riêng lẻ cần quyền truy cập
vào một tài nguyên cụ thể mà các dự án khác trong cùng một trung tâm không sử dụng,
bạn có thể tạo thêm tài nguyên được kết nối ở cấp dự án.
Khi bạn lập kế hoạch cho các trung tâm và dự án Azure AI
Foundry của mình, hãy xác định các tài nguyên được kết nối được chia sẻ mà bạn
nên thêm vào mỗi trung tâm để chúng được kế thừa bởi các dự án trong trung tâm
đó, đồng thời cho phép các ngoại lệ cấp dự án.
Mẹo
Để biết thêm thông tin về các tài nguyên được kết nối, hãy
xem Kết nối trong cổng thông tin Azure AI Foundry.
Bảo mật và ủy quyền
Đối với mỗi trung tâm và dự án, xác định người dùng sẽ cần
quyền truy cập và vai trò mà họ sẽ được chỉ định.
Vai trò cấp trung tâm có thể thực hiện các tác vụ quản lý cơ
sở hạ tầng, chẳng hạn như tạo tài nguyên được kết nối cấp trung tâm hoặc dự án
mới. Các vai trò mặc định trong trung tâm là:
- Chủ
sở hữu: Toàn quyền truy cập vào trung tâm, bao gồm khả năng quản lý và
tạo các trung tâm mới cũng như gán quyền. Vai trò này được tự động gán cho
người tạo trung tâm
- Người
đóng góp: Toàn quyền truy cập vào trung tâm, bao gồm khả năng tạo
trung tâm mới, nhưng không thể quản lý quyền của trung tâm đối với tài
nguyên hiện có.
- Azure
AI Developer: Tất cả các quyền ngoại trừ tạo trung tâm mới và quản lý
quyền trung tâm.
- Trình điều
hành triển khai suy luận Azure AI: Tất cả các quyền cần thiết để tạo
triển khai tài nguyên trong một nhóm tài nguyên.
- Người
đọc: Quyền truy cập chỉ đọc vào trung tâm. Vai trò này được tự động
gán cho tất cả các thành viên dự án trong trung tâm.
Vai trò cấp dự án xác định các nhiệm vụ mà người dùng có thể
thực hiện trong một dự án riêng lẻ. Các vai trò mặc định trong dự án là:
- Chủ
sở hữu: Toàn quyền truy cập vào dự án, bao gồm khả năng gán quyền cho
người dùng dự án.
- Người
đóng góp: Toàn quyền truy cập vào dự án nhưng không thể gán quyền cho
người dùng dự án.
- Azure
AI Developer: Quyền thực hiện hầu hết các hành động, bao gồm cả việc tạo
triển khai, nhưng không thể gán quyền cho người dùng dự án.
- Trình điều
hành triển khai suy luận Azure AI: Quyền thực hiện tất cả các hành động
cần thiết để tạo triển khai tài nguyên trong nhóm tài nguyên.
- Người
đọc: Quyền truy cập chỉ đọc vào dự án.
Mẹo
Để biết thêm thông tin về cách quản lý vai trò trong các
trung tâm và dự án Azure AI Foundry, hãy xem Kiểm soát truy cập dựa trên vai trò trong cổng thông tin Azure
AI Foundry.
Tính khả dụng trong khu vực
Như với tất cả các dịch vụ Azure, tính khả dụng của các chức
năng cụ thể của Azure AI Foundry có thể khác nhau tùy theo khu vực. Khi bạn lập
kế hoạch giải pháp của mình, hãy xác định tính khả dụng theo khu vực cho các khả
năng bạn yêu cầu.
Mẹo
Để biết thêm thông tin về tính khả dụng theo khu vực của
Azure AI Foundry, hãy xem tính khả dụng của tính năng Azure AI Foundry trên các khu vực đám
mây.
Chi phí và hạn ngạch
Ngoài chi phí của các dịch vụ Azure AI mà giải pháp của bạn
sử dụng, còn có các chi phí liên quan đến Azure AI Foundry liên quan đến các
tài nguyên hỗ trợ các trung tâm và dự án cũng như lưu trữ và điện toán cho tài
sản, phát triển và các giải pháp được triển khai. Bạn nên xem xét các chi phí
này khi lên kế hoạch sử dụng Azure AI Foundry để phát triển giải pháp AI.
Ngoài chi phí tiêu thụ dịch vụ, bạn nên xem xét hạn ngạch
tài nguyên cần thiết để hỗ trợ các ứng dụng AI mà bạn dự định xây dựng. Hạn ngạch
được sử dụng để hạn chế sử dụng và đóng vai trò quan trọng trong việc quản lý
chi phí và quản lý dung lượng Azure. Trong một số trường hợp, bạn có thể cần
yêu cầu hạn ngạch bổ sung để tăng giới hạn tốc độ cho các hoạt động mô hình AI
hoặc điện toán có sẵn để phát triển và triển khai giải pháp.
Mẹo
Để biết thêm thông tin về cách lập kế hoạch và quản lý chi
phí cho Azure AI Foundry, hãy xem Lập kế hoạch và quản lý chi phí cho Azure AI Foundry.
Để biết thêm thông tin về cách quản lý hạn ngạch cho Azure AI Foundry, hãy xem
Quản lý và tăng hạn ngạch cho tài nguyên với Azure AI Foundry.
Nhận xét
Đăng nhận xét