AI Universe tekninen seloste
Miten AI Universe käyttöönotto Azure-vuokraajassasi.
Tällä sivulla käsitellään, miten AI Universe käyttöönotto Azure-vuokraajassasi: miten alusta on jäsennelty, mistä kukin taso on vastuussa ja missä omistajuuden ja hallinnan rajat kulkevat.
AI Universe is ei SaaS-alusta, jota ylläpitää FortytwoSe otetaan käyttöön omassa Azure-tilauksessasi, ja omistat ja hallitset kaikkia Azure-resursseja ensimmäisestä päivästä lähtien.
Alustan yleiskatsaus
Alusta integroi Azure AI Foundryn, Azure API Managementin (toimii tekoälyyhdyskäytävänä), Microsoft Entra ID:n, Key Vaultin, Application Insightsin, lokianalytiikan, GitHubin tai Azure DevOpsin ja Bicep-infrastruktuurin koodina yhdeksi hallituksi käyttöönottomalliksi.
Suunnittelun tarkoituksena on antaa tiimillesi tuotantotason tekoälyominaisuus, joka toimii nykyisen hallinto- ja tietoturvaratkaisusi rajoissa ilman erillistä SaaS-tilausta, kolmannen osapuolen tietojenkäsittelijää tai uutta luottamusrajaa. Jokainen komponentti sijaitsee Azure-vuokraajassasi. Fortytwo toimittaa alkukäyttöönoton ja tukee jatkuvia toimintoja, mutta ei käytä infrastruktuuria puolestasi eikä säilytä pysyvää käyttöoikeutta käyttöönoton valmistuttua.
Säätiö
Vibe-koodaus tarvitsee kaiteita. Tässä artikkelissa voit lukea lisää siitä, miksi tekoälyagenttien rakentaminen tarvitsee toistettavan ja turvallisen perustan ja putkiston.
Kerrostettu käyttöönottomalli
Kaikki kerrokset sijaitsevat Azure-vuokraajassasi. Jokaisella kerroksella on oma vastuualueensa raja, eikä mikään komponentti lähetä tietoja kerrokseen. Fortytwo infrastruktuuri.
Mikä asuu missä
Jokainen komponentti standardissa AI Universe Käyttöönotto sijaitsee Azure-vuokraajassasi. Alla oleva taulukko yhdistää jokaisen komponentin sen sijaintiin, omistajaan ja asiaankuuluviin huomautuksiin.
Azure API Management hallittuna front gate -periaatteella
Azure API -hallinta on yksi hallinnoitu sisäänkäyntipiste kaikelle tekoälyliikenteelle AI Universe käyttöönotto. Jokainen galaksi kutsuu jokaista mallia APIM:n kautta. Mikään sovelluskoodi ei saavuta mallin päätepisteitä suoraan.
Token-nopeuden rajoitukset
Kunkin galaksin APIM-käytäntö määrittelee tokenien enimmäiskulutusnopeudet. Tämä estää holtittoman käytön ja mahdollistaa kustannusten kohdistamisen tiimi- tai käyttötapauskohtaisesti.
Azure-sisällön turvallisuus
Sisältöturvallisuustarkistuksia sovelletaan APIM-tasolla ennen kuin pyynnöt saapuvat malliin, mikä varmistaa sisältöpolitiikan yhdenmukaisen täytäntöönpanon kutsuvasta galaksista riippumatta.
Malli-käyttöoikeus
APIM-käytäntö määrittää, mihin mallien käyttöönottoihin kukin galaksi voi käyttää. Galaksi voi kutsua vain malleja, joihin sille on nimenomaisesti myönnetty käyttöoikeus.
Tunnuksen käyttö
Kaikki yhdyskäytäväkäytäntötapahtumat, tokenien määrät ja pyyntöjen metatiedot lähetetään Application Insightsiin ja Log Analyticsiin, mikä mahdollistaa käyttöraportoinnin ja kustannusanalyysin galaksikohtaisesti.
Nopea injektio
Azure AI Foundryn kehotesuojaukset toimivat tekoälyn suoritusaikatasolla, eivät APIM:ssä. Injektiosuojaus ja sisällön suojaus otetaan käyttöön erillisissä kohdissa pyyntöpolulla.
Hallinto
Jokainen tekoälykutsu kulkee APIM:n kautta ja sitä säätelee Azure-käytäntösi. Tämä on tekoälyn ainoa sisäänpääsypiste.
Yritystason tekoälystrategia
Copilot-lisenssi voi auttaa ihmisiä työskentelemään nopeammin, mutta laajemman yritystason tekoälystrategian tulisi auttaa organisaatiotasi rakentamaan, hallitsemaan ja käyttämään parempia tekoälypohjaisia ominaisuuksia.
Microsoft Entra ID -integraatio
Identiteetti AI Universe perustuu kokonaan Microsoft Entra ID:hen. Ei ole erillisiä käyttäjähakemistoja tai tunnistetietosäilöjä, joita hallinnoi Fortytwo.
Galaxy-sovelluksen rekisteröinti
Jokainen galaksi saa oman Entra-sovellusrekisteröintinsä vuokraajassasi, erillisillä asiakastunnistetiedoilla ja suostumuksilla. Ei jaettuja palvelutilejä.
Galaxy-avain ensisijaisena tunnistetietona
Galaksiavain on johdettu sovelluksen rekisteröinnin asiakassalaisuudesta. Avaimen peruuttaminen pysäyttää välittömästi kyseisen galaksin todennuskyvyn. Toissijaista pääsypolkua ei ole.
Roolipohjainen alustan hallinta
Alustatason toimintoja ohjaavat Entran hallinnoimat roolit. Roolimäärityksiä hallinnoivat identiteetin ylläpitäjäsi, eivät Fortytwo.
Ei jaettuja valtakirjoja galaksien välillä
Galaksit eivät jaa tunnistetietoja, sovellusrekisteröintejä tai avainsäilön käyttöoikeuskäytäntöjä. Vaarantunut galaksin tunnistetieto ei voi käyttää toisen galaksin resursseja.
Azure Key Vault
Kaikki alustan ja galaksin salaisuudet tallennetaan Azure Key Vault -instansseihin Azure-vuokraajassasi. Fortytwo ei ylläpidä jaettua salaisuuksien säilöä eikä säilytä pysyvää pääsyä avainsäilöihisi alkuperäisen käyttöönoton jälkeen.
Galaksikohtainen eristäminen
Kunkin galaksin salaisuudet säilytetään Key Vault -merkinnöissä, jotka on kohdistettu kyseiseen galaksiin. Käyttöoikeuskäytännöt varmistavat, että galaksin säilösovellus voi hakea vain omia salaisuuksiaan. Galaksien välinen salaisuuskäyttö ei ole mahdollista vakiokokoonpanossa.
Fortytwo käyttöoikeusmalli
Alkuvaiheen käyttöönoton aikana Fortytwo Insinöörit saattavat tarvita tilapäisen käyttöoikeuden Key Vault -merkintöjen määrittämiseen. Tämä käyttöoikeus on ajallisesti rajoitettu, dokumentoitu ja peruutetaan käyttöönoton vahvistamisen jälkeen. Fortytwo ei säilytä pysyvää pääsyä avainsäilöihisi tuotannossa.
Git-pohjainen toimitus
Jokainen galaksi toimitetaan Git-repositoriona GitHub-organisaatiosi tai Azure DevOps -projektisi alaisuudessa. Repositorio on kyseisen galaksin auktoriteettinen toimituskuva. Kaikki infrastruktuurimuutokset kulkevat repositorion CI/CD-putken kautta.
Sovellusanalyysit ja lokianalytiikka
Havainnoitavuus perustuu Azure-natiiveihin työkaluihin. Kaikki telemetriatiedot kirjoitetaan työtiloihin Azure-vuokraajasi sisällä.
Tekoälyn käyttö ja kustannukset
Tunnuksen kulutusta, mallikutsujen määriä ja pääteltyjä kustannuksia seurataan galaksikohtaisesti APIM-käytäntötapahtumien kautta, jotka välitetään Application Insightsiin. Tämä mahdollistaa tiimikohtaisen kustannusten kohdentamisen ja kapasiteetin suunnittelun.
Yhdyskäytäväkäytäntötapahtumat
Sisällön turvallisuuspäätökset, nopeusrajoitustapahtumat ja mallin käyttöoikeuksien hallinnan tulokset kirjataan strukturoituina lokimerkintöinä Log Analyticsiin. Nämä muodostavat yhdyskäytävän valvonnan auditointipolun.
Sovelluksen kunto
Konttisovelluksen kunto, virheprosentit ja riippuvuuksien viive tallennetaan Application Insightsiin. Operatiivinen tiimisi voi määrittää hälytykset ja koontinäytöt käyttämällä Azure Monitorin vakiotyökaluja.
Kysyttävää?
Ota yhteyttä Fortytwo tiimiin, jos haluat lisätietoja käyttöönotosta. Keskustelemme mielellämme teknisistä yksityiskohdista, Azure-asennuksestasi tai siitä, mitä käyttöönotto edellyttäisi organisaatiollesi.
Päivitä ja julkaise malli
Fortytwo Toimittaa alustapäivitykset uusina konttikuvina ja päivitettyinä Bicep-pohjina. Päivitykset välitetään vakiojulkaisuprosessin kautta. Julkaisutiedot, muutosloki ja kaikki vaaditut siirtovaiheet dokumentoidaan ennen toimitusta.
Sinä hallitset, milloin päivitykset otetaan käyttöön, ja Fortytwo ei lähetä muutoksia vuokralaisellesi, käynnistä käyttöönottoja tai muokkaa infrastruktuuria ilman nimenomaista toimenpidettäsi. Omistamasi ja ylläpitämäsi CI/CD-prosessi on ainoa mekanismi, jonka kautta muutokset otetaan käyttöön.
Rikkoutuvat muutokset
Mullistavista muutoksista ilmoitetaan vähintään kahden julkaisusyklin varoitusajalla. Kaikkien murtavien muutosten mukana toimitetaan siirto-oppaat.
Hintojen lasku
Jokainen koontiversio suorittaa salaisia suojauskoodeja. Koska kaikki infrastruktuuri on koodattu Bicepillä ja sovellusversiot on merkitty konttikuviksi, asiakkaat voivat peruuttaa aiemman version palauttamalla tietovaraston ja suorittamalla prosessin uudelleen.
Vapautusrytmi
Alustan julkaisut ovat tyypillisesti kuukausittaisia. Tietoturvakorjauksia voidaan julkaista myös normaalin kuukausittaisen julkaisuajan ulkopuolella, ja ne merkitään prioriteeteiksi.
Me olemme asiantuntijoita, jotka tekevät kaiken johdotuksen up
Fortytwo on arvioinut koko järjestelmän ja kytkenyt sen yhteen: identiteetin, mallien käyttöoikeuden, hallinnan, toimituksen ja koodin laadun, joka on rakennettu Azuren tekoälyominaisuuksien laajan ekosysteemin päälle.
Lähtökohtasi ovat meidän päätöksemme, ei tyhjä tilaus, vaan sen käyttö on omaa luokkaansa. Yhden hallintatason ansiosta voit itse palvella käytäntöjä, hallintaa, sovelluksia (galakseja) ja hyödyntää osaamistasi sen sijaan, että sinun tarvitsisi vaihtaa kymmenkuntaa eri Azure-portaalia.
Emme anna sinulle hajanaisia tekoälytyökaluja; annamme sinulle hallitun perustan sinä omistat.
FAQ
Miten AI Universe käyttöönotto Azure-vuokraajassa ja mitä resursseja se luo?
AI Universe käyttöönotto konttipohjaisena alustana suoraan Azure-tilaukseesi käyttämällä Bicepin infrastruktuuri-koodina -malleja, jotka on yhdenmukaistettu Microsoft Cloud Käyttöönottokehys. Käyttöönotto tarjoaa joukon Azure-resursseja kokonaan vuokraajallesi: Azure Container Apps -sovellukset ohjaustasolle ja sovelluskohtaisille ympäristöille, Azure API Management tekoälyyhdyskäytävänä, Azure AI Foundry mallille ja agentin suoritusympäristölle, Azure Key Vault salaisuuksille, Application Insights ja Log Analytics havainnoitavuutta varten sekä Microsoft Entra -sovellusrekisteröinnit sovelluskohtaista identiteettiä varten.
Fortytwo Insinöörit suorittavat alkukäyttöönoton vuokraajaasi ja luovuttavat operatiivisen hallinnan, kun käyttöönotto on vahvistettu. Kaikki valmistetut resurssit kuuluvat Azure-tilaukseesi. Fortytwo ei ylläpidä jaettua infrastruktuuria, jonka kautta tietosi tai sovellusliikenteesi kulkee käyttöönoton jälkeen.
Mikä on Azure API Managementin rooli? AI Universe, ja miksi kaikki tekoälyliikenne kulkee sen kautta?
Azure API Management on määritetty hallituksi tekoälyyhdyskäytäväksi jokaisessa AI Universe käyttöönotto. Jokainen tekoälykutsu jokaisesta sovellusympäristöstä reititetään APIM:n kautta ennen kuin se saavuttaa minkä tahansa mallin päätepisteen Azure AI Foundryssa. Sovelluskoodi ei saa kutsua mallin päätepisteitä suoraan vakiokonfiguraatiossa.
Kaiken tekoälyliikenteen reitittäminen APIM:n kautta palvelee useita tarkoituksia. Sovelluskohtaisia token-nopeusrajoituksia sovelletaan yhdyskäytäväkerroksessa, mikä estää ylimääräisen käytön ja mahdollistaa kustannusten kohdistamisen tiimin tai käyttötapauksen mukaan. Azure Content Safety -tarkistukset suoritetaan APIM:ssä ennen kuin pyynnöt saapuvat malliin. Mallin käyttöoikeuskäytännöt määrittävät, mitä mallin käyttöönottoja kukin sovellus voi kutsua. Kaikki yhdyskäytäväkäytäntötapahtumat, token-määrät ja pyyntöjen metatiedot kirjoitetaan Application Insightsiin ja Log Analyticsiin vuokraajassasi, muodostaen alustan jäsennellyn käyttö- ja tarkastuslokin.
Tämä yhden yhdyskäytävän lähestymistapa tarkoittaa, että hallintakeinoja sovelletaan johdonmukaisesti kaikissa sovelluksissa riippumatta siitä, miten yksittäiset tiimit rakentavat ominaisuuksiaan. Käytäntömuutokset tehdään kerran yhdyskäytävätasolla sen sijaan, että ne tehtäisiin erikseen jokaisessa sovelluksessa.
Mitä käyttöoikeus tekee Fortytwo säilytetäänkö asiakkaan Azure-ympäristössä alkuperäisen käyttöönoton jälkeen?
Fortytwo ei säilytä pysyvää pääsyä Azure-ympäristöösi alkuperäisen käyttöönoton vahvistamisen jälkeen. Käyttöönoton aikana Fortytwo Insinöörit saattavat tarvita tilapäisen käyttöoikeuden resurssien, kuten Key Vault -merkintöjen, APIM-käytäntöjen ja säilösovellusten asetusten, määrittämiseen. Tämä käyttöoikeus on ajallisesti rajoitettu ja peruutetaan, kun käyttöönotto on valmis ja hyväksytty.
Käyttöönoton jälkeen Fortytwojatkuvana roolina on toimittaa alustapäivityksiä uusina konttikuvina ja päivitettyinä Bicep-pohjina. Nämä toimitetaan tiimillesi ja niitä sovelletaan CI/CD-putkessasi, joka toimii hallinnassasi GitHub-organisaatiossasi tai Azure DevOps -projektissasi. Fortytwo Et voi lähettää muutoksia vuokralaisellesi, käynnistää käyttöönottoja tai muokata infrastruktuuria ilman, että tiimisi tekee nimenomaisen toiminnon.
Tapauskohtaista tukea varten tiimisi myöntää käyttöoikeudet tapauskohtaisesti tarpeen mukaan. Alustaan ei ole sisäänrakennettua pysyvää etäkäyttömekanismia.
Miten AI Universe eristääkö yksittäiset sovellukset toisistaan saman Azure-vuokraajan sisällä?
Jokainen sovellusympäristö AI Universe, jota kutsutaan galaksiksi, omaa oman eristäytyneen identiteettinsä ja tunnistetietorajansa. Eristäminen toteutetaan kolmella tasolla.
Identiteetin eristäminen: Jokaisella galaksilla on oma Microsoft Entra -sovellusrekisteröintinsä vuokraajassasi. Tunnuksia ei jaeta galaksien kesken. Galaksin sovellusrekisteröinnin peruuttaminen pysäyttää kyseisen sovelluksen välittömästi vaikuttamatta muihin samassa ympäristössä toimiviin galakseihin.
Salaisuuksien eristäminen: Kunkin galaksin salaisuudet tallennetaan Azure Key Vault -merkintöihin, jotka on kohdistettu kyseiseen galaksiin. Käyttöoikeuskäytännöt varmistavat, että galaksin säilösovellus voi hakea vain omia salaisuuksiaan. Galaksien välinen salaisuuskäyttö ei ole mahdollista vakiokokoonpanossa.
Yhdyskäytävän eristäminen: Jokainen galaksi toimii oman APIM-käytäntönsä alaisena, ja sillä on itsenäisesti määritellyt token-nopeusrajoitukset ja mallien käyttöoikeudet. Yksi galaksi ei voi käyttää toisen galaksin token-budjettia tai käyttää malleja, joita sille ei ole nimenomaisesti myönnetty.
Miten päivitykset toimitetaan?
Alustapäivitykset toimitetaan uusina säilökuvina, jotka tuodaan uudelleen ympäristöösi. Sovellusmallien päivitykset saapuvat tarkistettuina pull-pyyntöinä omiin repositorioihisi, ja infrastruktuurimuutokset otetaan uudelleen käyttöön Bicepin kautta. Näet jokaisen muutoksen ennen sen saapumista, eikä mitään muuteta hallintasi ulkopuolella.
Mitä AI Universe kustannus?
AI Universe on kiinteällä kuukausimaksulla maksettava puitesopimus. Azure-resurssit toimivat omassa vuokraajassasi, ja Microsoft laskuttaa ne omakustannushintaan. Azure Marketplacen kautta tehdyt ostot voivat vähentää Microsoft Azure -kulutussitoumustasi (MACC). Ota meihin yhteyttä saadaksesi tietoa ajankohtaisista hinnoista ja käyttöönottosuunnitelmasta.
Miten me hallitsemme AI Universe päivästä toiseen?
Yhden itsepalvelutason kautta. Käytäntöjä, hallintaa, galakseja, viisautta ja mallien käyttöoikeuksia hallitaan kaikki yhdessä paikassa, joten päivittäinen toiminta ei vaadi vaihtamista Azure-portaalien välillä. Kaikki toimii edelleen Azuren vakioresursseina omassa tilauksessasi, joten Azure-portaali ei ole koskaan suljettu sinulta, sitä ei vain tarvita päivittäiseen työhön.
Puhutaanpa tekoälystä
Onko sinulla lisää kysymyksiä teknisistä puolista AI UniverseTäytä alla oleva lomake, niin otamme sinuun yhteyttä mahdollisimman pian sopiaksemme lyhyen puhelinkeskustelun kanssasi.
