AI Universe teknisk brief
Hvordan AI Universe distribueres i Azure-leietakeren din.
Denne siden dekker hvordan AI Universe distribueres i Azure-leieren din: hvordan plattformen er strukturert, hva hvert lag er ansvarlig for, og hvor grensene for eierskap og kontroll ligger.
AI Universe is ikke en SaaS-plattform drevet av FortytwoDen distribueres i ditt eget Azure-abonnement, og du eier og kontrollerer alle Azure-ressurser fra dag én.
Plattformoversikt
Plattformen integrerer Azure AI Foundry, Azure API Management (som fungerer som AI-gateway), Microsoft Entra ID, Key Vault, Application Insights, Log Analytics, GitHub eller Azure DevOps, og Bicep-infrastruktur som kode i én enkelt, styrt distribusjonsmodell.
Designhensikten er å gi teamet ditt en AI-funksjonalitet i produksjonsklassen som opererer innenfor grensene for din eksisterende styrings- og sikkerhetsposisjon, uten å kreve et separat SaaS-abonnement, en tredjeparts databehandler eller en ny tillitsgrense. Hver komponent befinner seg i Azure-leietakeren din. Fortytwo leverer den første utrullingen og støtter løpende drift, men driver ikke infrastruktur på dine vegne eller beholder vedvarende tilgang etter at utrullingen er fullført.
Stiftelsen
Vibe-koding trenger rekkverk. I denne artikkelen kan du lese mer om hvorfor AI-agenter i bygninger trenger et fundament og rørleggerarbeid som er repeterbart og sikkert.
Lagdelt distribusjonsmodell
Alle lagene befinner seg i Azure-leietakeren din. Hvert lag har en distinkt ansvarsgrense, og ingen komponenter sender data til Fortytwo infrastruktur.
Hva bor hvor
Hver komponent i en standard AI Universe distribusjonen ligger i Azure-leietakeren din. Tabellen nedenfor tilordner hver komponent til plassering, eier og relevante merknader.
Azure API Management som styrt frontport
Azure API-administrasjon er enkelt styrt inngangspunkt for all AI-trafikk i en AI Universe distribusjon. Hver galakse kaller alle modeller gjennom APIM. Ingen applikasjonskode når modellens endepunkter direkte.
Grenser for tokenhastighet
Hver galakses APIM-policy definerer maksimale tokenforbruksrater. Dette forhindrer ukontrollert bruk og muliggjør kostnadsfordeling per team eller brukstilfelle.
Azure-innholdssikkerhet
Innholdssikkerhetskontroller utføres på APIM-laget før forespørsler når modellen, noe som sikrer konsekvent håndheving av innholdspolicyer uavhengig av den kallende galaksen.
Modelltilgang
APIM-policyen bestemmer hvilke modelldistribusjoner hver galakse har tilgang til. En galakse kan bare kalle modeller den eksplisitt har fått tilgang til.
Tokenbruk
Alle gateway-policyhendelser, tokenantall og forespørselsmetadata sendes til Application Insights og Log Analytics, noe som muliggjør bruksrapportering og kostnadsanalyse per galakse.
Rask injeksjon
Azure AI Foundry Prompt Shields opererer på AI Runtime-laget, ikke på APIM. Injeksjonsforsvar og innholdssikkerhet brukes på forskjellige punkter i forespørselsbanen.
Governance
Hvert AI-kall går gjennom APIM og styres av Azure-policyhåndhevelsen din. Dette er det eneste inngangspunktet for AI.
Bedriftens AI-strategi
En Copilot-lisens kan hjelpe folk med å jobbe raskere, men en bredere AI-strategi for bedrifter bør hjelpe organisasjonen din med å bygge, styre og drifte bedre AI-aktiverte funksjoner.
Microsoft Entra ID-integrasjon
Identitet i AI Universe er utelukkende basert på Microsoft Entra ID. Det finnes ingen separate brukerkataloger eller legitimasjonslagre som administreres av Fortytwo.
Registrering av app per galakse
Hver galakse får sin egen Entra-appregistrering i leietakeren din, med isolerte klientlegitimasjoner og samtykkeinnvilgninger. Ingen delte tjenestekontoer.
Galaxy-nøkkel som primær legitimasjon
Galaxy-nøkkelen er avledet fra appregistreringens klienthemmelighet. Tilbakekalling av nøkkelen stopper umiddelbart Galaxys evne til å autentisere. Det finnes ingen sekundær tilgangsvei.
Rollebasert plattformadministrasjon
Plattformnivåoperasjoner styres av Entra-administrerte roller. Rolletildelinger administreres av identitetsadministratorene dine, ikke Fortytwo.
Ingen delte legitimasjonsdetaljer på tvers av galakser
Galakser deler ikke legitimasjon, appregistreringer eller tilgangspolicyer for nøkkelhvelv. En kompromittert galakselegitimasjon kan ikke nå en annen galakses ressurser.
Azure Key Vault
Alle plattform- og Galaxy-hemmeligheter lagres i Azure Key Vault-forekomster i Azure-leieren din. Fortytwo driver ikke et lager for delte hemmeligheter og beholder ikke vedvarende tilgang til nøkkelhvelvene dine etter at den første distribusjonen er fullført.
Isolasjon per galakse
Hver galakses hemmeligheter oppbevares i Key Vault-oppføringer som er knyttet til den galaksen. Tilgangspolicyer sikrer at en galakses containerapp bare kan hente sine egne hemmeligheter. Tilgang til hemmeligheter på tvers av galakser er ikke mulig under standardkonfigurasjonen.
Fortytwo tilgangsmodell
Under den første utplasseringen, Fortytwo Ingeniører kan trenge midlertidig tilgang for å konfigurere Key Vault-oppføringer. Denne tilgangen er tidsbegrenset, dokumentert og tilbakekalt etter at distribusjonen er bekreftet. Fortytwo beholder ikke stående tilgang til nøkkelhvelvene dine i produksjon.
Git-basert levering
Hver galakse leveres som et Git-repository under GitHub-organisasjonen eller Azure DevOps-prosjektet ditt. Repositoriet er det autoritative leveringsbildet for den galaksen. Alle infrastrukturendringer flyter gjennom repositoriets CI/CD-pipeline.
Applikasjonsinnsikt og logganalyse
Observabilitet er bygget på Azure-native verktøy. All telemetri skrives til arbeidsområdene dine i Azure-leietakeren din.
AI-bruk og -kostnader
Tokenforbruk, antall modellkall og utledede kostnader spores per galakse gjennom APIM-policyhendelser som videresendes til Application Insights. Dette muliggjør kostnadstildeling og kapasitetsplanlegging per team.
Gateway-policyhendelser
Avgjørelser om innholdssikkerhet, hendelser knyttet til hastighetsbegrensning og utfall av modelltilgangskontroll skrives som strukturerte loggoppføringer i Log Analytics. Disse danner revisjonssporet for gateway-håndhevelse.
Applikasjonstilstand
Helse for containerapper, feilrater og avhengighetsforsinkelse registreres i Application Insights. Varsler og dashbord kan konfigureres av driftsteamet ditt ved hjelp av standard Azure Monitor-verktøy.
Har du spørsmål?
Nå ut til Fortytwo teamet hvis du vil vite mer om utrulling. Vi diskuterer gjerne de tekniske detaljene, ditt spesifikke Azure-oppsett eller hva en utrulling vil innebære for din organisasjon.
Oppdater og lanser modell
Fortytwo leverer plattformoppdateringer som nye containerbilder og oppdaterte Bicep-maler. Oppdateringer kommuniseres gjennom standard utgivelsesprosess. Utgivelsesnotater, endringslogg og eventuelle nødvendige migreringstrinn dokumenteres før levering.
Du kontrollerer når oppdateringer installeres, og Fortytwo sender ikke endringer til leietakeren din, utløser ikke distribusjoner eller endrer infrastruktur uten din eksplisitte handling. CI/CD-pipelinen, som eies og drives av deg, er den eneste mekanismen som endringer implementeres gjennom.
Brytende endringer
Avgjørende endringer kunngjøres med minst to utgivelsessyklusers varsel. Migreringsveiledninger følger med alle avgjørende endringer.
Rollback
Hver build kjører hemmelig. Fordi all infrastruktur er kodifisert i Bicep og applikasjonsversjoner er merket med containerbilder, kan kunder rulle tilbake ved å tilbakestille depotet og kjøre pipelinen på nytt.
Utgivelseskadens
Plattformutgivelser skjer vanligvis månedlig. Sikkerhetsoppdateringer kan utstedes utenfor den vanlige rytmen og vil bli markert som prioritert.
Vi er ekspertene som kobler alt up
Fortytwo har utformet hele oppsettet og koblet det sammen: identitet, modelltilgang, styring, levering og kodekvalitet, bygget på det enorme økosystemet av AI-funksjoner i Azure.
Du starter med våre beslutninger, ikke et tomt abonnement, men du driver det selv. Å ha ett kontrollplan gir deg selvbetjening over policy, styring, applikasjoner (galakser) og visdom, i stedet for å bytte mellom et dusin forskjellige Azure-portaler.
Vi gir deg ikke spredte AI-verktøy; vi gir deg et styrt fundament. du eier.
FAQ
Hvordan gjør AI Universe distribuere i en Azure-leier, og hvilke ressurser oppretter det?
AI Universe distribueres som en containerbasert plattform direkte i Azure-abonnementet ditt ved hjelp av Bicep-infrastruktur-som-kode-maler som er justert med Microsoft Cloud Adopsjonsrammeverk. Distribusjonen sørger for et sett med Azure-ressurser som er fullstendig innenfor leietakeren din: Azure Container Apps for kontrollplanet og miljøer per applikasjon, Azure API Management som AI-gateway, Azure AI Foundry for modell- og agentkjøring, Azure Key Vault for hemmeligheter, Application Insights og Log Analytics for observerbarhet og Microsoft Entra App Registrations for identitet per applikasjon.
Fortytwo Ingeniører utfører den første utrullingen i leietakeren din og overfører driftskontrollen når utrullingen er bekreftet. Alle klargjorte ressurser tilhører Azure-abonnementet ditt. Fortytwo driver ingen delt infrastruktur som data- eller applikasjonstrafikken din går gjennom etter at utrullingen er fullført.
Hva er rollen til Azure API Management i AI Universe, og hvorfor går all AI-trafikk gjennom den?
Azure API Management er konfigurert som den styrte AI-gatewayen i alle AI Universe distribusjon. Hvert AI-kall fra alle applikasjonsmiljøer rutes gjennom APIM før det når et modellendepunkt i Azure AI Foundry. Ingen applikasjonskode har lov til å kalle modellendepunkter direkte under standardkonfigurasjonen.
Ruting av all AI-trafikk gjennom APIM tjener flere formål. Tokenrategrenser brukes per applikasjon på gateway-laget, noe som forhindrer uoversiktlig bruk og muliggjør kostnadstildeling etter team eller brukstilfelle. Azure Content Safety-kontroller kjører på APIM før forespørsler når modellen. Modelltilgangspolicyer bestemmer hvilke modelldistribusjoner hver applikasjon kan kalle. Alle gatewaypolicyhendelser, tokenantall og forespørselsmetadata skrives til Application Insights og Log Analytics i leietakeren din, og danner den strukturerte bruks- og revisjonsloggen for plattformen.
Denne tilnærmingen med én gateway betyr at styringskontroller brukes konsekvent på tvers av alle applikasjoner, uavhengig av hvordan individuelle team bygger funksjonene sine. Policyendringer gjøres én gang på gateway-laget i stedet for i hver applikasjon separat.
Hva tilgang gjør Fortytwo beholde i en kundes Azure-miljø etter at den første utrullingen er fullført?
Fortytwo beholder ikke permanent tilgang til Azure-miljøet ditt etter at den første distribusjonen er bekreftet. Under distribusjonen, Fortytwo Ingeniører kan trenge midlertidig tilgang for å konfigurere ressurser, inkludert Key Vault-oppføringer, APIM-policyer og innstillinger for containerapper. Denne tilgangen er tidsbegrenset og tilbakekalles når distribusjonen er fullført og signert.
Etter utplassering, Fortytwos løpende rolle er å levere plattformoppdateringer som nye containerbilder og oppdaterte Bicep-maler. Disse leveres til teamet ditt og brukes av CI/CD-pipelinen din, som kjører under din kontroll i GitHub-organisasjonen eller Azure DevOps-prosjektet ditt. Fortytwo kan ikke sende endringer til leietakeren din, utløse distribusjoner eller endre infrastruktur uten at teamet ditt foretar seg en eksplisitt handling.
For hendelsesstøtte gir teamet ditt tilgang fra sak til sak etter behov. Det er ingen permanent mekanisme for ekstern tilgang innebygd i plattformen.
Hvordan gjør AI Universe isolere individuelle applikasjoner fra hverandre innenfor samme Azure-leier?
Hvert applikasjonsmiljø i AI Universe, referert til som en galakse, har sin egen isolerte identitet og legitimasjonsgrense. Isolasjon implementeres på tre nivåer.
Identitetsisolasjon: Hver galakse har sin egen Microsoft Entra-appregistrering i leieren din. Legitimasjon deles ikke mellom galakser. Hvis du tilbakekaller en galakses appregistrering, stoppes den applikasjonen umiddelbart uten å påvirke noen annen galakse som kjører i samme miljø.
Hemmeligheter isolasjon: Hemmelighetene til hver galakse oppbevares i Azure Key Vault-oppføringer som er knyttet til den galaksen. Tilgangspolicyer sikrer at en galakses containerapp bare kan hente sine egne hemmeligheter. Tilgang til hemmeligheter på tvers av galakser er ikke mulig under standardkonfigurasjonen.
Gateway-isolering: Hver galakse opererer under sitt eget APIM-policyomfang, med uavhengig konfigurerte tokenrategrenser og modelltilgangstillatelser. Én galakse kan ikke forbruke en annen galakses tokenbudsjett eller få tilgang til modeller den ikke eksplisitt har fått tildelt.
Hvordan leveres oppdateringer?
Plattformoppdateringer leveres som nye containerbilder som importeres på nytt til miljøet ditt. Oppdateringer av applikasjonsmaler kommer som gjennomgåtte pull-forespørsler til dine egne repositorier, og infrastrukturendringer implementeres på nytt via Bicep. Du ser hver endring før den implementeres, og ingenting endres utenfor din kontroll.
Hva betyr AI Universe koste?
AI Universe er et rammeabonnement til en fast månedlig avgift. Azure-ressurser kjører i din egen leietaker og faktureres av Microsoft til kostpris, og kjøp gjennom Azure Marketplace kan redusere din Microsoft Azure Consumption Commitment (MACC). Kontakt oss for gjeldende priser og en distribusjonsplan.
Hvordan klarer vi oss AI Universe dag til dag?
Gjennom ett selvbetjent kontrollplan. Policy, styring, galakser, visdom og modelltilgang administreres på ett sted, slik at den daglige driften ikke krever bytting mellom Azure-portaler. Alt kjører fortsatt som standard Azure-ressurser i ditt eget abonnement, så Azure-portalen er aldri stengt for deg, den er bare ikke nødvendig for det daglige arbeidet.
La oss snakke om AI
Har du flere spørsmål om de tekniske sidene ved AI UniverseVennligst fyll ut skjemaet nedenfor, så tar vi kontakt med deg så snart som mulig for å avtale en kort samtale med deg.
