Čo je Microsoft Foundry? Vývoj a správa AI aplikácií


Microsoft Foundry, predtým známy aj ako Azure AI Foundry, je platforma spoločnosti Microsoft na vývoj, testovanie, vyhodnocovanie a správu AI aplikácií a agentov.

Poskytuje prostredie na prácu s AI modelmi, vývoj aplikácií, integráciu s ďalšími službami a vyhodnocovanie kvality, spoľahlivosti a bezpečnosti AI riešení.

Microsoft Foundry je určený predovšetkým vývojárom, AI inžinierom a organizáciám, ktoré chcú vytvárať vlastné riešenia využívajúce generatívnu umelú inteligenciu.





Na čo slúži Microsoft Foundry?


Microsoft Foundry spája nástroje, ktoré sú užitočné v rôznych fázach životného cyklu AI aplikácie:

  • Výber AI modelov: práca s dostupnými modelmi podľa požiadaviek riešenia.
  • Vývoj: tvorba aplikácií a agentov pomocou podporovaných SDK a API.
  • Vyhodnocovanie: testovanie kvality odpovedí, bezpečnosti a ďalších vlastností riešenia.
  • Prevádzka: nasadenie a sledovanie správania aplikácií v podporovanom prostredí.
  • Správa a governance: kontrola prístupov, konfigurácie a vybraných prevádzkových pravidiel.

Konkrétne možnosti závisia od typu modelu, zvolených služieb a konfigurácie projektu.





Ako funguje vývoj AI aplikácie vo Foundry?


Typický projekt začína definovaním prípadu použitia a požiadaviek na kvalitu, bezpečnosť, výkon a náklady.

Následne vývojový tím vyberie vhodný model, pripraví integračnú architektúru a vytvorí prvú verziu aplikácie. Tá môže pracovať s používateľskými požiadavkami, dokumentmi alebo ďalšími informačnými zdrojmi.

Pred nasadením do produkcie je potrebné otestovať výstupy, vyhodnotiť rizikové scenáre a nastaviť pravidlá prevádzky a monitorovania.





Praktický príklad: AI asistent nad firemnými dokumentmi


Predstavme si spoločnosť, ktorá chce vytvoriť asistenta odpovedajúceho na otázky zamestnancov o interných procesoch.

Jedným z možných prístupov je riešenie využívajúce RAG (Retrieval-Augmented Generation). Aplikácia pri spracovaní otázky vyhľadá relevantné informácie v oprávnených zdrojoch a poskytne ich AI modelu ako kontext na vytvorenie odpovede.

Otázka zamestnanca: „Aký je postup pri schvaľovaní dodávateľskej faktúry?“

Asistent môže vyhľadať relevantné pravidlá, zostaviť odpoveď a podľa návrhu riešenia odkázať na použitý dokument.

Vývojový tím musí zároveň zabezpečiť, aby aplikácia rešpektovala prístupové oprávnenia a nevytvárala nepodložené tvrdenia tam, kde podklady nestačia.





Vyhodnocovanie AI modelov a agentov


Jednou z dôležitých oblastí Microsoft Foundry je evaluácia AI riešení. Nestačí overiť, že model dokáže vygenerovať odpoveď. Potrebujeme zistiť, či spĺňa požiadavky konkrétnej úlohy.

Pri vyhodnocovaní môžeme sledovať napríklad:

  • správnosť a relevantnosť odpovedí,
  • dodržiavanie inštrukcií,
  • podloženie výsledkov dostupnými zdrojmi,
  • bezpečnostné riziká a nežiaduce správanie,
  • latenciu, spotrebu a náklady.

Výsledky hodnotenia pomáhajú rozhodnúť, či je riešenie pripravené na nasadenie alebo potrebuje ďalšie úpravy.





Microsoft Foundry vs. Copilot Studio


Obe platformy umožňujú vytvárať riešenia využívajúce generatívnu AI, ale pristupujú k vývoju odlišne.

Copilot Studio sa orientuje na low-code vytváranie agentov a integráciu s podnikovými pracovnými postupmi.

Microsoft Foundry poskytuje širší priestor pre programový vývoj, prácu s modelmi, vlastnú architektúru a technické vyhodnocovanie AI aplikácií.

V niektorých prípadoch sa môžu obe platformy dopĺňať. Výber závisí od technických a prevádzkových požiadaviek.

Čo je Copilot Studio? →





Bezpečnosť a AI governance


Pri vývoji podnikových AI riešení je potrebné riešiť ochranu údajov, identitu používateľov, riadenie prístupu, logovanie, monitorovanie aj bezpečnosť externých integrácií.

Dôležitou súčasťou je tiež systematické testovanie rizikových scenárov, ochrana pred prompt injection útokmi a kontrola nad tým, aké nástroje alebo akcie môže agent vykonávať.

Pri regulovaných prípadoch použitia treba zohľadniť aj relevantné požiadavky GDPR, AI Act a interné bezpečnostné pravidlá organizácie.





Vývoj vlastného AI riešenia


V Prompts pomáhame firmám vyhodnotiť možnosti využitia generatívnej AI, vybrať vhodnú technológiu a navrhnúť praktické riešenia s prihliadnutím na bezpečnosť a obchodný prínos.