Informatikai infrastruktúrát építünk, ma már saját AI-szerverrel is: on-premise GPU szervert vagy privát felhőt, önhosztolt modellekkel és GDPR-kompatibilis üzemeltetéssel. Kkv-knak, amelyeknek fontos, hogy az adataik a saját környezetükben maradjanak.
A ChatGPT-be bemásolt ügyféladat adatkockázat. Ha az AI-t érdemi munkára fogod (szerződésekre, ügyféladatokra, belső dokumentumokra), előbb-utóbb kell egy hely, ahol a modell a te felügyeleted alatt fut. Mi ezt tervezzük és építjük: GPU-szervert házon belül vagy privát felhőben, önhosztolt modellekkel, úgy, hogy az adat ne hagyja el a céget.
Az ügyféladatok, szerződések és belső dokumentumok nem utaznak külföldi API-k felé. A modell nálad fut, és te döntöd el, mi hagyhatja el a céget.
A használatalapú API-díjak a forgalommal együtt nőnek, és nehéz őket tervezni. A saját infrastruktúra egyszeri beruházás és ismert üzemeltetési költség. Nagy volumen mellett jellemzően ez éri meg jobban.
A hardvert a futó modellekhez és a terheléshez méretezzük, nem a legdrágább GPU-hoz.
A telepítés után is ott vagyunk: monitorozás, frissítések, modellcserék, skálázás. Ha valami elhasal éjjel, arról nem az ügyfeleidtől értesülsz.
Végigvesszük a folyamataidat, és megkeressük, hol veszít a legtöbb időt és pénzt a vállalkozásod. Nem fejlesztünk vakon: minden döntés mögött adat áll.
Konkrét megoldást tervezünk, mérhető célokkal és világos ütemtervvel. Előre tudod, mit kapsz, mennyiért és mikorra.
Megépítjük a rendszert, és a saját folyamataidhoz igazítjuk. Rövid ciklusokban dolgozunk, hogy folyamatosan lásd a haladást.
Élesítjük a rendszert, betanítjuk a csapatodat, utána pedig üzemeltetjük és támogatjuk.
A hardver a feladattól függ: egy kisebb gép és egy több GPU-s fürt között nagyságrendi a különbség. Tervezéssel és beállítással együtt egy fókuszált projekt néhány százezer forinttól indul, a pontos számot felmérés után adjuk meg. Ha a te volumenednél még nem éri meg saját vasat venni, azt is megmondjuk, és privát felhőt javaslunk.
Privát felhős környezetnél a bevezetés jellemzően hetekben mérhető, fizikai szervernél a hardverbeszerzés ideje is beleszámít. Egy tipikus projekt felméréssel, telepítéssel és betanítással együtt tájékoztató jelleggel egy-két hónap. Az első működő verziót mindig hamarabb megkapod, mint a teljes kiépítést.
Az önhosztolt modellek ugyanolyan API-n keresztül szólíthatók meg, mint a nagy szolgáltatók modelljei, ezért a meglévő szoftvereid többnyire minimális módosítással átállnak. Összekötjük a vállalatirányítási rendszerrel, a dokumentumtárral vagy az ügyfélkezelővel, amit ma is használsz. Ha ehhez egyedi fejlesztés kell, azt is mi visszük.
Abban az értelemben igen, hogy az adat fizikailag nálad marad: nem kerül külső szolgáltatóhoz, és nem függsz annak adatkezelési gyakorlatától. GDPR-oldalról ez jelentősen egyszerűsíti az adatkezelői felelősséget. A biztonság másik fele az üzemeltetés: a hozzáférés-kezelést, a naplózást és a mentést is mi állítjuk be és felügyeljük.
A Brauniq Solution Kft. 2014 óta működő, budapesti székhelyű informatikai szolgáltató. Tevékenységünk az informatikai infrastruktúra, az adatfeldolgozás területéről indult.
Az informatikai infrastruktúra tervezését és kiépítését, GPU-szerverek tervezését és telepítését, privát, saját szerveren futó modelleket, valamint a monitorozást és a skálázást.
Az első felmérés ingyenes: végignézzük a folyamataidat, és megmondjuk, mivel érdemes kezdeni, kötelezettség nélkül.
