Biztonságos AI-megoldás fejlesztése
Egyedi AI-megoldást fejlesztünk biztonsági fókusszal: belső tudásbázis-keresőt, integrációt a meglévő rendszerekbe vagy AI-ágenst. A jogosultságkezelést és a naplózást már a tervezéskor beépítjük.
Mit fejlesztünk
Három megoldástípus, más-más kockázattal
A keresőnél az a kérdés, ki mit láthat a válaszokban. Az ágensnél az is, mit tehet meg a felhasználó helyett.
Belső tudásbázis-kereső
A munkatársak kérdéseire a szervezet saját dokumentumaiból keres választ. Az ilyen rendszert RAG-nak (retrieval-augmented generation) is nevezik: a modell a válasz előtt a belső forrásokból gyűjti ki a releváns részeket.
Integráció a meglévő rendszerekbe
Az AI-funkció a már használt alkalmazásba kerül, például dokumentumok összefoglalására, osztályozására vagy feldolgozására.
AI-ágens
Az ágens a válaszadáson túl műveletet is végez: fájlt olvas, levelet küld vagy API-t hív. Minél több eszközhöz fér hozzá, annál nagyobb kárt okozhat egy rosszindulatú utasítás.
A folyamat
Hogyan halad a fejlesztés
-
Követelményspecifikáció
Rögzítjük, milyen feladatot old meg a megoldás, kik használják, és milyen adatokhoz és rendszerekhez kell hozzáférnie.
-
Architektúraterv
Megtervezzük, hol fut a modell, honnan veszi az adatot, milyen eszközöket hívhat meg, és mit naplóz a rendszer.
-
Fejlesztés és tesztelés
Elkészítjük a megoldást, és élesítés előtt teszteljük. A tesztelés arra is kiterjed, hogy a jogosultsági szabályok a gyakorlatban is érvényesülnek-e.
-
Élesítés és átadás
A megoldás éles üzembe kerül, és dokumentációval együtt adjuk át a felhasználóknak és az adminisztrátoroknak. A bevezetés utáni üzemeltetés egyedi megállapodás alapján kérhető.
Biztonság a tervezéstől
Jogosultság, eszközhozzáférés, napló
A leggyakoribb súlyos hiba abból ered, milyen jogosultsággal fut a modell.
A felhasználó jogosultságával
A megoldás a felhasználó nevében, az ő jogosultságával olvassa az adatokat. Ha egy közös szolgáltatásfiók olvasná a fájlmegosztást, az asszisztensen keresztül bárki elérhetné, amit az a fiók lát, akár a bérlistát is.
Szűkre szabott eszközhozzáférés
Egy ágensnél az a kérdés, mely eszközöket hívhatja meg, hol kell a kimenetet futtatás előtt ellenőrizni, és mely műveletekhez kell emberi jóváhagyás.
Visszakövethető napló
Utólag is kiderül, ki, mikor és mit kérdezett, milyen forrásokból készült a válasz, milyen eszközt hívott meg a rendszer milyen paraméterekkel, és mi lett a kimenet.
Szállítandó anyagok
Mit kap a munka végén
átadott tétel
- Követelményspecifikáció és architektúraterv
- Fejlesztés, tesztelés és élesítés
- A felhasználói jogosultságokat követő adatkezelés és naplózás
- Felhasználói és adminisztrátori dokumentáció
Kapcsolódó szolgáltatások
Ami a fejlesztés elé és mellé tartozik
Egy már működő rendszer felülvizsgálata, a helyi futtatás és a felhasználók felkészítése külön szolgáltatás.
LLM és AI-ágens infrastruktúra biztonsági felülvizsgálata
Saját fejlesztésű vagy bevezetett nyelvi modellek, AI-ágensek és RAG-rendszerek architektúra- és konfigurációs felülvizsgálata az OWASP LLM Top 10 alapján.
Helyi (on-prem) AI telepítés
Nyelvi modell futtatása a szervezet saját infrastruktúráján, hogy az adatok ne hagyják el a házat.
Biztonsági és AI-használati tréning
Cégre szabott élő képzés vezetőknek és munkatársaknak: a klasszikus biztonsági tudatosság és az AI-eszközök biztonságos használata egy programban.
Gyakori kérdések
Amit a legtöbben kérdeznek
Kivédhető teljesen a prompt-injekció?
Teljesen nem. A nyelvi modell nem tudja megbízhatóan megkülönböztetni az utasítást az adattól, mert mindkettő szöveg. A veszélyesebb a közvetett változat, amikor a rosszindulatú utasítás egy feldolgozott dokumentumban, weboldalon vagy e-mailben rejtőzik. A védelem ezért arra épül, hogy egy sikeres injekció hatása is korlátozott maradjon. A kockázatokról az AI-bevezetés biztonsági kockázatairól szóló cikkünkben írtunk részletesen.
Mit érdemes tisztázni a fejlesztés előtt?
Először azt, milyen adatot lát majd a rendszer, és mennyire érzékeny ez az adat. Utána azt, hogy elhagyja-e az adat a szervezetet, és ha igen, van-e hozzá szerződés és jogalap. Előre el kell dönteni azt is, mi történik, ha a modell hibázik vagy nem elérhető.
Ha a modell helyben fut, rendben van a biztonság?
Az adattovábbítás kockázata megszűnik, mert az adat nem kerül harmadik félhez. A prompt-injekció és a jogosultsági kérdések viszont a telepítés helyétől függetlenül fennállnak.
