AI řekla, že je kód bezpečný. Proč jí to nestačí věřit

Co AI vidí a co ne

Jazykový model hodnotí kód, který dostane do kontextu. Mimo jeho zorné pole často zůstává:

• konfigurace databáze a přístupová pravidla nastavená mimo repozitář,
• nastavení cloudových služeb, klíče a oprávnění,
• chování běžící aplikace: co server reálně vrátí, když přijde nečekaný požadavek.

Nejčastější slepá skvrna: oprávnění jen v aplikaci

Moderní cloudové databáze (například Supabase nebo Firebase) umožňují prohlížeči komunikovat s databází přímo, pomocí veřejného klíče. Bezpečnost pak stojí na pravidlech v samotné databázi.

Pokud aplikace kontroluje, kdo smí co dělat, ale databáze ne, stačí aplikaci obejít. AI kontrola aplikačního kódu takovou chybu snadno přehlédne, protože kód sám o sobě vypadá správně.

Proč AI zní jistěji, než by měla

Modely jsou trénované být nápomocné a jasné. Odpověď „vše je v pořádku“ zní profesionálně, i když model neměl k dispozici vše potřebné. Jistota v tónu není jistota v obsahu.

Jak to děláme my

• Vývoj a kontrola s AI: Kód píšeme a kontrolujeme pomocí AI technologií. Každou změnu automaticky posoudí jazykový model v CI/CD pipeline.
• Pravidla v databázi, ne jen v aplikaci: Klient nemá práva zápisu tam, kde je nepotřebuje.
• Automatické bezpečnostní testy proti reálné databázi: Ověřují, že se nepřihlášený ani běžný uživatel nedostane k cizím datům.
• Kritický nález blokuje nasazení: Dokud není opravený, změna nejde do produkce.
• Kontrola bezpečnostním expertem: Před nasazením projde aplikaci náš bezpečnostní expert a hledá všechny možné chyby: v kódu, v databázi, v nastavení i v tom, co AI nevidí.