Bezpečnost dat ve stavební firmě: kde jsou vaše čísla, když používáte AI

11. 8. 20266 min čtení

Data každé firmy jsou v systému oddělená: omezení na vaši firmu je součástí každého dotazu do databáze, takže se k záznamům jiné firmy nedostanete ani omylem. Než dotaz odejde ke zpracování jazykovému modelu, nahradí se jména osob a firem, čísla účtů, e-maily a telefony zástupnými značkami a do odpovědi se skutečné hodnoty vrátí zpět. Odkazy, kterými klient potvrzuje nabídku, jsou navíc vyloučené z vyhledávačů, aby ceny jedné zakázky neskončily ve výsledcích hledání.

Oddělení firem: to nejdůležitější a nejméně viditelné

V systému, kde má účet mnoho firem, je nejzávažnější riziko jednoduché: aby jedna firma neviděla data druhé. Nejde přitom o hackera — stačí chyba v jednom dotazu na databázi a cizí zakázka se objeví v seznamu.

V Aistavu je proto podmínka na firmu součástí každého dotazu, ne volitelný filtr v uživatelském rozhraní. Rozdíl je zásadní: filtr v obrazovce jde obejít, podmínka v dotazu ne. Ve firmě pak ještě rozhoduje role — kdo smí vidět faktury a peníze a kdo jen svou práci.

Praktický důsledek pro vás: než dodavateli softwaru předáte data, ptejte se právě na tohle. Není to otázka na hesla a šifrování, ale na to, co se stane, když se v kódu udělá chyba.

Odkazy pro klienta, kterými uniknou ceny

Tohle je únik, o kterém se nemluví a který je ve stavebnictví velmi reálný. Když klientovi pošlete odkaz na nabídku k potvrzení, je na té stránce váš ceník pro konkrétní zakázku. Adresa je sice neuhodnutelná, ale jakmile ji někdo vloží do veřejného vlákna nebo otevře v prohlížeči se synchronizací, robot vyhledávače ji najde.

Pak se stane to nejhorší, co se cenám může stát: ceník jedné zakázky visí v Google a konkurence i další klienti ho mají k dispozici.

Aistav proto všechny odkazy tohoto typu — nabídka, potvrzení protokolu, schválení víceprací, portál subdodavatele, podpis — vyhledávačům v souboru robots.txt zakazuje procházet. Je to malé opatření, ale chrání přesně to, co má firma nejcitlivější: své ceny.

Poctivá poznámka: robots.txt je pokyn, který slušní roboti respektují, ne zámek. Skutečnou ochranou zůstává to, že adresa je neuhodnutelná a váže se na jeden konkrétní token. S odkazem proto zacházejte jako s dokumentem — posílejte ho adresátovi, ne do veřejné skupiny.

Odkazy na nabídku, protokol a vícepráce jsou vyloučené z procházení vyhledávači.
Aplikace pro partu a administrace jsou vyloučené stejně.
Veřejné jsou jen stránky, které veřejné být mají — web, blog, ceník.

Co se posílá jazykovému modelu

Aby asistent odpověděl na otázku o vaší zakázce, musí data z té zakázky vidět. Tomu se v žádném systému s AI vyhnout nedá — asistent, který o firmě nic neví, je k ničemu. Otázka tedy nezní, jestli se něco posílá, ale co a komu.

Zpracování textu, řeči a přepisu dokumentů běží u specializovaných poskytovatelů AI modelů; systém k nim posílá data potřebná pro daný úkon. Aktuální seznam poskytovatelů a smluvní podmínky jejich zpracování si vyžádejte od nás — je to údaj, který se v čase mění a nepatří na blog, kde by zastaral.

Než ale dotaz opustí systém, prochází maskováním. Jména osob a firem, čísla účtů, IBAN, rodná čísla, e-maily a telefonní čísla se nahradí zástupnými značkami typu [OSOBA_1] nebo [FIRMA_2]; model pracuje s nimi a ve výsledku, který uvidíte vy, se skutečné hodnoty zase doplní zpět. Klíč k tomuhle převodu existuje jen po dobu jednoho dotazu, v paměti — nikam se neukládá ani nezapisuje do záznamů provozu. Když maskování z nějakého důvodu selže, dotaz se raději neodešle vůbec.

Poctivá poznámka k tomu: rozpoznávání údajů ve volném textu je ze své podstaty nedokonalé a nezachytí úplně každý identifikátor. Snižuje míru toho, co odchází, ale netvrdíme, že odejde vždy jen anonymní text.

Co je naopak dané: asistent nikdy nic neodešle sám. E-mail, nabídku ani fakturu neodešle bez potvrzení člověkem, takže se nemůže stát, že by se výstup modelu dostal ven bez toho, že by si ho někdo přečetl.

Hovory na telefonní lince se nahrávají a volající je o tom informovaný hned v úvodní větě — tohle není volitelné nastavení.

Co si před nasazením ověřit

Následující body si vyžádejte písemně od kteréhokoli dodavatele, u nás včetně. Nejsou to otázky nedůvěřivého člověka, ale běžná péče o firemní data — a dodavatel, který na ně odpoví mlhavě, vám tím vlastně odpověděl.

Právní a smluvní stránku zpracování dat konzultujte se svým právníkem. Tenhle článek popisuje, jak systém funguje technicky, a není právní stanovisko.

Kde fyzicky leží databáze a kdo k ní má přístup.
Kteří poskytovatelé AI modelů zpracovávají obsah a za jakých podmínek.
Jak často se dělá záloha a jak dlouho trvá obnovení.
Jak dostanete svoje data ven, když se rozhodnete odejít.
Kdo ve vaší firmě uvidí ceny a faktury a jak se to nastavuje.

Časté otázky

Může jiná firma vidět moje zakázky a ceny?

Ne. Omezení na vaši firmu je součástí každého dotazu do databáze, ne volitelný filtr v obrazovce. Uvnitř firmy pak rozsah dále určuje role uživatele.

Neskončí nabídka, kterou pošlu klientovi odkazem, v Google?

Nemělo by. Odkazy pro klienty a subdodavatele jsou vyhledávačům v robots.txt výslovně zakázané k procházení, právě aby ceník konkrétní zakázky neskončil ve výsledcích hledání. Robots.txt je ale pokyn, ne zámek — hlavní ochranou zůstává, že adresa je neuhodnutelná, takže ji posílejte adresátovi a ne do veřejné skupiny.

Posílají se moje data jazykovému modelu?

Pro splnění úkonu ano — asistent musí vidět data, kterých se dotaz týká. Identifikátory jako jména, firmy, čísla účtů, e-maily a telefony se ale před odesláním nahradí zástupnými značkami a do odpovědi se doplní zpět; klíč k tomu existuje jen v paměti po dobu jednoho dotazu. Rozpoznávání ve volném textu je best-effort, takže stoprocentní anonymizaci netvrdíme. Aktuální seznam poskytovatelů a podmínky si od nás vyžádejte.

Může AI odeslat něco klientovi bez mého vědomí?

Ne. E-mail, nabídku ani fakturu neodesílá systém sám — připraví je a odeslání vždy potvrzuje člověk.

Přehledový průvodceUmělá inteligence ve stavebnictví: co AI ve firmě opravdu uděláSouhrn celého tématu na jednom místě — kde AI ve stavební firmě pomáhá, proč nesmí vymýšlet ceny a co nedělá.