Ep. 133 – Bezpečnosť pri programovaní s AI agentmi
🎓 Pozri náš kurz Profesionálne programovanie s AI 👉 https://streetofcode.sk/kurzy/ai
(00:00) – Úvod
(03:10) – O čom bude reč – kódovanie s agentom a appky s AI
(04:55) – Enter, enter, enter – keď Claude spúšťa príkazy za teba
(10:12) – Dangerously skip permissions
(11:52) – Keď CLAUDE.md nestačí – Claude nasadil na produkciu
(14:11) – Bezpečnosť je o trade-offoch
(16:54) – Credentials, ku ktorým Claude nemá prístup
(19:52) – Claude na pracovnom počítači
(23:35) – Balíčky, ktoré neexistujú
(24:45) – Supply chain útoky na NPM a ako sa brániť
(28:22) – Ako Claude obíde pravidlo z CLAUDE.md
(32:44) – Kam ide tvoj kód? Dáta a podmienky AI nástrojov
(39:29) – Keď si appku spraví HR – citlivé dáta a AI
(43:23) – Čo je sandboxing?
(53:21) – Prečo nemať secret ani v privátnom repe
(56:11) – Kde teda držať secrety?
(1:03:50) – Rada pre neprogramátorov – pýtaj sa Clauda
(1:05:51) – Appky, ktoré volajú AI na pozadí
(1:08:08) – Citlivé dáta a kontajnery
(1:14:20) – Väčšine appiek stačí jedno LLM volanie
(1:19:37) – Ako spraviť jednoduchú AI appku bezpečne?
(1:23:36) – Najčastejšia chyba – API kľúč vo frontende
(1:27:46) – Tri bezpečnostné chyby v Kubovej appke
(1:32:18) – Celá epizóda v 10 sekundách – security review
(1:34:12) – Prompt injection
(1:38:19) – Spending limity pre AI v appke
(1:39:45) – Pokazíme si popularitu? A záver
🔐 BEZPEČNOSŤ PRI VÝVOJI SOFTVÉRU – VIAC, AKO SME STIHLI POVEDAŤ:
Ako sme sľúbili na začiatku epizódy, tu je viac o bezpečnosti pri vývoji softvéru všeobecne.
OWASP – základ, z ktorého vychádza väčšina security review:
– OWASP Top 10 – najčastejšie zraniteľnosti webových aplikácií, napríklad chýbajúca kontrola prístupu (ako GET receptu s cudzím ID v Kubovej appke) – https://owasp.org/www-project-top-ten/
– OWASP Top 10 pre LLM aplikácie – prompt injection, únik citlivých dát, agenti s priveľkými právomocami – https://genai.owasp.org/
– OWASP Top 10 pre agentické aplikácie – riziká AI agentov, ktoré konajú samy, napríklad keď im niekto podstrčí iný cieľ alebo zneužije ich nástroje – https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
– OWASP ASVS – podrobný checklist, podľa ktorého overíš, či je tvoja appka naozaj bezpečná – https://owasp.org/www-project-application-security-verification-standard/
– OWASP Cheat Sheet Series – krátke návody k jednotlivým témam: secrety, autentifikácia, SSRF… – https://cheatsheetseries.owasp.org/
Viac ako iba „spusti security review“:
– /security-review v Claude Code – ako funguje a ako ho spúšťať automaticky – https://support.claude.com/en/articles/11932705-automated-security-reviews-in-claude-code
– Claude Code Security Review – GitHub Action od Anthropicu, ktorá spraví security review pri každom pull requeste – https://github.com/anthropics/claude-code-security-review
– security-guidance – oficiálny plugin pre Claude Code: upozorní na nebezpečný kód hneď pri písaní, po každej odpovedi skontroluje zmeny a pri commite prejde aj súvisiace súbory (injection, XSS, secrety v kóde, chýbajúca kontrola prístupu…) – https://github.com/anthropics/claude-plugins-official/tree/main/plugins/security-guidance
– Trail of Bits skills – security skilly od firmy, ktorá robí bezpečnostné audity: statická analýza (Semgrep, CodeQL), audit závislostí a nebezpečné predvolené nastavenia – https://github.com/trailofbits/skills
✅ ČO SI Z EPIZÓDY ODNIESŤ:
– Nedávaj agentovi prístup k zložkám mimo projektu (Downloads, Documents…).
– Pravidlo v CLAUDE.md nie je zábrana. Čo agent nesmie, obmedz v nastaveniach (permissions, hooks) alebo to sprav tak, aby to technicky nevedel urobiť.
– Inštaluj iba balíčky, ktoré sú vonku aspoň týždeň-dva (dá sa to nastaviť v package manageri), pinuj verzie a spúšťaj npm audit.
– Pozeraj diff – hlavne zmeny v package.json a v konfiguráciách.
– Secrety nepatria do repa ani do .env súboru, ktorý agent vidí. Použi secret manager tam, kde appku nasadzuješ.
– Agenta, ktorý beží sám (napríklad s dangerously skip permissions), púšťaj v sandboxe – na virtuálnej mašine alebo v kontajneri.
– API kľúč k AI patrí na backend, nie do frontendu. Premenné s prefixom NEXT_PUBLIC_ vidí každý v prehliadači.
– Nastav si spending limity pre AI – na usera aj celkovo.
– Vstup od userov (a od iných agentov) ber ako nedôveryhodný – pozor na prompt injection.
– Security review spúšťaj pravidelne, ideálne pri každej zmene, a s najlepším modelom, aký máš.
🔒 AKO S TVOJÍM KÓDOM NARÁBAJÚ AI NÁSTROJE:
V epizóde sme vychádzali z podmienok spred roka. Aktuálne nájdeš tu:
– Anthropic (Claude, Claude Code) – uchovávanie a použitie dát – https://code.claude.com/docs/en/data-usage
– Cursor – privacy mode a uchovávanie dát – https://cursor.com/data-use
– GitHub Copilot – od 24. apríla 2026 používa dáta z osobných plánov (Free, Pro, Pro+) aj na tréning, kým to v nastaveniach nevypneš – https://github.blog/news-insights/company-news/updates-to-github-copilot-interaction-data-usage-policy/
🔗 SPOMENUTÉ V EPIZÓDE:
– Claude Code – permissions – https://code.claude.com/docs/en/permissions
– Claude Code – hooks – https://code.claude.com/docs/en/hooks
– Kubova appka na recepty ThymeList – https://thymelist.com/sk
– npm audit – https://docs.npmjs.com/cli/commands/npm-audit
– Inštalovať iba balíčky staršie ako X dní – npm: https://docs.npmjs.com/cli/v11/using-npm/config#min-release-age , pnpm: https://pnpm.io/settings/dependency-resolution#minimumreleaseage
– Balíčky, ktoré si AI vymyslí, a útočníci ich potom vytvoria („slopsquatting“) – https://socket.dev/glossary/slopsquatting
– GitHub fine-grained personal access tokens – https://docs.github.com/en/authentication/keeping-your-account-and-data-secure/managing-your-personal-access-tokens
– E2B – sandboxy a kontajnery pre AI agentov – https://e2b.dev
– Firecracker – malé virtuálne mašiny, ktoré sa spustia za zlomok sekundy – https://firecracker-microvm.github.io/
– Convex – backend, ktorý používa Kubo – https://www.convex.dev
– AWS Secrets Manager – https://aws.amazon.com/secrets-manager/
– Google Cloud Secret Manager – https://cloud.google.com/security/products/secret-manager
– Next.js – premenné prostredia a NEXT_PUBLIC_ – https://nextjs.org/docs/app/guides/environment-variables
🔗 NAŠE MINULÉ AI EPIZÓDY:
– Ep. 132 – Oplatí sa ešte učiť programovať? – https://streetofcode.sk/podcast/ep-132-oplati-sa-este-ucit-programovat
– Ep. 131 – Ako dnes (ne) programujeme – https://streetofcode.sk/podcast/ep-131-ako-dnes-ne-programujeme
– Ep. 128 – Budúcnosť programovania – AI miniséria 3/3 – https://streetofcode.sk/podcast/buducnost-programovania
– Ep. 127 – Programovanie s AI – AI miniséria 2/3 – https://streetofcode.sk/podcast/ep-127-programovanie-s-ai
– Ep. 126 – AI: Mýtus vs. Realita – AI miniséria 1/3 – https://streetofcode.sk/podcast/ai-mytus-vs-realita
Zabudli sme na niečo dôležité? Daj nám vedieť na Discorde – kľudne k tomu spravíme aj doplňujúcu epizódu.
💬 Pridaj sa na discord – https://streetofcode.sk/discord
👨 FB – https://streetofcode.sk/facebook
📸 Instagram – https://streetofcode.sk/instagram
🗞️ Prihlás sa na náš newsletter – https://streetofcode.sk/newsletter
