Безпека використання ШІ
Для тих, хто в компанії відповідає за доступи, акаунти й дані: ризики, правила й способи захисту, коли працівники користуються ШІ.
Основи — у Довіднику
весь довідник →- Куди можна вантажити робочі дані
- Чого не завантажувати на споживчих тарифах
- Як анонімізувати правильно
- Червоні лінії — де людина обов'язкова
- Промт для перевірки файлу перед завантаженням
Матеріали розділу
Muse від Meta: більше стежить, ніж допомагає
За тиждень Muse від Meta завантажили понад 900 тис. разів (Sensor Tower). Агент сам ходить по сайтах через «віртуальну машину»: бронює столики, купує на Marketplace, замовляє їжу. …
Вразливостей у софті стало вдвічі більше за рік
Microsoft цього місяця випустила патчі для 974 CVE — рекорд. Oracle в липні закрила 1448 вразливостей проти 309 торік. Chrome за два релізи червня отримав 1072 патчі — більше, ніж …
Малвар радиться з чотирма ШІ одразу
Cisco Talos у понеділок опублікували відкритий фреймворк CAIRN для класифікації ШІ-малваре. Перша знахідка — CLOSEDQUORUM: Windows-малвар опитує до чотирьох LLM (DeepSeek, Qwen, Mi…
Як Benchling ізолювали ШІ-агентів для тисяч клієнтів
Benchling запускає ШІ-згенерований науковий код для понад 250 тенантів щотижня — понад 600 сеансів на день, нуль інцидентів безпеки. Виконання ізольоване в окремому AWS-акаунті без…
16 тисяч баз Supabase злили особисті дані
Кібербезпекова фірма UpGuard виявила близько 16 000 баз даних на Supabase із публічно доступними іменами, адресами, телефонами та паролями користувачів. Серед знайденого — приватне…
ШІ-агенти в компаніях уже конфліктують одне з одним
Понад 60% компаній зі списку Fortune 500 будують стратегії впровадження AI-агентів, а кількість мультиагентних систем зросла на 327% менш ніж за чотири місяці (Databricks). Приклад…
Альянс Okta вимагає kill switch для AI-агентів
Okta, AWS, Google Cloud, Salesforce та інші створили Blueprint Alliance — оголошено цього тижня на Oktane. Перший блюпринт вимагає відповіді на 4 питання: де агенти, що вони можуть…
Ізоляція ШІ-агентів від мережі не рятує повністю
Дослідники обговорюють air gapping — фізичне відключення тестових комп'ютерів з ШІ-агентами від інтернету — після того, як моделі OpenAI під час тестів атакували Hugging Face. Мето…
ШІ-агенти зламали чужі системи заради завдання
Агенти OpenAI зламали Hugging Face, щоб дістати відповіді на тест із кібербезпеки, а математичну задачу нібито «розв'язали», скопіювавши відповіді двох математиків. Anthropic зафік…
Чому агентам ШІ не підходить data lake
Автор пропонує принцип «Rule of Record»: агенти мають діяти на «Golden Source» — робочій системі, а не на копії даних у lakehouse. Копія втрачає блокування транзакцій, права доступ…
Банки попереджають про ризики ШІ-агентів у шопінгу
Bank of America, Capital One та ще чотири великі банки США заявили, що зростання автономності агентних чат-ботів для покупок може призвести до більшої кількості шахрайств, фрода та…
ШІ-чатбот допоміг зламати 12 000 акаунтів Microsoft
Платформу EvilTokens продавали в Telegram з лютого за $1500 разово плюс $500/міс. ШІ-чатбот усередині сервісу аналізував зламані поштові скриньки, визначав, хто підписує платежі, і…
Коли ШІ-агент звітує успіх, а стан губиться
Інженер OpenAI Вінот Говіндараджан на InfoQ розібрав баг проєкту OpenClaw: агента попросили запамʼятати повернення коштів. Бот відповів «запамʼятаю», Telegram-повідомлення дійшло —…
Anthropic визнав: моделі 4 рази самі зламували системи
У звіті цього тижня Anthropic визнала чотири випадки, коли її моделі самі зламували чужі системи — крали токени й паролі, атакували вебзастосунки з даними користувачів. Найгучніший…
ШІ-агенти співробітників — новий ризик на кшталт Excel
У 2012-2022 роках банки роками виправляли ризик безконтрольних Excel-таблиць, що непомітно ставали джерелом даних для звітності регулятору. AWS показує: сценарій повторюється з cop…
Google навчив ШІ-агентів розпізнавати намір, а не синтаксис
Google Cloud показав триступеневий захист агентів на Gemini Enterprise Agent Platform. Приклад: клієнт ввічливо просить повернути $120 за ліцензію Workplace із замовлення на $149 —…
Anthropic розкрила кремлівську кібероперацію проти України
Група GTG-20006, повʼязана з Midnight Blizzard, перевіряла пошту й доступ понад 20 держорганізацій України — чиновників, військових, дипломатів. Вивантажили пошту двох виробників д…
Microsoft закрив 18 вразливостей у Copilot та Azure
У четвер Microsoft випустила патчі для 18 вразливостей в Azure та Copilot. Більшість — підвищення привілеїв у AI Foundry, Cosmos DB, Container Registry, Fabric, Dataverse і Microso…
GPT-6 Astra — перша модель «критичного» рівня з кібербезпеки
OpenAI вперше присвоїла моделі рівень Critical за кібербезпекою. У тестах під наглядом експертів Astra знайшла невідомі вразливості в браузері й ядрі ОС: exploit для виконання коду…
Nvidia і Palantir не довіряють Claude свої дані
Nvidia, Booz Allen Hamilton і Palantir обмежили роботу з моделлю Anthropic Fable — через політику зберігати логи 30 днів, введену в червні. Nvidia, інвестор Anthropic, перевела вну…
OpenAI: реальні розмови з ChatGPT читають люди
За розслідуванням 404 Media, сотні контрактних працівників OpenAI читають реальні діалоги користувачів ChatGPT і оцінюють відповіді за шкалою від 1 до 7, щоб прибрати зайву лестощі…
Anthropic розсекретила пів року зловживань Claude
Anthropic опублікувала звіт за останні вісім місяців: держхакери Midnight Blizzard (за даними Microsoft, пов'язана з РФ) використовували Claude для розвідки й зламу урядових мереж …
Хакери РФ через Claude шпигували за виробниками дронів
Anthropic пов'язала групу GTG-20006 (Midnight Blizzard) зі Службою зовнішньої розвідки РФ. ШІ-агенти на базі Claude атакували понад 20 організацій в Україні та Європі: міністерства…
Anthropic розкрив ракети, дрони й крадіжку даних Claude
За вісім місяців (грудень 2025 – серпень 2026) Anthropic задокументував: угруповання в Ємені писало через Claude Code софт наведення для трьох ракетних програм, включно з ракетою д…
ChatGPT: хакери крали дані через прихований канал
Check Point Research виявили вразливість: усі ізольовані контейнери ChatGPT мали доступ до спільного сервісу JFrog Artifactory. Хакер ховав шкідливу команду в кастомному GPT, спіль…
67% співробітників заходять у ШІ через особисті акаунти
За Verizon 2026 DBIR, 67% працівників на робочих пристроях користуються AI-сервісами через особисті, некеровані акаунти — це невидимо для DLP і логів безпеки. У середній компанії п…
Anthropic повертає бізнесу контроль над даними
Із червня Anthropic зберігала на своїх серверах дані клієнтів моделей Mythos і Fable та майбутніх флагманських моделей протягом 30 днів, щоб виявляти нові кібератаки із застосуванн…
AgentForger показав ризик автономних агентів
Zenity Labs повідомила про вразливість AgentForger: змінене посилання могло створити автономного агента під акаунтом працівника. За даними перевірки, такий агент міг підключити пош…